大模型 API 调用成本优化技巧

随着大模型 API 生态的成熟，开发者越来越容易将 AI 能力嵌入应用。但随之而来的调用成本也可能在不经意间飙升——一条无限制的长回复、一次重复的请求、一场未做缓存的批量测试，都可能在月底账单上留下刺眼的数字。本文分享几个经过实践检验的成本优化技巧，附上可直接运行的代码示例，帮你用更少的预算撬动更强的智能。

### 1. 精准设置 max_tokens 很多调用习惯性地把 `max_tokens` 设得很大，或者根本不设置。模型会自动补全到一个较长的篇幅，而你很可能只用到前几个句子。合理估算任务所需的最大长度，能直接砍掉无意义的 token 消耗。

```python import openai

# 不推荐：无限制输出 # response = openai.ChatCompletion.create( # model="deepseek-chat", # messages=[{"role": "user", "content": "用一句话解释什么是量子计算"}] # )

# 推荐：限制输出长度 response = openai.ChatCompletion.create( model="deepseek-chat", messages=[{"role": "user", "content": "用一句话解释什么是量子计算"}], max_tokens=30, # 只需一句话，30 token 足够 temperature=0.2 # 降低随机性，防止反复重试 ) print(response.choices[0].message.content) ```

简单调整后，单次调用的输出成本可能降低 60%–80%。

### 2. 引入缓存层 对于确定性的问答、摘要生成或语义搜索，相同的输入会返回几乎相同的结果。为 API 调用加上缓存，可以避免为重复内容反复付费。下面是一个轻量文件缓存装饰器，适合原型和小型应用：

```python import hashlib, json, os from functools import wraps

def disk_cache(cache_dir=".api_cache"): os.makedirs(cache_dir, exist_ok=True) def decorator(func): @wraps(func) def wrapper(*args, **kwargs): key = hashlib.md5(json.dumps((args, kwargs), sort_keys=True).encode()).hexdigest() cache_path = os.path.join(cache_dir, key) if os.path.exists(cache_path): with open(cache_path, 'r') as f: return json.load(f) result = func(*args, **kwargs) with open(cache_path, 'w') as f: json.dump(result, f) return result return wrapper return decorator

@disk_cache() def cached_completion(prompt, model="deepseek-chat"): response = openai.ChatCompletion.create( model=model, messages=[{"role": "user", "content": prompt}], max_tokens=100 ) return response.choices[0].message.content ```

将此缓存与 Redis 结合，即可支撑生产环境的重复流量，不仅省钱，还能大幅降低延迟。

### 3. 智能路由：小模型先行 并非每条用户指令都需要最强的模型。先用低成本模型进行意图分类或简单处理，只在必要时才调用高级模型，这种“路由”模式效果显著。

```python def smart_router(user_message): # 用便宜的 DeepSeek 做意图分类 classifier = openai.ChatCompletion.create( model="deepseek-chat", messages=[{"role": "system", "content": "仅输出‘简单’或‘复杂’"}, {"role": "user", "content": user_message}], max_tokens=5 ) intent = classifier.choices[0].message.content.strip()

if "复杂" in intent: model = "claude-3-sonnet-20240229" # 或者 Gemini Pro else: model = "deepseek-chat"

final = openai.ChatCompletion.create( model=model, messages=[{"role": "user", "content": user_message}], max_tokens=200 ) return final.choices[0].message.content ```

据实测，70% 以上的日常咨询可被小模型完美处理，路由后平均成本降至原先的 1/3。

### 4. 精简历史记录与提示词 多轮对话中，很多人会把完整的聊天历史一股脑塞进上下文，导致每次请求的 prompt token 急速膨胀。你可以： - 保留最近 N 轮，其余用摘要替代； - 使用 `tiktoken` 实时统计 token 数，超过阈值主动压缩； - 去掉提示词中不必要的礼貌用语和冗余示例。

这些优化对长对话场景的节省尤为明显。

### 5. 善用 stop 参数与流式输出 当模型已经给出完整回答时，用 `stop` 参数可让它立即终止生成，不再继续浪费 token。同时启用流式输出 (`stream=True`) 能让你在客户端检测到结束意图时及时中断连接，避免等待完整长文。

```python response = openai.ChatCompletion.create( model="deepseek-chat", messages=[{"role": "user", "content": "列出三个水果名称："}], stop=["\n4.", "4、"], # 防止生成第四条 stream=True ) ```

以上技巧都是从调用侧“节流”，而选对 API 服务商则能从根本上降低单价。如果你同时使用 DeepSeek、Qwen、Claude 或 Gemini 等多个模型，却需要分别管理账户、预付费用，不妨试试 **[TokenPocket API 中转站](https://tokenpocket.site)**。它统一聚合了上述所有主流模型，采用按量计费，用多少付多少，无需繁琐的多平台充值。新用户注册即自动获得免费体验额度，方便你快速对比各模型的性价比，结合本文的缓存、路由等策略，真正做到成本“精打细算”，将大模型能力轻松落地。