为你的应用轻松接入多模型 AI 能力

随着大模型生态的爆发，我们的应用不再只需要一种 AI 能力——有时需要 Claude 的长文理解，有时需要 DeepSeek 的超高性价比推理，有时又需要 Gemini 的多模态处理。如果把每个模型都单独对接一遍，API 格式、计费方式、密钥管理将迅速变成一场噩梦。这篇文章就来分享一套轻量、实用的多模型接入方案，让你用同一套代码无缝调用多种大模型。

## 统一接口：为什么需要抽象层

不同厂商的 API 设计各不相同。OpenAI 使用 Chat Completions 格式，Anthropic 的 Messages API 又有自己的结构，Google 的 Gemini 则是另一套体系。直接在各处写请求逻辑会导致代码高度耦合，切换或同时使用多个模型时会非常痛苦。

一个好的实践是构建一个薄薄的抽象层，把“使用哪个模型”和“具体怎么调用”解耦。下面是一个 Python 示例，利用 `aiohttp` 实现可扩展的多模型客户端：

```python import aiohttp import asyncio from typing import List, Dict, Optional

class BaseLLMClient: def __init__(self, api_key: str, base_url: str): self.api_key = api_key self.base_url = base_url async def chat(self, model: str, messages: List[Dict], **kwargs) -> str: raise NotImplementedError

class OpenAICompatibleClient(BaseLLMClient): async def chat(self, model: str, messages: List[Dict], **kwargs) -> str: headers = { "Authorization": f"Bearer {self.api_key}", "Content-Type": "application/json" } payload = { "model": model, "messages": messages, **kwargs } async with aiohttp.ClientSession() as session: async with session.post(f"{self.base_url}/chat/completions", json=payload, headers=headers) as resp: data = await resp.json() return data["choices"][0]["message"]["content"] ```

这里的 `OpenAICompatibleClient` 可以通吃所有遵循 OpenAI Chat Completions 格式的接口，包括 DeepSeek、Qwen 以及众多开源模型的部署。对于格式特殊的模型，也可以继承 `BaseLLMClient` 单独实现，但输出统一为纯文本，上层业务完全不感知差异。

## 多模型路由：按任务动态选择

有了统一客户端，下一步是让系统能根据任务成本、能力、延迟自动选择模型。一个简单的路由器如下：

```python class ModelRouter: def __init__(self): self.clients = {} self.model_config = {} def register(self, name: str, client: BaseLLMClient, config: dict): self.clients[name] = client self.model_config[name] = config async def route(self, task_type: str, messages: List[Dict]) -> str: # 简单的规则路由，实际可用更复杂策略 if task_type == "code": model = "deepseek-chat" # 性价比高，代码能力强 elif task_type == "long_context": model = "claude-3-haiku" # 长上下文且快速 elif task_type == "vision": model = "gemini-1.5-flash" else: model = "deepseek-chat" client = self.clients.get(model) if not client: raise ValueError(f"Unknown model: {model}") return await client.chat(model, messages) ```

使用时只需注册各模型的客户端，即可一行代码完成智能调度：

```python router = ModelRouter() router.register("deepseek-chat", OpenAICompatibleClient("sk-xxx", "https://api.deepseek.com"), {}) router.register("claude-3-haiku", OpenAICompatibleClient("sk-xxx", "https://api.anthropic.com"), {}) # 实际 Claude 的格式不同，此处仅示意可封装适配

reply = await router.route("code", [{"role": "user", "content": "用 Python 实现快速排序"}]) ```

## 成本与配额管理

多模型接入必然带来成本控制的需求。可以在路由器中加入简单的计数器，或者更推荐的办法是接入一个统一的 API 中转站，由它直接提供多模型的兼容接口和统一的计费。这样就无需自己维护一堆厂商账号和支付方式，也不用担心某个模型突然欠费影响服务。

## 让集成更简单

自己封装虽然灵活，但维护适配、处理计费仍然消耗精力。对于追求效率的开发者，我更推荐使用 **TokenPocket API 中转站**（[https://tokenpocket.site](https://tokenpocket.site)）。它直接提供了 OpenAI 兼容的接口，后端已经接入了 DeepSeek、Qwen、Claude、Gemini 等主流模型，所有模型按量计费，统一用 USDT 支付，不用再为每个厂商单独充值。新用户注册还会自动赠送免费额度，非常适合快速验证想法或小型项目上线。

直接用上面写好的 `OpenAICompatibleClient`，只需将 `base_url` 换成 TokenPocket 的地址，`api_key` 使用平台生成的密钥，就可以一行代码不改地享用多种模型。多模型能力，从未如此轻巧。