Skip to content

硅基流动 (SiliconFlow) 与极速推理网关配置 ​

对于国内用户或追求极致响应速度的创作者,使用高并发推理网关可以彻底免除海外网络环境的烦恼,以极高性价比和稳定性调用 DeepSeek-R1、DeepSeek-V3、Qwen 2.5 等开源前沿大模型。

DuRT 原生深度兼容 SiliconFlow(硅基流动)、Groq(LPU 超低延迟推理) 以及 OpenRouter(全球多模型路由)。


1. 硅基流动 (SiliconFlow) —— 国内直连首选 ​

SiliconFlow 汇聚了全球顶尖的开源大模型,并在国内骨干网部署了高性能推理集群。

支持的代表模型 ​

  • deepseek-ai/DeepSeek-R1 / Pro/deepseek-ai/DeepSeek-R1:具备完整深度思考能力;
  • deepseek-ai/DeepSeek-V3 / Pro/deepseek-ai/DeepSeek-V3:超强通用写作与翻译;
  • Qwen/Qwen2.5-72B-Instruct:全能型中文与多语言模型。

接入步骤 ​

  1. 访问并注册 SiliconFlow 开发者平台 (cloud.siliconflow.cn);
  2. 进入 API 密钥 页面,创建并复制密钥(以 sk-... 开头);
  3. 在 DuRT 客户端中,进入 设置 ➔ AI & LLM ➔ 点击 “添加服务” ➔ 选择 SiliconFlow (硅基流动);
  4. 粘贴 API Key,Base URL 保持默认 https://api.siliconflow.cn/v1;
  5. 选择您想使用的模型(如 Pro/deepseek-ai/DeepSeek-R1),点击测试连接并保存。

2. Groq —— 颠覆性的毫秒级 LPU 极速推理 ​

Groq 采用独特的 LPU(Language Processing Unit)硬件架构,将大模型的每秒输出 Token 数推向数百甚至上千,几乎实现文字“瞬间瀑布流打印”。

  • 适用场景:DAG 工作流需要并行快速清洗成百上千条分段字幕文本;
  • 代表模型:llama-3.3-70b-versatile、llama-3.1-8b-instant、gemma2-9b-it;
  • 接入方式:在 DuRT 中添加 Groq 服务,填入 console.groq.com 获取的 API Key,Base URL 为 https://api.groq.com/openai/v1。

3. OpenRouter —— 全球模型聚合网关 ​

OpenRouter 类似于大模型领域的“银联”,单个账户即可动态调用全球数百种商用与开源大模型,智能根据拥堵情况和成本进行路由。

  • 接入方式:在 DuRT 中添加 OpenRouter 服务,填入获取的统一密钥,Base URL 为 https://openrouter.ai/api/v1。

Crafted with precision for macOS.