硅基流动 (SiliconFlow) 与极速推理网关配置
对于国内用户或追求极致响应速度的创作者,使用高并发推理网关可以彻底免除海外网络环境的烦恼,以极高性价比和稳定性调用 DeepSeek-R1、DeepSeek-V3、Qwen 2.5 等开源前沿大模型。
DuRT 原生深度兼容 SiliconFlow(硅基流动)、Groq(LPU 超低延迟推理) 以及 OpenRouter(全球多模型路由)。
1. 硅基流动 (SiliconFlow) —— 国内直连首选
SiliconFlow 汇聚了全球顶尖的开源大模型,并在国内骨干网部署了高性能推理集群。
支持的代表模型
deepseek-ai/DeepSeek-R1/Pro/deepseek-ai/DeepSeek-R1:具备完整深度思考能力;deepseek-ai/DeepSeek-V3/Pro/deepseek-ai/DeepSeek-V3:超强通用写作与翻译;Qwen/Qwen2.5-72B-Instruct:全能型中文与多语言模型。
接入步骤
- 访问并注册 SiliconFlow 开发者平台 (cloud.siliconflow.cn);
- 进入 API 密钥 页面,创建并复制密钥(以
sk-...开头); - 在 DuRT 客户端中,进入 设置 ➔ AI & LLM ➔ 点击 “添加服务” ➔ 选择 SiliconFlow (硅基流动);
- 粘贴 API Key,Base URL 保持默认
https://api.siliconflow.cn/v1; - 选择您想使用的模型(如
Pro/deepseek-ai/DeepSeek-R1),点击测试连接并保存。
2. Groq —— 颠覆性的毫秒级 LPU 极速推理
Groq 采用独特的 LPU(Language Processing Unit)硬件架构,将大模型的每秒输出 Token 数推向数百甚至上千,几乎实现文字“瞬间瀑布流打印”。
- 适用场景:DAG 工作流需要并行快速清洗成百上千条分段字幕文本;
- 代表模型:
llama-3.3-70b-versatile、llama-3.1-8b-instant、gemma2-9b-it; - 接入方式:在 DuRT 中添加 Groq 服务,填入 console.groq.com 获取的 API Key,Base URL 为
https://api.groq.com/openai/v1。
3. OpenRouter —— 全球模型聚合网关
OpenRouter 类似于大模型领域的“银联”,单个账户即可动态调用全球数百种商用与开源大模型,智能根据拥堵情况和成本进行路由。
- 接入方式:在 DuRT 中添加 OpenRouter 服务,填入获取的统一密钥,Base URL 为
https://openrouter.ai/api/v1。
