GoForum › 🌐 V2EX

基于机密计算的 LLM 推理商

imnotlxy · 2026-09-20 13:33 · 0 次点赞 · 0 条回复

AI 公司对用户隐私可能不太上心,经常有意或无意地爆雷。

这些都是 coding agent 的问题,但难保 AI 公司的推理服务能遵守其承诺。有些推理商承诺「不用客户提示词训练模型」,甚至零数据留存( ZDR ),但用户无法监督执行情况。所以我整理了一些利用机密计算和端到端加密保证安全的推理服务商,供大家参考。

  • Chutes:入驻 OpenRouter ,支持 Kimi K3 、GLM 5.2 、DeepSeek V4 0731 、Qwen 3.8 27B 等,提供 \(10->\)50 和 \(20->\)100 的套餐。
  • Phala:入驻 OpenRouter ,模型比 Chutes 更全,但没有能够省钱的套餐。
  • Near AI:支持 TEE 的模型比较少,能用的基本只有 GLM 5.3 Flash 、Qwen 3.8 27B 、Kimi K3 。没有套餐。这家的 Kimi K3 价格没有优势。
  • PrivateMode:模型少,比起模型官方渠道有加价。
  • Tinfoil:支持 Kimi K3 、GLM 5.3 、GLM 5.3 Flash 、DeepSeek V4 Flash 0731 ,比起模型官方渠道有加价。
  • Venice:支持模型较多,比起模型官方渠道有加价,提供套餐但套餐的用量补贴较少。

如果接受使用开放权重模型、按量付费,可以考虑上述的推理商。Chutes 提供了套餐,不过据称服务可靠性偏低。上述提供商的端到端加密功能需要用户在本地运行 API 中转。

0 条回复
添加回复
你还需要 登录 后发表回复

登录后可发帖和回复

登录 注册
主题信息
作者: imnotlxy
发布: 2026-09-20
点赞: 0
回复: 0