← 返回博客

2026-04-09

为什么我们要做 BatchIn:不设过滤器的 AI 推理平台

BatchIn 的存在,是因为开发者需要更便宜的开放模型推理、更清晰的运维控制权,以及一个不会悄悄改写模型行为的平台。

大多数推理平台优先优化的是安全策略,而不是开发者控制权。这对某些客户是合理的,但对于研究工具、无审查助手、工作流智能体、创意产品,以及需要可验证输出路径的合规场景来说,中间留出了明显空白。

BatchIn 的出发点不同。API 必须保持 OpenAI 兼容,价格必须足够激进,平台边界必须说清楚。路由、计费、批处理调度和审计链路属于我们的能力;隐藏式提示词改写和静默内容过滤,不应该成为默认行为。

这套理念直接反映在产品里。我们公开 Batch-first 定价、USDC 支付、Ed25519 可验证审计记录,以及带 SSH root 的 GPU 租赁。团队如果要从一个更受限制的托管平台迁移过来,应该只需要改一个 base_url,而不是重写整套系统。

我们还在早期,但方向已经明确:把 BatchIn 做成市场上最尊重开发者控制权的推理平台。更低成本、更少隐藏限制、更好的运维工具,以及一个敢于如实描述系统能力边界的公共产品界面。