Architect 推出 Liquid Inference：把每一次 LLM 推理请求变成实时竞价拍卖
来源MarkTechPost查看原文
速览
- 把金融交易所的竞价机制搬到 LLM 推理路由上，是这次发布最核心的差异点
- 买方规则可覆盖成本、延迟、吞吐、区域、数据留存和供应商白名单
- 最高价在首 token 前锁定，避免生成中途价格失控
- 开发者只需换 base URL，兼容 OpenAI 与 Anthropic 客户端
- 前 500 名用户 20 美元额度，推荐返利 20% 加二级 10%
- 供应商可依据自身成本动态调价，按需出售闲置 GPU 算力
- 平台费率、供应商名单、延迟数据均未披露
- 官方称模型数量为「数百」，明显少于 OpenRouter 的 500+
金融交易公司 Architect Financial Technologies 发布 Liquid Inference，一个以交易所模式运行的 LLM 推理路由器。它的核心机制是：供应商针对指定模型挂出报价，每个请求在所有报价该模型的供应商之间进行拍卖，满足买方规则的最低报价中标。买方可以设置单次任务成本上限、首 token 时间上限、最低吞吐量，以及指定区域、零数据留存、供应商/模型白名单等约束；最高价格在生成开始前锁定，计费只按实际用量结算。开发者只需替换 base URL，代码不用改，即可兼容 OpenAI 和 Anthropic 客户端，官方点名的工具包括 Claude Code、Codex、OpenCode、Cursor、Pi 和 Cline。定价方面，前 500 名注册用户获得 20 美元免费推理额度，推荐返利为被推荐者费用的 20%，二级推荐再返 10%。供应商通过应用入驻，官方称验证「以分钟计而非以周计」，报价和模型注册走 REST 与 WebSocket API，结算通过 Stripe 并逐笔提供明细。
关键事实
- Liquid Inference 由 Architect Financial Technologies 推出，对每个 LLM 请求执行实时拍卖，满足买方规则的最低报价中标
- 买方规则包括单次任务成本上限、首 token 时间上限、最低吞吐量、指定区域、零数据留存、供应商或模型白名单
- 最高价格在生成开始前锁定，计费只覆盖实际计量用量，并生成逐笔回执
- 兼容 OpenAI 和 Anthropic API，官方点名支持 Claude Code、Codex、OpenCode、Cursor、Pi、Cline
- 前 500 名用户获得 20 美元免费推理额度；推荐返利为被推荐费用的 20%，二级推荐 10%
- 供应商通过 REST 和 WebSocket API 注册模型与报价，结算走 Stripe，官方称验证以分钟计
本站视角
这件事最直接的影响对象是三类人。第一类是自建 Agent 或调用多家模型 API 的中小团队，尤其是对成本敏感、又需要控制数据留存和区域的开发者——Liquid Inference 把「成本上限 + TTFT + 吞吐 + 区域 + ZDR + 白名单」打包成竞价约束，等于把过去要在应用层手写的路由逻辑下沉到了基础设施层，如果真能跑通，能省掉一部分自研路由的工程量。第二类是手里有闲置 GPU 的推理服务商和算力中间商，按需报价、按需出售闲置容量的模式，比签长期合约更灵活，但代价是收入波动更大、且要向平台暴露报价。第三类是 OpenRouter 这类既有路由平台，拍卖机制如果被证明能压低实际成交价，会构成直接的定价压力。 我们的判断是：机制设计上有新意，但目前更像是一次「概念验证 + 拉新」的组合拳，而不是已经验证的成熟产品。理由有三。其一，最关键的商业参数全部缺失——平台费率未披露，供应商名单未披露，延迟数据未披露。对比之下 OpenRouter 明确写了 5.5% 信用卡手续费和 0.80 美元最低值，Hugging Face 明确写了不加价。一个交易市场不公布自己的抽成，很难让人判断它到底是靠价差赚钱还是靠补贴换规模。其二，官方只给出「数百」个模型的模糊说法，而 OpenRouter 是 500+ 模型、80+ 供应商，Hugging Face 是 18 家合作方，量级上的差距是实打实的。拍卖要成立的前提是同一模型有足够多的供应商同时报价，否则「最低价中标」只是名义上的竞争。其三，20 美元免费额度只给前 500 名用户，加上 20%/10% 的两级推荐返利，这套增长设计明显偏向短期拉新，而不是面向企业客户的长期采购谈判。 需要观察的是：拍卖模式在高并发和低并发两种极端场景下的表现是否一致；供应商是否愿意持续参与竞价，还是只在算力闲置时才来挂单；以及「最高价在首 token 前锁定」在实际计费中如何处理生成中断、重试等边界情况。这些原文都没有给出答案。对国内团队而言，短期内更现实的做法是把它当作一个可对比的报价来源，而不是立刻把生产流量切过去。
背景与影响
Architect 本身是一家交易公司，运营 AX 永续合约交易所，并在 2026 年 5 月收购了一家美国指定合约市场（Designated Contract Market），计划上线 GPU 算力期货，目前仍在监管审查中。这意味着 Liquid Inference 并非出自 AI 实验室，而是把做金融交易所积累的双边价格发现经验，移植到推理算力这个正在快速商品化的市场。从行业格局看，LLM 推理路由已有 OpenRouter（价格加权负载均衡，500+ 模型、80+ 供应商，信用卡手续费 5.5%、最低 0.80 美元）和 Hugging Face Inference Providers（默认选最快供应商，可选 :cheapest 后缀，18 家合作方，不加价）两个主要玩家。Liquid Inference 的差异在于把「路由」变成「拍卖」，并公开实时订单簿和成交记录——这种市场数据透明度在 LLM API 领域并不常见。对国内做 Agent 和推理中间层的团队来说，值得关注的是它把成本上限、TTFT、吞吐、区域和零数据留存都做成了可编程的竞价约束，这套抽象如果被验证有效，可能会影响后续路由产品的设计思路。需要观察的是：拍卖模式在请求量稀疏时是否还能形成有效竞争，以及供应商是否愿意长期以竞价方式暴露自己的成本结构。
本文由 AI 辅助整理自公开信源，事实部分以原文为准；「本站视角」一节为编辑部判断，欢迎指正。版权归原作者所有，如有异议请联系我们。