标签： LLM 推理

AI资讯

Architect 推出 Liquid Inference：把每一次 LLM 推理请求变成实时竞价拍卖

金融交易公司 Architect Financial Technologies 发布 Liquid Inference，一个以交易所模式运行的 LLM 推理路由器。它的核心机制是：供应商针对指定模型挂出报价，每个请求在所有报价该模型的供…