MarkTechPost· Michal Sutter·· 5 小时前AI 评分62
Architect 推出 Liquid Inference：面向 LLM 推理的实时拍卖市场
Architect Launches Liquid Inference, a Real-Time Auction for LLM Inference
AI 导读
Architect Financial Technologies 发布 Liquid Inference，这是一个为每个请求运行实时拍卖的 LLM 路由器。该工具允许提供商竞价服务特定模型，买方支付符合规则的最低报价，且只需替换基础 URL 即可保持代码不变。
来源：MarkTechPost · marktechpost.com