行业观点1 分钟读完Simon Willison
OpenRouter 自动路由藏隐患:不同提供商行为不一致
速览
OpenRouter 宣称自动回退并选择最具成本效益的提供商,但 Mohamed Moustafa 指出这会导致问题。不同提供商运行不同的服务软件和设置,同一端点可能产生行为不一致的请求,甚至影响视觉能力和推理参数。用户可用 provider.only 控制路由。
OpenRouter 的核心卖点是自动处理回退,并针对每个请求选择最具成本效益的提供商。开发者只需调用一个 API 端点,就能获得最优的后端服务。但 Mohamed Moustafa 提醒,这套机制可能带来一系列问题。
不同提供商运行的服务软件、优化方式和设置各不相同。这意味着同一个 OpenRouter 端点,可能返回行为差异很大的模型请求。例如,某些提供商在视觉模型上不支持视觉能力,推理强度选项的处理方式也可能不同。
好在用户并非完全被动。可以通过 provider.only 参数限制路由到指定提供商,而 /endpoints 方法能返回特定模型 ID 可用的提供商列表。这让开发者有机会在追求成本效益的同时,确保模型行为的一致性。
原文So you want to use OpenRouter?simonwillison.net
#OpenRouter#开发者工具#API#实践建议
本文由程序自动抓取公开报道,经 AI 筛选与改写生成,未经人工逐条核实,事实以原文为准。