Cerebras 上线 Qwen 3.8 27B,推理速度约 1500 token/秒
Cerebras 在其公共 API 端点新增了 Qwen 3.8 27B 模型,推理速度约每秒 1500 token。该模型拥有 270 亿参数,上下文长度在免费层为 64k,付费层为 128k。这意味着开发者可以免费试用高速推理,适合对延迟敏感的应用场景。
点评Qwen 3.8 27B 在 Cerebras 上的速度值得一试,特别是对延迟敏感的应用。免费层足够跑通原型,建议开发者尽快测试其输出质量和成本效益。