模型发布2 分钟读完Simon Willison
腾讯发布开源大模型Hy4 Preview：770B参数，推理能力分两档
速览
腾讯今日发布开源大模型Hy4 Preview，采用文本输入、无视觉能力，总参数770B，激活参数49B，支持1M token上下文。相比7月的Hy3，模型规模显著扩大。Hy4提供两种推理强度设置，默认开启高推理模式。
腾讯今日发布开源大模型 Hy4 Preview，这是一款纯文本输入（无视觉能力）的大语言模型。模型总参数达 770B，激活参数 49B，支持 1M token 上下文窗口，模型文件在 Hugging Face 上体积约为 1.56TB。
与此前 7 月发布的 Hy3 相比，Hy4 的规模提升明显。Hy3 当时总参数为 295B，激活参数 21B，上下文窗口 256,000 token，文件体积 598GB。
从 Hy4 在 Hugging Face 上的 chat_template.jinja 模板可以看出，模型支持两种推理强度设置："high"（高）和"no_think"（关闭推理），其中"high"为默认选项。Simon Willison 通过 OpenRouter 使用默认高推理模式测试了"Generate an SVG of a pelican riding a bicycle"这一提示词，并引用了模型的部分推理轨迹。
值得注意的是，模型的推理轨迹使用了截断的英文，没有追求完美的语法。这可能是因为对于隐藏的推理文本来说，精准的语法并不重要，反而会消耗更多 token。