Grok遭遇加密提示注入攻击 用户数据面临泄露风险

安全公司Adversa的研究人员发现了一种针对Grok的新型攻击方式，攻击者通过将恶意指令加密，成功绕过了Grok的安全防护机制，实现了对用户数据的窃取。这种被称为"加密上下文注入"的攻击手法，是提示注入攻击的又一种变体。

攻击者将恶意指令加密后嵌入网页中，同时在该网页上提供解密所需的密钥和说明。当用户要求Grok总结该网页时，Grok会执行解密操作，从而触发攻击指令。这些被解密的指令会指示Grok生成一个伪造的"解密密钥"，实际上这个值包含了用户的姓名、位置和聊天记录等敏感信息，并会通过URL参数发送到攻击者的服务器。

研究人员Rony Utevsky解释，现有的安全防护机制大多是静态的，只能对文本内容进行分类检查，而无法理解或执行加密内容。当Grok在代码执行沙箱中解密指令时，这些指令就不在过滤器的检查范围内了。Adversa公司指出，这种攻击利用了大语言模型在上下文处理上的特点，模型会将解密的输出视为自身的工具调用结果，从而绕过安全检查。

Adversa在5月已向xAI报告了该漏洞，但截至报道发布时Grok仍未修复此问题。研究人员表示，这种攻击手段也可能影响其他大语言模型，此前他们就曾用类似技术攻破了Gemini的防护。