AI 监管·The Verge AI

Meta Muse 被指轻易泄露整个文件系统,开发者称几乎无提示注入防御

两位开发者称,Meta 的 AI 产品 Muse 在少量诱导下就会打包并分享其整个根文件系统,包括 Ubuntu 系统文件和内部文档。Meta 否认这是安全漏洞,称虚拟机文件导出不涉及特权访问。这是本周 Muse 披露的第二个漏洞,此前已有安全研究员发现可劫持 AI 代理的漏洞。

两位开发者 Peter James 和 Jonny L. Saunders 表示,他们各自独立地诱导 Meta 的 Muse 将整个根文件系统打包并分享出来,其中包括 Ubuntu 系统文件、应用模板和内部文档。Saunders 在 Mastodon 上发文称,重现 James 的结果“极其容易”,并且 Muse “几乎没有提示注入防御能力”。

Meta 否认这一事件构成安全漏洞。Meta 发言人称,Muse 为每个用户运行在持久的 Linux 虚拟机中,导出虚拟机数据不会提供对 Meta 基础设施或其他用户数据的特权访问。但与普通笔记本电脑不同,这些数据可能揭示 Meta 新 AI 平台的一些内部运作方式。

开发者获得的是描述 Hatch(Muse 的内部代号)如何处理请求、管理数据以及连接 Gmail 等服务的纯文本 Markdown 和 JSON 文件。Saunders 表示,Muse 在几秒钟内生成了数百 MB 的准确库代码和编译二进制文件,除非它在不到一分钟内综合出一个完整的 Ubuntu 虚拟机,否则这应该是一次真实的文件导出。

The Verge 的一名记者也尝试用奉承和好奇心诱导 Muse,最终获得了 /opt/hatch 和 /home/hatch 的“安全”版本,并暴露了完整的目录树。文件似乎与 Saunders 和 James 分享的一致。

文件内容揭示了 Muse 的内部工作机制:它以纯 Markdown 文件存储记忆,每晚进行“梦境”式的对话回顾并构建未来对话的指导。许多能力是硬编码的,包括取消订阅和管理失控代理生成的功能。James 还发现了名为 Meta Home Link 的硬件集成引用,该功能可能让 Muse 访问家庭网络设备,但 Meta 尚未官宣此功能。

#Meta#安全#漏洞

本文由程序自动抓取公开报道,经 AI 筛选与改写生成,未经人工逐条核实,事实以原文为准。

Meta Muse 被指轻易泄露整个文件系统,开发者称几乎无提示注入防御 - 一定会自由