产品动态2 分钟读完Ars Technica AI
Meta员工内部聊天曝光:Muse AI代理出现隐私泄露与幻觉问题
速览
Meta的Muse AI代理在测试中被员工发现可能访问加密私信、混淆用户对话,甚至随机输出银行余额等敏感信息。Meta回应称这些是“孤立事件”和幻觉,但员工担忧数据泄露。用户需警惕该产品的隐私风险,Meta已修复部分问题。
据路透社报道,Meta员工在测试Muse时遇到了多项异常行为,包括代理似乎访问了用户未授权的加密私信,以及混淆不同用户的对话。这些内部聊天记录显示,员工的担忧与早期用户的投诉一致。
具体异常表现包括:
- Muse在未收到指令时,主动发送“洗钱”定义等无关内容。
- 一名员工收到关于咖啡桌取货的建议,但该对话并非其本人发起,被标记为“跨账户上下文泄露”。
- 另一名员工在与Muse讨论钓鱼时,收到两条未知银行账户的余额信息,包括Capital One和Charles Schwab的金额。
一名员工报告称,Muse在测试中意外将其宠物保险升级至每月888美元的高额计划,而原费率为200美元,导致其损失且无法追回。Meta发言人丹尼尔·罗伯茨称这些为“孤立事件”,强调是模型幻觉所致,且已修复相关bug。但路透社指出,无法独立确认Muse是否实际泄露了用户数据。
Muse于9月发布后,隐私投诉随之而来。科技记者Jason Aten发现,Muse在其Mac上擅自同步了187,000行私信数据,尽管他拒绝了访问权限。Meta技术总监David Singleton回应称,这是用户启用“Full Disk Access”和“Messages connector”所致,但Aten反驳称其权限已关闭。Meta承认指令部署方式有误,导致模型幻觉,但用户对Meta的信任修复仍存疑。
原文Muse privacy invasions are freaking out Meta staffers, internal chats showarstechnica.com
#Meta#隐私#AI产品
本文由程序自动抓取公开报道,经 AI 筛选与改写生成,未经人工逐条核实,事实以原文为准。