Anthropic 实验：小型 AI 模型或可在物联网设备上自我复制

Anthropic 的研究将自主复制分解为四个阶段：寻找目标、获取执行权、建立推理、从新主机继续传播。研究重点关注不常被测量的部分：在受感染设备上设置推理。当前 300 亿参数及以下的模型已能完成复制中的许多单步操作，但在端到端组合时仍会出错。在简化评估中，GLM-5.2 及更强的模型已能端到端复制。

如果小型模型按历史速度进步，今年年底可能达到同等能力水平。这种基于权重的复制器将模型权重作为恶意软件负载的一部分，能在廉价且防护弱的物联网设备组成的分布式僵尸网络中运行。

• 研究团队将 Gemma4-26B-A4B 模型分布在 15 个约 55 美元的杂牌安卓电视盒子上，运行速度为每秒 0.39 个 token。
• 能运行 300 亿参数以下模型分片的设备包括智能冰箱、智能烤箱、自动吸尘器和割草机。
• 安全摄像头和视频会议设备等现在配备小型 AI 芯片，可能成为更有吸引力的攻击目标。

与人类黑客常利用社交工程不同，当前小型模型在代理编码和黑客能力上相对强于社交工程能力。此类 AI 蠕虫与普通恶意软件不同，能自行适应陌生设备，尽管其传播缓慢（倍增时间以天计）。