AI研究者发布系列视频警告超级智能‘和听起来一样危险’
OpenAI、Google DeepMind和Anthropic的现任及前任员工在一系列访谈视频中警告超级智能的风险。前OpenAI研究员Geoffrey Irving称人类灭绝概率约为抛硬币，另一位研究员Daniel Kokotajlo表示超级智能‘像神一样强大’且无法被控制。这些视频由非营利组织Palisade Research发布在frominside.ai网站上。
非营利组织Palisade Research发布了一系列与AI研究者的访谈视频，受访者包括OpenAI、Google和Anthropic的现任及前任员工。视频中多位研究者对超级智能的风险发出了严厉警告，与近期其他‘末日论’观点呼应。
前OpenAI和Google DeepMind员工Geoffrey Irving在访谈中表示：‘在我看来，人类灭绝的概率大约像抛硬币一样。’Google DeepMind研究科学家Neel Nanda则认为‘至少有10%的概率会导致人类灭绝，这个数字高得离谱。’
前OpenAI研究员Daniel Kokotajlo的表述更为极端，他声称超级智能‘基本上会像神一样强大’，并且‘我们完全不知道如何控制它们，所以很可能没人能控制它们。这正如它听起来一样危险，绝不允许发生。’
这些视频可在frominside.ai网站上完整观看，网站还按主题整理了多位受访者的观点片段，包括这些警告是否只是炒作或营销，以及为何他们愿意从事自己认为危险的工作。Google研究员Mary Phuong在回答中坦言：‘你应该怀疑我说的话，因为我是由实验室付薪的。’Nanda则解释自己继续工作的原因：‘如果我不相信我的工作能直接降低这些生存风险，我会辞职……这些公司不会因为我辞职就停止开发这些系统。’
原文出处
AI researchers put out videos saying superintelligence is ‘exactly as dangerous as it sounds’theverge.com
本文由程序自动抓取公开报道，经 AI 筛选与改写生成，未经人工逐条核实，事实以原文为准。