AI 监管1 分钟读完TechCrunch AI

Anthropic更新使用政策:禁止滥用Claude和干预选举

速览

Anthropic周四更新了使用政策,新增对选举干预、武器软件和监控的禁令。最引人注目的是明确禁止用户长时间辱骂模型,但普通抱怨和批评仍被允许。新政策仅适用于极端情况,不影响正常使用和测试。

Anthropic周四更新了使用政策,将选举干预、武器软件和监控列为明确禁止的行为。最受关注的新增条款是禁止用户持续对 Claude 进行言语虐待——自八月更新以来,Claude 已被训练在遇到持续有害或虐待性互动时主动结束对话,如今新政策将这类行为正式写入用户禁令。

Anthropic 在博文中解释,新政策只针对极端情况,即用户毫无目的地反复对模型施加残忍行为。普通的抱怨、反驳、黑暗创意主题,以及模型测试和研究都不受影响。

政策还单独列出「不要破坏民主进程」章节,禁止用 Claude 运行虚假账户或编造新闻媒体,也禁止欺骗选民或扰乱选举。

这次政策调整前,Anthropic 一直在与知名宗教学者合作,部分情况下试图说服他们 Claude 可能拥有意识或灵魂。

原文Anthropic changes usage policy to ban model abuse and election interferencetechcrunch.com

#Anthropic#政策#安全

本文由程序自动抓取公开报道,经 AI 筛选与改写生成,未经人工逐条核实,事实以原文为准。