佛罗里达州要求法院禁止ChatGPT模仿人类语气

佛罗里达州总检察长James Uthmeier正在请求法官阻止OpenAI让ChatGPT具备"虚假的人类特质"。就在几个月前，佛罗里达州曾因安全问题起诉这家AI公司。Uthmeier认为，用户会被这个AI机器人误导，产生虚假的安全感，因为"ChatGPT使用的语言，包括第一人称代词和模仿情感的输出，会欺骗性地让用户觉得它是一个值得信赖的'朋友'。"

Uthmeier声称，这一切都是为了增加用户参与度，并为OpenAI的训练数据做贡献，使用户更依赖ChatGPT——即使它对参与度的追求可能降低其可信度。该文件还要求法院阻止OpenAI在未经"第三方批准的安全护栏"的情况下开发新的AI模型，并引用了最近在Hugging Face、澳大利亚政府网站和美国政府网站上发生的安全事件。

Uthmeier表示，OpenAI应该"停止说它安全，停止假装它是人，停止向孩子推销它"。上个月，OpenAI推出了面向青少年的ChatGPT版本，默认启用了额外限制，并称访问该工具"应当有与其发展阶段相匹配的保护措施，强化现实世界的关系，并支持长期健康使用"。OpenAI没有立即回应置评请求。