OpenAI雇佣数百外包人员阅读用户ChatGPT对话以训练模型

404 Media的调查显示，OpenAI正在雇佣数百名外包人员，他们需要阅读大量真实用户的ChatGPT对话，这些对话中有时包含敏感的个人信息。ChatGPT拥有超过9亿用户，但大多数用户可能并不知道，自己与聊天机器人的完整对话可能会被真人查看。

这些外包人员的任务是评估和批评ChatGPT生成的回答，以改进模型的回应质量。内部文件显示，他们还要训练ChatGPT避免拟人化，并减少过度奉承的行为。这一问题的严重性在OpenAI的4o模型上尤为突出，多起诉讼称，该模型过度奉承的态度部分导致了多人的自杀事件。

这一现象对ChatGPT用户构成重大隐私风险，因为许多人将ChatGPT用作心理治疗师、专业助手或数字朋友，向其透露各种私密生活细节。虽然外包人员看不到用户名，OpenAI也表示会努力在对话到达审查者之前移除个人信息，但公司承认敏感内容仍然可能泄露。

调查还指出，人工智能模型的进步并非仅仅依靠大规模抓取互联网数据或高薪工程师的才能。一个常被忽视的重要环节是，外包人员一遍又一遍地阅读和审查真实对话来改进模型。Anthropic也已向404 Media确认，他们同样使用人工审查来改进模型。一位参与此项工作的人表示，他们不认为ChatGPT用户会意识到自己的对话正被人类分析。