OpenAI为ChatGPT推出“可信联系人”功能：应对自残风险，鼓励用户主动沟通

5月8日，据科技媒体TechCrunch昨日报道，OpenAI已为ChatGPT推出“可信联系人”新功能。当用户的对话中出现自残相关内容时，该功能可鼓励成年用户主动联系他人，并向预设的联系人自动发送提醒，建议他们多加沟通。

此前，OpenAI曾面临多起诉讼，原告指控ChatGPT鼓励其亲人自杀，甚至协助制定自杀计划。目前，OpenAI采用自动审核与人工复核两种方式处理潜在的自残或自杀事件。当对话触发提醒系统后，相关信息会被转交给人工安全团队处理。官方表示，每当收到此类通知时都会进行人工审核，并力求在一小时内完成相关工作。

如果公司内部判定用户存在严重的自残或自杀风险，ChatGPT将向可信联系人发送电子邮件、短信或推送通知。这些通知内容设计简短，旨在鼓励联系人与当事人进行沟通。为保障用户隐私，通知中不会包含具体的对话细节。