ChatGPT「可信联系人」功能将在检测到自残风险时通知亲友

ChatGPT’s ‘Trusted Contact’ will alert loved ones of safety concerns

来源 The Verge AI 日期 英语原文

OpenAI 为 ChatGPT 推出可选的「可信联系人」功能,成年用户可指定一位紧急联系人。当 AI 检测到用户对话涉及自残或自杀主题并经人工审核确认后,系统将向该联系人发送简短通知,不会分享任何聊天内容或对话记录。

OpenAI 宣布为其旗舰产品 ChatGPT 新增一项可选的安全功能:「可信联系人」(Trusted Contact)。该功能允许成年用户在设置中指定一位紧急联系人。

当 ChatGPT 的自动化系统检测到用户可能谈论自残或自杀话题时,系统会鼓励用户主动寻求帮助,并告知其指定的联系人可能收到通知。随后,一支经过专门培训的团队将对相关对话进行审核,若确认为严重安全隐患,将通过邮件、短信或 ChatGPT 应用内通知向可信联系人发送简短信息。

OpenAI 强调,该通知「有意受限」,不会与可信联系人分享任何聊天详情或对话记录。可信联系人功能采用主动加入模式,用户需在 ChatGPT 账户设置中添加联系人信息,联系人须在一周内接受邀请。用户可随时修改或移除联系人,联系人也可自行移除。OpenAI 表示,该功能的设计基于一个简单而经过专家验证的前提:当一个人可能处于危机状态时,与其熟悉且信任的人建立联系,可以带来有意义的帮助。

对 AI 行业的影响

这是 AI 行业在产品层面将心理健康安全承诺落地的最新实践。随着 AI 聊天机器人在日常对话中的渗透扩大,主动的危机干预机制可能逐步成为行业的安全标配。


原文参考

来源:The Verge AI · 2026-05-07

OpenAI is launching an optional safety feature for ChatGPT that allows adult users to assign an emergency contact for mental health and safety concerns. Friends, family members, or caregivers designated as a “Trusted Contact” will be notified if OpenAI detects that a person may have discussed topics like self-harm or suicide with the chatbot. “Trusted […]