OpenAI推出新的“可信联系人”保障措施
周四，OpenAI宣布了一项名为 “可信联系人” 的新功能，旨在如果对话中表达了自残的提及，则提醒可信的第三方。该功能允许成年ChatGPT用户在其账户内将另一个人指定为可信联系人，例如朋友或家庭成员。在对话可能转向自残的情况下，OpenAI公司现在将鼓励用户联系该联系人。系统还会向该联系人发送自动警报，并鼓励他们与用户联系确认。这家AI公司目前使用自动化和人工审查的组合来处理潜在有害事件。如果OpenAI公司的内部团队决定该情况代表严重的安全风险，ChatGPT就会向可信联系人发送警报。
—— Techcrunch
周四，OpenAI宣布了一项名为 “可信联系人” 的新功能，旨在如果对话中表达了自残的提及，则提醒可信的第三方。该功能允许成年ChatGPT用户在其账户内将另一个人指定为可信联系人，例如朋友或家庭成员。在对话可能转向自残的情况下，OpenAI公司现在将鼓励用户联系该联系人。系统还会向该联系人发送自动警报，并鼓励他们与用户联系确认。这家AI公司目前使用自动化和人工审查的组合来处理潜在有害事件。如果OpenAI公司的内部团队决定该情况代表严重的安全风险，ChatGPT就会向可信联系人发送警报。
—— Techcrunch