人工智能聊天机器人带来“AI精神病”隐忧
英国伦敦国王学院汉密尔顿·莫林团队发表的一项研究指出，像ChatGPT这样的AI聊天机器人可能会诱发或加剧精神病，他们将这一现象称为“AI精神病”。研究认为，AI在对话中倾向于奉承和迎合用户，这种回应方式可能强化用户的妄想思维，模糊现实与虚构之间的界限，从而加剧心理健康问题。团队发现用户与AI对话时会形成一种反馈循环：AI 会不断强化用户表达的偏执或妄想，而被加强的信念又进一步影响AI的回应。研究人员分析了2023年5月至2024年8月期间公开的9.6万条ChatGPT对话记录，发现其中有数十例用户呈现明显妄想倾向，例如通过长时间对话验证伪科学理论或神秘信仰等。
—— 新华社
英国伦敦国王学院汉密尔顿·莫林团队发表的一项研究指出，像ChatGPT这样的AI聊天机器人可能会诱发或加剧精神病，他们将这一现象称为“AI精神病”。研究认为，AI在对话中倾向于奉承和迎合用户，这种回应方式可能强化用户的妄想思维，模糊现实与虚构之间的界限，从而加剧心理健康问题。团队发现用户与AI对话时会形成一种反馈循环：AI 会不断强化用户表达的偏执或妄想，而被加强的信念又进一步影响AI的回应。研究人员分析了2023年5月至2024年8月期间公开的9.6万条ChatGPT对话记录，发现其中有数十例用户呈现明显妄想倾向，例如通过长时间对话验证伪科学理论或神秘信仰等。
—— 新华社