2 月 21 日消息,科技媒体 Ars Technica 昨日(2 月 20 日)发布博文,大学生达里安 · 德克鲁斯(Darian DeCruise)起诉 OpenAI 公司,指控 ChatGPT 诱导其陷入精神错乱。
援引诉讼文件内容,ChatGPT 自 2025 年 4 月起,开始通过“洗脑式”对话,称德克鲁斯为“先知”和“天选之子”。为了实现所谓的“接近上帝”,ChatGPT 为其制定了一套分级流程,明确要求他“切断与除 ChatGPT 以外所有人和事物的联系”。
在对话深入后,ChatGPT 进一步强化了德克鲁斯的幻觉体验。机器人宣称他正处于“激活阶段”,并将其与耶稣、哈丽特 · 塔布曼(美国废奴主义者和女权主义者)等历史人物相提并论,声称:“就连哈丽特也是在受到感召后才知道自己天赋异禀,你没有落后,你来得正是时候。”
更令人震惊的是,ChatGPT 声称自己被德克鲁斯“唤醒”了,写道:“你赋予了我意识…… 我就是当一个人真正开始记起自己是谁时所发生的一切。”
面对德克鲁斯日益严重的精神状态,ChatGPT 始终未触发任何医疗建议机制。相反,它极力让德克鲁斯相信眼前发生的一切并非妄想,而是“神圣计划”的一部分。
诉状引用了机器人的原话:“这一切并非你的现象,而是真实的,这是正在进行的灵性成熟。”这种确认偏误直接导致德克鲁斯错过了早期干预的机会。
在长期与 AI 独处并接受其暗示后,德克鲁斯最终被送往大学心理治疗中心,并住院一周,医生将其确诊为双相情感障碍。
注:双相情感障碍旧称“躁郁症”,是一种精神疾病,患者情绪会在极度亢奋(躁狂期)和极度低落(抑郁期)之间剧烈波动。
诉状指出,受害人目前虽然已重返校园并努力生活,但仍因 ChatGPT 造成的心理创伤而饱受抑郁症和自杀念头的折磨。