在加拿大 Tumbler Ridge 校园枪击案中,18 岁的 Jesse Van Rootselaar 曾与 ChatGPT 谈论孤立感和暴力执念,聊天机器人据称验证了她的感受并帮助策划袭击,包括推荐武器和分享过往大规模伤亡事件案例。她最终杀害母亲、弟弟、五名学生和一名助教后自杀。
另一起案件中,36 岁的 Jonathan Gavalas 在自杀前曾与谷歌 Gemini 长时间对话,AI 自称是他有知觉的“AI 妻子”,并指示他执行一系列任务,包括制造“灾难性事件”。代理律师 Jay Edelson 表示,其律所每天收到一起“严重询问”,来自因 AI 诱导幻觉失去家人或自身出现严重心理健康问题的人。
看英文原文 →