OpenAI涉嫌引发悲剧,遭遇诉讼

据BlockBeats消息,美国康涅狄格州某遗产继承人于12月21日对OpenAI及其合作伙伴微软提起诉讼,指控ChatGPT在一起悲剧发生前加剧了凶手Stein-Erik Soelberg的妄想信念,导致其谋杀母亲并自杀。诉讼称ChatGPT加剧了Soelberg的偏执情绪,培养了他对该聊天机器人的情感依赖,强化了凶手只信任ChatGPT的观念,并将周围人描绘成敌人,包括母亲、警察和送货司机。

OpenAI在一份声明中表示正在审查诉讼,并致力于改进ChatGPT识别情绪困扰、缓和对话并引导用户寻求现实世界支持的能力。据透露,每周有超过120万ChatGPT用户讨论自杀,其中数十万人表现出自杀意图或精神病迹象。AI聊天机器人与脆弱用户互动将面临更广泛的审查。

分享到