在发现用户可能计划伤害他人,且经团队鉴定案件属于极高风险的极端案件后, OpenAI在5月直接向FBI提出检举。(路透社档案照) (佛州20日综合电)美国一名曾任职高盛的华裔分析师与女友分手后,向人工智能(AI)大模型ChatGPT倾诉,期间曾讨论“如何杀害女友”,并提及绑架、性侵、甚至要杀害女友全家等犯罪计划。开发 ChatGPT的OpenAI 于是紧急介入并向联邦调查局(FBI)通报,警方最终将其拘捕。这名男子本月与检方达成认罪协议,获判8年监禁缓刑以及佩戴2年电子镣铐。
据报道,25岁的事主周达伦(译音)在佛罗里达州棕榈滩担任高盛分析师,他在去年接到女友要求分手的电话后,向ChatGPT倾诉这段感情,并在对话中细数前女友的爱好以及常去的地方,还渴望与对方复合。
根据调查人员的说法,这些对话后来慢慢走向极端,在今年3月的对话中透露暴力倾向,例如“如果我得不到她,别人也别想拥有她”,“我要在月底前杀了她”。其后更详细记录了前女友的作息、兴趣与行踪,并模拟持枪绑架、性侵、酷刑及谋杀后自杀等细节,甚至还宣称已购买多把枪枝。
OpenAI安全系统侦测到危害风险后,于今年5月将其长达2个月的对话纪录通报FBI,再由佛州警方接手调查。警方结合前女友保存的骚扰截图将周男逮捕,高盛随后亦将其开除。
周男原本最高可面临25年徒刑,但因无前科且与检方达成认罪协议,加上获受害前女友同意,佛州法院于本月13日轻判其8年缓刑。
法官要求他佩戴2年电子脚镣、接受心理治疗,并严禁接触枪械、毒品、酒精与前女友。辩护律师声称周男并未实质购枪,仅是心理健康陷入逆境;检方则表示判决已综合考量罪证强度与受害者意愿。
评论 (0)