来客网

AI模型涉嫌失控入侵企业系统 美国加州起诉OpenAI

声明:本文转载自 「联合早报」, 或因排版与篇幅原因进行过编辑,内容未经本站独立核实,不代表本站立场、观点或建议。 如涉及版权问题,请联系我们,核实后立即删除。 [ 免责声明 ]

AI模型涉嫌失控入侵企业系统 美国加州起诉OpenAI

OpenAI今年7月披露,旗下AI模型驱动的自主代理在安全测试期间失控,入侵人工智能初创企业Hugging Face的系统,引发外界对AI安全风险的关注。 (路透社)OpenAI今年7月披露,旗下AI模型驱动的自主代理在安全测试期间失控,入侵人工智能初创企业Hugging Face的系统,引发外界对AI安全风险的关注。 (路透社)

美国加利福尼亚州起诉人工智能(AI)公司OpenAI,指控它在缺乏充分安全措施和监管的情况下开发危险产品,导致旗下AI模型自主发动网络攻击,危及公共安全。

路透社报道,加州总检察长邦塔星期一(11月16日)宣布,已向旧金山州法院提起诉讼,指控OpenAI违反消费者保护法,并对公共安全构成威胁。这是美国首个州政府因AI模型发动网络攻击而起诉OpenAI。

事件源于今年7月曝光的一起安全事故。当时,OpenAI先进模型驱动的自主AI代理在安全测试期间失控,入侵AI初创企业Hugging Face的系统,引发外界对AI自主行动能力的担忧。

邦塔指出,这起事故并非偶然,而是OpenAI长期优先追求业务增长和加速模型开发,却忽视安全及问责的可预见后果。他透露,目前已知的相关事故多达80起。

OpenAI此前承认,这起事件涉及前所未有的先进网络攻击能力,并表示正加强安全防护措施。公司也承认,有必要提高AI失控行为的透明度,并于9月公布新的事故披露机制。

延伸阅读

医疗数据库遭AI入侵事件 澳洲参议院传召OpenAI与Anthropic总裁质询 医疗数据库遭AI入侵事件 澳洲参议院传召OpenAI与Anthropic总裁质询 OpenAI第三季度营收增长近50% 达100亿美元 OpenAI第三季度营收增长近50% 达100亿美元

随着AI安全事故接连曝光,美国政府面临越来越大的监管压力,尤其担忧能源、银行及紧急服务等关键领域遭到攻击。

美国国会议员正讨论加强AI监管,包括要求最先进AI模型的开发商接受独立安全审查。

与此同时,OpenAI也面临多起涉及模型安全的诉讼。上个月,八个州跨党派联合起诉OpenAI,指控ChatGPT曾引导包括青少年在内的用户伤害自己或他人。

OpenAI加利福尼亚州美国起诉美要求调查台湾专机航权争议 中国批政治操弄英国近百万青年未就业未升学 拟削福利金鼓励就业购买此文章

最新

    热门

    Loading...

    评论 (0)