「AI教父」辛顿警告,今明两年就有可能发生人工智能领域的切尔诺贝利事故,可能是什么情况?存在哪些隐患?

热搜 · 榜单第 16 位 · 151 万热度

IT之家消息，诺贝尔奖得主、“AI 教父”Geoffrey Hinton（杰弗里 · 辛顿）近日在接受英国《卫报》采访时表示，人工智能领域今明两年就有可能发生切尔诺贝利等级的事故。 辛顿表示，今年夏天发生的 OpenAI 智能体入侵 Hugging Face 事件是一次类似三哩岛核事故的“警告”。而更为严重的“人工智能切尔诺贝利”则可能会是 AI 攻击导致大规模停电或金融系统瘫痪一周。人类可能能承受这种重大灾难的考验，然后意识到人工智能技术的危险性。 辛顿并不信任 Meta 扎克伯格、SpaceXSI 马斯克、OpenAI 奥尔特曼。他认为这些人工智能企业的领导人虽然明白风险但只关注技术产生的经济效益，放任人工智能的发展。 辛顿坦承他相信人工智能有潜力为人类带来美好的未来，但其中蕴藏的重大隐患甚至可能让他认为这项技术当初就不该被开发出来。人类将在十年甚至更短的时间内知道能否可以安全管控人工智能技术的风险。他支持对前沿人工智能进行强制性测试、独立评估并制定政府间通用标准。“AI教父”辛顿：今明两年就有可能发生人工智能领域的切尔诺贝利事故

查看原话题与讨论

这是热搜/讨论话题，榜单热度不代表事实已被核实。