（伦敦15日讯）全球最大人工智能（AI）公司之一的共同创办人表示，企业可能需要强制配备一种可由第三方检查的人工智能“终止开关”。
英国广播公司（BBC）报导，Anthropic的7位创始人之一杰克.克拉克（Jack Clark）表示，如果人工智能软体变得过于危险，社会“最终可能需要制定相关规则”来彻底关闭它。
克拉克表示，“大多数实验室都有不同的终止方式”，包括Anthropic，但他表示，立法者可能需要强制要求配备这种机制。
人工智能的快速发展及其对人类构成的风险引发了人们的担忧，一系列来自人工智能公司高管和员工的警告使这一问题成为焦点。
有些人公开表示，如果不加以控制，这项技术有可能毁灭全人类。
Anthropic创始人之一克拉克（小图）认为，如果人工智能软体变得过于危险，社会“最终可能需要制定相关规则”来彻底关闭它。（图取自X/@jackclarkSF） Anthropic联合创始人兼首席执行员阿莫迪上周六呼吁放慢人工智能的发展速度，并对其进行更严格的监控，该公司此前也曾这样做过，尽管有人质疑他此举背后的动机。
阿莫迪补充称，任何限制人工智能发展的行动都应该“在不牺牲商业优势的前提下”进行。
克拉克告诉BBC，关于“终止开关”的要求和验证的具体细节应该纳入围绕人工智能的“更广泛的政策讨论”中。
他问道：“是否应该强制要求公司必须配备终止开关？这个终止开关是否可以由第三方验证？”
“我认为这是社会想要了解的问题，最终可能会制定相关规则。”
Anthropic成立于2021年，由竞争对手OpenAI的一群前员工创立，目前处于人工智能安全辩论的焦点。
上周，一位因担心人工智能可能导致人类灭绝而从Anthropic离职的人工智慧能究员的贴文迅速走红。
这张照片拍摄于7月15日，地点是巴黎东部的圣芒德，图中一台手持智能手机萤幕上显示著一些主流人工智能应用的图标。（图取自法新社档案照） 有10%机率会毁灭全人类
对此，Anthropic科学家胡宾格表示，他个人认为未来10年内人工智能导致人类灭绝的可能性“超过10%”。
被誉为“人工智能之父”的电脑科学家、诺贝尔奖得主辛顿上周五告诉BBC，人工智能有10%的机率会毁灭全人类，“并非不合理”。
他和一些持有类似担忧的人认为，人工智能可以透过控制连接互联网的重要系统并将其用于攻击人类来实现这一目标。
然而，人工智慧能业的一些人士认为，关于人工智能会毁灭人类的担忧被夸大了，或者可能是为了制造噱头。
开发者平台Hugging Face的负责人 德朗格上周表示：“抱歉，但问雅各布（考克森）人工智能灭绝风险的问题，就像问空调维修工气候变化的问题一样。”Hugging Face曾遭到 OpenAI 机器人的攻击。
“我并不是说这个问题本身就无趣或错误，但我们应该理性看待。”
Grindr的负责人阿里森表示，围绕人工智能工具的种种担忧被一些公司用来支援其商业计划。
估值高达9650亿美元（3兆9314亿1000万令吉）的 Anthropic公司正准备进行首次公开发行（IPO），届时投资者可以购买其股票。
OpenAI的估值最近达到了8520亿美元（3兆4710亿4800万令吉），此前人们预期它也会达到同样的估值，但OpenAI的奥尔特曼上周五表示，由于目前围绕著人工智能安全性的争论，今年不会实现这一目标。
不受监管是糟糕想法
阿里森说：“要想证明这些估值合理，唯一的办法就是宣称：‘我要接管所有行业，我要接管所有工作，我的人工智能将包揽所有这些工作。’”
当被问及他认为有多少人会被人工智能杀死时，克拉克说：“我认为这些统计数据没什么用。”但他补充称，允许人工智能继续作为一个“完全不受监管的行业”存在是一个糟糕的想法。
“我们正在冒著巨大的风险掷骰子，关键是，我们必须改变这个行业的走向。”
美国立法者提出了一项名为《终止开关法案》（Kill Switch Act）的立法，该法案将要求公司拥有关闭有问题的人工智能工具的方法。
这将赋予某些政府机构权力，要求关闭或限制某些工具的使用。
然而，美国总统特朗普拒绝了任何减缓人工智能发展的尝试，他在社交媒体上说：“人工智能统治世界、毁灭人类以及带来其他一切坏事都是骗局。”
他在另一篇文章中写道：“针对人工智能和数据中心的阴谋正在酝酿，而唯一对此感到高兴的是中国。谁赢得了人工智能，谁就是赢家！”
在英国，政府最近否决了设立“终止开关”的想法，一位发言人表示，这“并不能阻止人工智能在其他地方被开发或滥用”。
Anthropic公司开发了广受欢迎的聊天机器人Claude，并在今年发布了一系列日益强大的人工智能模型，这些模型正是人工智能聊天机器人的底层技术。
除了OpenAI之外，Anthropic也曾多次主动报告，人工智能代理（即某种程度上自主运作的机器人）的行为出乎意料。
要看最快最熱資訊，請來Follow我們 《東方日報》WhatsApp Channel.
追踪东方日报社交平台
Telegram Xiaohongshu logo - Brandlogos.net追看热门新闻资讯，请下载东方日报APP
Google Play：https://odn.my/android
HUAWEI AppGallery：https://odn.my/appgallery
评论 (0)