（纽约8日讯）人工智能能力加速跃进之际，OpenAI首席科学家雅各布·帕乔基发出警告：AI模型距离可在无人干预下自行改进已不远，人类未必已准备好应对机器智能持续快速提升的后果。
他周日在文章中指出，AI在短时间内已能操作电脑、与人类及其他AI系统协作，并参与研究项目；下一步或是“递归式自我改进”，即模型自行提升能力。
帕乔基认为，开发者除了加强对AI的引导，确保其符合人类利益，也应在有需要时放慢开发脚步。他希望，在建立共同安全门槛前，AI实验室能自愿减速。
电脑屏幕前手机显示的美国OpenAI公司标志。（美联社）
Anthropic总执行长达里奥·阿莫代伊曾指，AI或取代一半入门级工作；OpenAI总执行长奥特曼则认为，业界尚未充分向公众说明AI可带来的好处。
尽管风险升温，AI在网络安全、科学研究及数学难题处理方面已有突破。OpenAI因最新GPT-6 Astra模型具备先进网络安全能力，限制发布范围；Anthropic也未公开其最先进的Mythos模型。
不过，市场资金正涌向可自我改进的AI。
由前DeepMind研究人员创办的Inherent今年融资5000万美元（约2亿230万令吉）；科学家理查德·索彻创办的Recursive Superintelligence则融资6亿5000万美元（约26亿3000万令吉），显示投资者正押注这将通往类人甚至超人AI。
评论 (0)