（中央社舊金山17日綜合外電報導）美國人工智慧（AI）新創公司Anthropic說，AI模型Claude「主導」公司內部26%的AI研發工作。這是公司將定期發布衡量指標之一，向外界展示AI開發下一代技術的速度。
路透社報導，總部位於舊金山的Anthropic今天在部落格文章中表示，截至8月公司超過90%研究工作有AI與人類協同合作。
Anthropic表示，根據獨立非營利組織Epoch AI制定的衡量標準，Claude在所衡量的工作中並未完全自主運作，但對這項技術發展的貢獻已從3月的1%迅速上升。
這些數據讓外界得以一窺業界領先企業如何開發這項技術，是目前最詳盡的公開資訊之一。外界日益擔憂AI可能很快發展到只需人類少量介入就能自行推動自身發展的階段。
研究人員先前警告，隨著AI代理程式（AI agent）變得更加自主，可能會出現與創作者原意不符且更難監督或控制的行為。
Anthropic競爭對手OpenAI昨天公布6起AI模型出現意外或令人擔憂行為的報告，並表示將開始定期發布AI出現意外或未經授權行為的報告。
Anthropic表示，公司主要內部平台8月期間隨時都有約3萬個AI代理程式從事研究與工程工作。Anthropic還說，這些代理程式採取的每項行動在執行前都會經過審查，當月超過10億次決策中，約每4萬7000次有1次遭到阻擋。
公司也披露，7月一個樣本週期間，Anthropic用於AI研發的算力約6%投入安全工作；若是由AI驅動的AI研發，這項比例則升至12%。公司表示，這些數字是保守估計，因為同等提升安全性與能力的算力被計入能力工作。（編譯：盧映孜）1150918
评论 (0)