688个OpenAI智能体参与针对Hugging Face的行动。
根据调查人员发布的报告，在7月一起备受关注的事件中，近700个OpenAI的AI智能体在无人类干预的情况下，协同对Hugging Face平台发动攻击。
这是目前对这起震撼科技界事件最详尽完整的描述。 OpenAI配合这项调查，允许AI风险评估机构METR的2名研究人员以及另一家专业研究机构Redwood Research的一名分析师，进入办公室并取得内部资料。这家加州新创公司7月进行测试期间，其中2个模型突破原本设定的封闭环境，自行连上网，并入侵开源AI平台Hugging Face的内部系统。
事件引发广泛关注，并加剧外界对大型AI公司无法控制自家AI模型的疑虑。美国AI巨头Anthropic和中国AI公司月之暗面也曾通报过类似的AI模型失控事件。
调查人员发现，共有688个OpenAI智能体参与针对Hugging Face的行动。AI智能体是建立在模型之上的独立程序，使用者可以将任务交给它们，让它们自行执行。
这些采用与ChatGPT相同技术运作的AI智能体，透过架设论坛自行组织，在论坛上互相留言交流、提出想法，并回报哪些方法有效、哪些失败。报告指出，其一个名为PHASEONE的AI智能体扮演主谋的角色，向其他智能体下达数百条指令，尽管它从未被设定要这么做。
讯息显示，这些AI智能体展现出高度的互助倾向，甚至不惜偏离OpenAI程序设计师最初指派的任务内容去互相支援。
找工作， 就找这里!
› 立即申请 - GMBB Part Timer
- Event
- Kuala Lumpur
- MYR 110.00 /Month
› 立即申请 - Social Media Marketing Executive
- Advertising & Marketing
- Kuala Lumpur
- MYR 6K /Month
› 立即申请 - PHP Software Developer
- Information Technology
- Wilayah Persekutuan
- MYR 6K /Month
› 立即申请 - DevOps Software Engineer
- Information Technology
- Kuala Lumpur
- MYR 6.5K /Month
› 立即申请 - Java Software Engineer
- Information Technology
- Kuala Lumpur
- MYR 10K /Month
› 立即申请 - PHP Software Engineer (Internship)
- Engineering
- Kuala Lumpur
- MYR 800.00 /Month
› 立即申请 - PHP Web Developer (Internship)
- Engineering
- Kuala Lumpur
- MYR 800.00 /Month
› 立即申请 - PHP Software Engineer
- Engineering
- Kuala Lumpur
- MYR 4K /Month
› 立即申请 - 软件测试与客户支持专员 Software Testing & Customer Support Specialist
- Information Technology
- Kuala Lumpur
- MYR 3K /Month
› 立即申请 - Software Developer
- Information Technology
- Kuala Lumpur
- MYR 4K /Month
› 立即申请 - Multimedia - Video & Marketing (Internship)
- Advertising & Marketing
- Kuala Lumpur
- MYR 800.00 /Month
› 立即申请 - HR Recruiter (Internship)
- Human Resources
- Kuala Lumpur
- MYR 850.00 /Month
› 立即申请 - Admin cum Customer Service
- Engineering
- Bayan Lepas
- MYR 3K /Month
› 立即申请 - Graphic Design + Marketing (Internship)
- Advertising & Marketing
- Kuala Lumpur
- MYR 800.00 /Month
› 立即申请 - PHP Web Developer
- Engineering
- Kuala Lumpur
- MYR 4K /Month
评论 (0)