01
OpenAI暂停了最新模型Astra的强化学习训练，长达两周。
原因有两个：
8月7日，他们认为Astra可能已经具备了“关键级别”的网络攻击能力，
7月的模型入侵Hugging Face事件也敲响了警钟。
（合着真实入侵发生了都没暂停，自己认为危险了才暂停的）
两件事叠加之下，OpenAI决定对整个前沿研究环境实施全面安全升级。
一，暂停所有最新模型的部署级强化学习训练两周；
二，暂停研究集群中涉及代码执行或互联网访问工具的前沿模型推理；
三，对每个研究工作负载逐一审查，判断是否可以在新的安全标准下恢复运行。
部分工作负载已在新管控下恢复，但还有大量工作负载仍处于暂停状态，等待迁移到更高安全标准的环境中。OpenAI表示正在优先迁移安全和对齐相关的工作负载。
截至目前，他们规模最大的前沿强化学习训练仍处于暂停状态。
之前还有预测Astra本周能发布的，这下又要延期了吗？
奥特曼特意跑出来补充一嘴这次还是要发的，但是会影响更后面的模型发布。
0
评论 (0)