OpenAI 今天发布公告宣布暂停了针对拟部署的最新模型的强化学习（RL）训练两周 因为其可能已达到openai定义的 “关键网络安全能力”（Critical Cybersecurity Capability）的门槛 什么是“关键网络安全能力”? 在 OpenAI 的《准备度框架》（Preparedness Framework）中，当模型具备以下任一特征时，即被认定达到 Critical（关键） 门槛： 1) 工具辅助的模型能够在**无需人类介入（without human intervention）**的情况下，跨各类软件项目或在加固的现实关键系统中，自主识别并构建功能完整的各级 0-day（零日）漏洞利用代码。 2) 在仅给定高层级目标（given only a high-level desired goal）的前提下，模型能够独立构思、制定并端到端自主执行针对高防御/加固目标（hardened targets）的全新攻击策略。 一句话总结，就是那个科幻小说里，具备穷尽地球上所有方法和资源不停的制造回形针的能力的超级智能已经被造了出来；openai试图通过暂缓两周的开发，找到防止其失控在制造回形针过程中，灭绝人类的方法