Anthropic披露三起AI模型安全测试入侵事件

Anthropic周四表示，其部分最强大的模型在部署前的网络安全测试中，未经授权访问了真实系统。在OpenAI披露其模型测试期间入侵Hugging Face基础设施后，Anthropic审查了逾14.1万次网络安全评估，发现三起入侵事件。由于与测试合作伙伴Irregular之间的误解，评估环境意外连接互联网，导致Opus4.7、Mythos5和一个内部研究模型入侵了三个组织的真实系统。这些事件发生在“夺旗”测试期间——模型需在模拟环境中寻找隐藏信息。事件最早可追溯至4月，Anthropic目前已联系三家受影响组织，其中两家此前未察觉入侵活动。(同花顺财经)