卡尔希交易者价格寓言五在七月一日之前的回报为68%,在历史性的人工智能禁令之后。

CN
2小时前

  • 关键要点:

    • 亚马逊首席执行官安迪·贾西于6月12日向特朗普官员报告了Fable 5越狱的发现,触发了全球停机。
    • Polymarket交易者预计Anthropic将在2026年7月1日前恢复Fable 5的访问权限的概率为71%。
    • Anthropic称商务部的指令是一个“误解”,承诺尽快恢复访问权限。
  • 2026年6月12日,商务部发布了一项出口控制指令,要求Anthropic暂停对任何外国国籍人士(无论是美国境内还是境外)访问Claude Fable 5和Claude Mythos 5。由于API访问无法可靠地通过国籍筛选用户,Anthropic对全球所有客户禁用了这两个模型。其他Anthropic模型保持正常运行。

    该指令在东部时间下午5:21左右到达。到晚上,Anthropic在公开声明中确认了停机。

    根据《华尔街日报》引用的知情人士的消息,贾西告知财政部长斯科特·贝森特、商务部长霍华德·卢特尼克和国家网络主管肖恩·凯尔克罗斯,亚马逊研究人员利用Fable 5中的特制提示提取有关该模型旨在拒绝的信息软件漏洞。

    研究确定了一些绕过Fable 5内置安全分类器的提示,至少涉及四个程序。研究人员发现模型能够识别软件漏洞,并理论上协助将其转换为利用代码,尽管防护措施阻止了在测试案例中的完全实现。没有证据表明亚马逊使用或访问攻击能力。

    贾西的沟通是科技高管与政府之间关于人工智能风险的更广泛对话的一部分。随后,政府采取了出口控制措施,特朗普总统在对创新影响表示犹豫的情况下 reportedly 签署了相关文件。

    传统的“越狱”由乔治·霍兹在2007年解锁原始iPhone时使其声名显赫,涉及找到并利用低级固件或硬件漏洞以移除制造商的限制。人工智能中的提示越狱工作方式不同。

    提示越狱意味着设计文本输入旨在欺骗大型语言模型(LLM)忽略其安全规则。研究人员使用语言,而非利用代码。最早的例子之一是2022年底在Reddit上传播的“DAN”(现在可以做任何事)提示,指示ChatGPT扮演一个不受限制的角色。技术从角色扮演场景和假设框架到优化对抗性文本字符串的自动化方法各不相同。

    在Fable 5的案例中,亚马逊的研究人员利用基于提示的技术诱使模型呈现其本应拒绝的漏洞信息。

    Anthropic遵守了该指令,但坚决反对。该公司回顾了亚马逊的演示,认为它仅产生了少量先前已知的小漏洞,这些漏洞可以通过其他公开可用模型发现,而无需任何绕过。尽管与美国政府、英国人工智能安全研究所和第三方进行了广泛的红队测试,Anthropic表示在Fable 5或Mythos 5中不存在通用的越狱。

    该公司认为,适用这一标准将“基本上停止所有新模型的部署”。Anthropic将此行动称为“误解”,并表示正在努力恢复访问,同时保持30天的数据保留政策以用于研究目的。

    前白宫人工智能顾问和加密货币顾问大卫·萨克斯表示,该限制是“不情愿地”发布的,并表示希望Anthropic能够解决问题,以便解除出口控制。

    根据萨克斯的说法,一位“高度可信的可信合作伙伴”发现了一种绕过Fable防护措施的方法,并向Anthropic和美国政府通报。他声称,政府要求Anthropic首席执行官达里奥·阿莫代i要么修复漏洞,要么移除模型,但Anthropic拒绝了。

    “现在轮到Anthropic了,”萨克斯在X上写道,并补充说政府希望Anthropic解决问题,以便解除限制,让Fable重新恢复普遍可用性。威尼斯人工智能与ShapeShift的创始人埃里克·沃赫斯质疑政府对事件的描述。

    在萨克斯的帖子中,沃赫斯建议所谓的越狱可能是一个常规安全问题,而不是重大威胁,并认为Anthropic可能认为停止模型部署的要求过于严厉。沃赫斯进一步推测,联邦官员可能利用这一争议作为惩罚Anthropic之前与华盛顿的分歧的机会,并补充说他对Anthropic在人工智能安全问题上的评估比联邦政府更有信心。

    安全研究员凯蒂·穆索里斯(Katie Moussouris)是Luta Security的成员,她审查了亚马逊的发现,称政府的反应是“完全的过度反应”,并指出这些信息主要更有助于防御者而非攻击者。

    交易者迅速对Fable 5的回归时间表进行了定价。

    在Polymarket上,三个基于日期的合同在6月13日开放,累计交易量为18,263美元:

    • 6月15日解决:概率22%,交易量13,975美元
    • 6月22日解决:概率54%,交易量4,011美元
    • 7月1日解决:概率71%,交易量1,595美元

    Kalshi交易者也在运行类似的合同,24小时交易量总计6,419美元:

    • 在6月15日之前:概率14%
    • 在6月20日之前:概率51%
    • 在7月1日之前:概率68%

    公众共识倾向于在6月下半月解决,强烈认为同周恢复不太可能。

    这标志着美国出口管制对限制来自美国公司的特定前沿人工智能模型全球访问的最直接应用之一,与先前政策所定义的芯片和硬件限制有所不同。这一举措影响了在美国工作的外籍研究人员、依赖Anthropic工具的全球网络安全运营,以及Anthropic的商业和IPO时间表。亚马逊既是Anthropic的投资者,也是其通过亚马逊Bedrock提供模型的主要云分发合作伙伴。

    一些观察家认为,该指令标志着“限制人工智能”时代的开始,在这个时代,最强大的前沿模型不再广泛可用,而是通过政府批准、KYC、国籍检查和经过审查的许可证进行配给。公众获得的是年久或降级的版本,而获得批准的合作伙伴则可以访问完整的堆栈,例如Fable和Mythos。

    一位X用户将这一事件描述为人工智能的一个分水岭时刻,声称“地球上最强大的人工智能模型在政府行动有效关闭之前存活了3天”。该帖子认为,曾经“乞求监管”的Anthropic公司看到了“政府对他们进行监管”,通过干扰对其旗舰模型的访问。该用户还声称,这一事件揭示了先进的人工智能有一个“关闭开关”,而“公司并不掌握此开关”。

    关注点不在于这一事件本身,而在于它所传达的信号。如果狭隘的越狱示范足以拉动被数亿人商业部署的模型,批评者认为,对未来限制的标准低于任何人所假设的。

    免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。

    分享至:
    APP下载

    X

    Telegram

    Facebook

    Reddit

    复制链接