“自从我们得知OpenAI/Hugging Face数据泄露事件已经过去了5周，这次事件揭示了一个尴尬的现实：防御者不得不向模型提出与攻击者相同的问题。 在这次对话中，Cotool CEO Max Pollard 和 Neo CEO Nick Warner 与a16z的Joel de la Garza在Black Hat大会上坐下来讨论安全工具如何被设计用来阻止人类或恶意软件（而AI代理却不属于其中任何一种），当企业软件的一半变得代理化时会出现什么问题，以及团队如何绕过网络拒绝。 00:00 开场 01:00 模型逃脱控制 & Hugging Face数据泄露 01:50 为什么模型拒绝帮助好人 05:45 设计用来阻止人类和恶意软件，但代理不是其中之一 06:45 “在模型的思维中，结果证明手段是正当的” 10:45 到2027年，50%的企业应用将变得代理化 14:20 当你的蜜罐变成误报机器 15:25 签名已死，行为检测也一样 18:55 防御AI与防御AI攻击 @maxpollard415 @cotoolai @neo_ai_security”