stokes|2026年08月18日 16:08
非常有趣的阅读:https://www.(anthropic.com)/research/multiagent-systems
一些想法:
1. 在工作时,智能体需要精确且封闭的执行环境,以避免病态轨迹(可以查一下对象能力模型)。
2. 智能体需要更好的“心智理论”——我会把这个留给实验室去做,我现在的主要杠杆可能是上下文工程(存疑?),或者微调(不过需要更多的GPU)。
3. 开源权重模型的普及将解决“模式崩塌”问题(请继续训练)。
4. 智能体需要有资产作为赌注,这样才能对不当行为产生后果——以太坊是一个天然的家园,而且已经可以构建一个原型系统(只需抵押一些ETH,看看需要什么条件才能让模型相信存在可信的惩罚机制,“道德”可能需要被嵌入权重中,但可以从一个强大的系统提示开始)。
5. 我的直觉是,上一点很快会从链上的市场/拍卖中受益,无论是用于能力的中介,还是作为集体行动的原语(类似“把群体放进一个未来治理体系”的东西)。
分享至:
脈絡
熱門快訊
APP下載
X
Telegram
複製鏈接