我和 @romanyam 进行了对话，他是全球顶尖的AI安全专家。 他在大约15年前创造了“AI安全”这个术语。 Roman解释了如果AGI已经到来，AI对人类的真正威胁是什么，可能会失去多少工作岗位，为什么他看好比特币，物理AI和机器人技术可能会如何发展，以及前沿模型实验室是否真的关心AI安全。 这是一场深刻的对话，大家都应该认识他。 YouTube: https://youtu.be/HSVhShdcriU?is=1m3YW1RNuE7JzRQl Spotify: https://open.(spotify.com)/episode/37I1VnpNBTBGiebqXLek3H?si=eVFoSA6gTXyg4pzHFWbNvQ&utm_source=copy-link Apple: https://podcasts.(apple.com)/us/podcast/the-pomp-podcast/id1434060078?i=1000785613978 时间戳： 0:00 - 开场 0:50 - 我们已经达到AGI了吗？ 2:51 - 为什么我们无法控制超级智能 5:14 - 全球禁止超级智能真的可行吗？ 8:45 - AI实验室真的重视安全问题吗？ 15:52 - 大规模失业与AGI的经济影响 22:03 - AI与比特币之间令人惊讶的联系 29:07 - AI丰盈的世界，为什么稀缺性胜出 31:45 - AI水印与信任的消亡 35:33 - 物理AI世界的利弊 38:40 - 要信任类人机器人需要什么？ 39:50 - 脑机接口：一个好主意吗？ 42:25 - 深度伪造的崛起与风险 49:40 - 控制AI：政府 vs 私营公司 54:07 - 开源 vs 封闭，以及美中AI竞赛 57:34 - 比特币是唯一能持久的加密项目吗？ 1:01:40 - 物理AI的局限性：瓶颈与短缺 1:03:50 - AI对医疗保健的影响 1:06:09 - 真正宣布AGI需要什么条件？ 1:09:35 - 公众如何帮助提升AI安全性