“不是你的密钥,就不是你的机器人”:巴拉吉·斯里尼瓦桑描绘了一种受限的人工智能未来

CN
8小时前

巴拉吉·斯里尼瓦桑,一位著名的加密投资者和《网络国家》的作者,发表了一篇标题为“没有你的密钥,就没有你的机器人的”广泛的X帖子,探讨人工智能是否会保持与人类方向的联系,或者最终设定自己的路线。

虽然这是一篇简短的X帖子,但他直接提出了这个问题:“根本问题是人工智能是否仍在控制之中。”

目前,斯里尼瓦桑认为,人类仍然处于控制之上。人工智能系统可能会完善提示,生成内部独白,并自我纠正,但目标仍然是由人定义的。“然而,人类仍然最终位于控制之上,”他写道,形容人类是目标设定者和对市场、政治以及变化条件作出反应的传感器。

他质疑这种等级结构是否会保持。随着人工智能模型在验证和推理方面的不断改善,他建议它们可能在许多任务上超越人类。尽管如此,斯里尼瓦桑表示怀疑机械是否会独立生成基础目标。“但是,人工智能是否会取代对上游人类提示的需求?对此,我不太确定。”

在他看来,关键的约束是再生产。他指出,人类动机源于进化压力——食物、住所,尤其是再生产。他主张,除非人工智能系统能够在不依靠人类合作的情况下进行再生产,否则它们将继续依赖人类设定的目标。

斯里尼瓦桑描绘了一个假设的未来,在这个未来中,自主人工智能需要控制物理基础设施——类人机器人、无人机、数据中心、生产线和能源生产——这一切都在没有人类监督的情况下运行。尽管他承认这样的情景“在技术上并非不可想象”,但他转向地缘政治。

他认为,中国更有可能工程出严格控制的人工智能系统,而不是自主系统。“我们的前提是,中国共产主义更有可能产生人工智能奴隶,而不是人工智能神灵,”他写道。在这个框架下,机器人和数字代理将受限于与人类身份相关的加密控制。

他将这种逻辑扩展到全球。在中国之外,斯里尼瓦桑建议,基于区块链的加密技术可以作为人工智能治理的机制。“所有的私人财产都成为私人密钥,而你的机器人是你最重要的私人财产,因为它们为你做一切,”他写道。

在这个想象中的未来中,未被束缚的机器人将被视为安全威胁,在它们能够复制之前被中和。斯里尼瓦桑将其比作流行反乌托邦叙事的反转——人类与顺从的机器合作,以防止独立的人工智能建立自给自足的立足点。

尽管被框架为推测性内容,他的帖子触及了关于人工智能对齐、数字主权和加密技术在新兴技术中作用的持续辩论。随着各国政府权衡人工智能监管和公司加速发展,斯里尼瓦桑的论点增加了一种受加密影响的扭曲:控制密钥,控制机器人。

  • 什么是“没有你的密钥,就没有你的机器人”?
    这是巴拉吉·斯里尼瓦桑的一篇X帖子,论证私人密钥可以像保护数字资产一样管理人工智能系统。
  • 巴拉吉认为人工智能可以完全取代人类吗?
    他质疑人工智能是否能够消除对人类设定目标的需求,特别是在没有独立再生产的情况下。
  • 他为什么提到中国?
    他认为中国更可能部署受加密限制的严格控制的人工智能。
  • 区块链如何融入这个论点?
    斯里尼瓦桑提出,加密密钥和区块链基础设施可以作为人工智能系统的治理工具。

免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。

分享至:
APP下载

X

Telegram

Facebook

Reddit

复制链接