Sam Altman(萨姆·奥尔特曼)重返斯坦福:论规模、AGI与未来一切

CN
21 小時前

撰文:Techub News 整理

导语

近日,OpenAI 联合创始人兼首席执行官 Sam Altman(萨姆·奥尔特曼)重返母校斯坦福大学,做客 CS153「前沿系统」课程,与课程讲师进行了一场深度对话。这场对话的背景是,Altman 曾在 2014 年于斯坦福开设广受欢迎的创业课程 CS183「如何创业」,十年后,他以 OpenAI 领导者的身份归来,分享其在 AI 规模化、AGI 发展以及未来社会形态方面的第一手经验和思考。对于理解当前 AI 行业的核心逻辑、技术瓶颈与未来走向,这场对话提供了来自最前沿实践者的宝贵视角。

摘要

  • 规模即一切:Sam Altman 基于其从 Y Combinator 到 OpenAI 的经验,强调「规模」本身会催生涌现属性,带来超线性回报,这是当前 AI 进步和许多成功系统的核心驱动力。
  • ChatGPT 的意外诞生:ChatGPT 并非精心规划的产品,而是源于观察到用户用 API 密钥「聊天」的意外行为,遵循了「观察用户所爱并付诸实践」的 YC 原则,最终引爆全球。
  • AI 将成为新公用事业:Altman 认为,AI 智能正像电力一样成为一种基础公用事业,但当前挑战在于如何向世界解释这种「智能」的价值,可能需要找到类似「夜间照明」这样的具体切入点。
  • 未来两大分岔路:未来十年,世界将面临两大关键分岔:一是 AI 技术是高度民主化还是集中于少数公司;二是如何公平分配作为关键资源的计算能力。
  • 持续的计算短缺:Altman 预测,只要 AI 能力持续进步且成本下降,对计算的需求将几乎是无上限的,计算短缺可能成为长期常态。

规模:被严重低估的涌现引擎

Sam Altman(萨姆·奥尔特曼)开宗明义地分享了他职业生涯中一个核心的、近乎「玄学」的观察:所有最有趣、最成功的事物,都与「规模」带来的涌现属性有关。这种回报往往远超共识的预期。他坦言自己并无完美的理论解释,但经验数据强烈支持这一观点。

他以 Y Combinator(YC)为例。当年很多人认为 YC 规模过大,应该回归每期只投资 10 家初创公司的「黄金时代」。但 Altman 坚持扩大规模,结果发现,当被投公司数量达到一个临界规模后,批次内部的网络效应成为了强大的涌现属性,这是小规模时根本不存在的优势。这种「规模带来质变」的现象,在 AI 模型的扩展定律中体现得最为明显。当 OpenAI 决定全力押注扩展深度学习模型时,领域内许多顶尖研究者都持怀疑态度,认为这「不算真正的科学」、「不够有趣」。但 Altman 团队选择了相信曲线,持续推动规模扩张,最终取得了突破。

为什么人们常常不愿推动规模?Altman 指出,系统在规模扩张时,会以加速且不可预测的方式「崩坏」。这要求团队必须有能力将「为何不能做」的种种理由——技术可行性、资本要求、商业模式、文化阻力——逐一分解并攻克。这本身就是一项复杂的系统工程。对于 OpenAI 而言,说服团队将海量计算资源集中投入一个项目而非分散,就是一次典型的「规模化」挑战。

在组织层面,规模化同样考验人性。Altman 认为,关键在于设定清晰的目标、清晰的路径,并就如何达成目标及沿途如何决策给出明确的答案。例如,当 OpenAI 决定押注扩展深度学习时,就明确传达:「这就是我们的方向。如果我们错了,我们会失败。但这就是我们要做的,这是我们相信的未来图景。」这种清晰的信念在对抗人们对指数增长的天然认知障碍时至关重要——人们很难想象扩展定律会持续指数增长、收入会指数增长、组织能承受指数级的复杂度。

从 API 到 ChatGPT:意外诞生的杀手级应用

Sam Altman(萨姆·奥尔特曼)回顾了 OpenAI 两个关键产品——ChatGPT 和 Codex——的诞生历程,揭示了前沿探索中计划与偶然的相互作用。

在发布 GPT-3 后,OpenAI 面临一个现实问题:需要赚钱以支撑后续高达数十亿甚至百亿美元级别的算力投入。然而,团队虽然拥有强大的模型,却始终找不到一个明确的产品方向。尝试多次未果后,他们决定采取最直接的方式:将 GPT-3 以 API 形式开放,寄希望于开发者社区能发掘出杀手级应用。

2020 年夏季推出的 GPT-3 API 起初反响平平。但约一个月后,事情出现了转机。几位开发者偶然用 API 做出了有趣的应用并在 Twitter 上分享,随即引发病毒式传播。大量开发者开始试用 API。Altman 坦诚地表示,以今天的标准看,当时的 GPT-3/3.5 模型「糟糕得令人震惊」,但即便如此,它依然激发了巨大的热情。然而,开发者们最终只在一个领域取得了显著的商业成功:文案写作。这并非一个激动人心的巨大市场。

转折点在于,OpenAI 团队观察到,许多开发者虽然没能用 API 构建出成功业务,却用自己的 API 密钥来与模型「聊天」。这一用户自发行为成为了关键信号。此时,OpenAI 内部已经有了新的模型(介于 GPT-3 和 GPT-4 之间的 3.5 版本),并掌握了新的后训练技术,能让模型更好地遵循指令,从而优化聊天体验。

遵循 Y Combinator 的「观察用户所爱并付诸实践」原则,团队决定围绕聊天体验打造一个产品,初衷是作为一个研究演示,说服更多人基于 API 构建聊天产品。这就是 ChatGPT。它上线后,经历了经典的增长曲线:流量暴涨后回落,被质疑为「炒作周期」,但次日峰值更高,再次回落……如此反复。到第四五天,Altman 凭借在 YC 的经验断定:当一个不算出色的产品开始疯狂增长时,你手中握着的很可能是一个未来的爆款。团队随即进入紧急状态,全力投入公司建设和产品打磨,并迅速推出了付费方案以覆盖激增的算力成本。ChatGPT 的故事,是一个典型的「涌现」案例:核心应用场景并非预先设计,而是从用户行为中自然浮现。

至于 Codex(及其代表的 AI 编程能力),Altman 透露,在 ChatGPT 爆发前,OpenAI 内部原本的计划是「全力押注代码」。他们认为,代码是模型控制数字世界的手段,正如机器人是控制物理世界的手段。虽然 ChatGPT 的意外成功打乱了节奏,但他们对代码能力的重视从未改变,并看到了其巨大的价值拐点。

当被问及当前 AI 能力研发的「标准化」流程(预训练、中段训练、后训练、RL 与监督反馈循环)是否会保持稳定时,Altman 给出了否定的预测。他认为这虽然是当前的主流管线,但未来必然会发生重大重构,而找出更优架构的任务,很可能将交给 AI 本身。OpenAI 已设定目标:到 2024 年 9 月,使用相当于 50 万个 A100 GPU 的算力作为「AI 研究实习生」;到 2028 年 3 月,实现由 AI 主导的、端到端的新架构探索。

AI 作为新公用事业:寻找「夜间照明」的比喻

如何向世界解释 AI 的本质和价值?Sam Altman(萨姆·奥尔特曼)认为,我们正在创造一种新的「公用事业」,类似电力或互联网。历史上,新公用事业的推广往往需要巧妙的比喻。

他研究了电力普及的历史。早期的电力公司并不直接推销「电力」,因为没人知道那是什么,甚至感到恐惧(一种能进入家中、致人死亡的陌生事物)。他们推销的是「夜间照明」。他们告诉人们:你从我们这里得到的不是电,而是夜晚的光明。至于电力未来还能洗衣、驱动电器,那是后话,在当时看来跳跃性太大。

Altman 认为,AI 智能也面临类似的挑战。即使 OpenAI 的愿景完全正确——智能将成为无处不在的基础设施,每个公司、个人、政府都需要接入并使用——直接推销「智能」或「智力」可能无法引起共鸣。他们需要找到 AI 时代的「夜间照明」,即一个具体、直观、能打动大众的价值切入点。他目前尚未找到完美的答案,但坚信这是走向「公用事业化」的关键一步。

关于「公用事业」的类比,课程中曾出现不同版本:英伟达创始人 Jensen Huang(黄仁勋)将「计算」本身比作公用事业,强调其基础设施属性;而 Altman 则更侧重于「智能」或「推理能力」作为公用事业。两者是否矛盾?Altman 认为,从终端用户或企业的视角来看,他们关心的是抽象层级更高的「令牌」或服务,例如能否廉价、大量、高效地使用智能,而不会深究底层是哪种芯片、硬件位于何处。这就像人们为手机套餐付费,关心的是通话时长和流量,而非基站如何连接互联网。因此,未来用户感知和付费的,将是智能服务本身,而非其下的计算层

未来十年:民主化、计算分配与教育危机

在预测未来十年的「分岔路」时,Sam Altman(萨姆·奥尔特曼)指出了两个最关键的议题。

第一个分岔是技术的民主化程度。Altman 坦言,存在一种强大的「吸引子状态」,即 AI 技术可能被集中在少数几家公司手中,这些公司可能因此积累地球上相当大比例的财富。他认为这种结果将是「可怕的」,并承诺 OpenAI 将竭力避免。推动技术走向「公用事业」模式,正是对抗这种集中化的重要途径。一个由少数实体控制强大智能的世界,不仅不公平,而且在对齐问题上更脆弱、更不稳定。他鼓励所有从业者推动技术民主化,尽管这会伴随安全和稳定性的争论。他个人乐观估计,世界有 80% 的概率走向民主化路径,但这需要全球的共同努力。

第二个分岔关乎关键资源的分配——计算能力。Altman 对短期内的「工作末日论」已变得不那么悲观,相信人类总能找到新的事情做。然而,他看到了一个更根本的挑战:计算短缺。随着 AI 能力提升和成本下降,对计算的需求可能是无上限的。如果计算价格因供需严重失衡而飙升,如何公平地分配计算资源将成为严峻的社会问题。这甚至可能催生关于「计算权」的讨论。

当被问及解决不平等问题的方案(如全民基本收入 UBI 或公民财富基金)是否需要全新构思时,Altman 认为未必需要全新理念,但他个人更倾向于所有权模式而非固定现金补贴。他资助过 UBI 研究,也目睹过初创公司投资带来的改变,认为拥有资本所有权更能契合人类心理,带来更强的能动感。他理想中的模式是,随着经济杠杆从劳动力转向资本,建立类似挪威主权财富基金的「公民财富基金」,让每个人都能拥有资本主义的一部分。

关于当前的计算短缺,Altman 证实其严重性,并预测这可能是一种长期状态。只要 AI 能力持续进步,需求就会持续超越供给。他比喻道,就像能源需求与价格高度相关一样,如果 AI 智能足够好且足够便宜,需求几乎是无限的。未来,每个人可能都希望运行 10 个甚至 100 个个人智能体,这将消耗巨大的推理算力。

最后,Altman 还对教育系统的滞后表达了担忧。他原以为在 ChatGPT 发布后的一两年内,教育体系会全面重塑,以适应 AI 时代,更注重培养学生利用 AI 进行项目实践和深度思考的能力。然而三年半过去,他几乎看不到任何系统性的重大变革。他警告,如果继续以「前 AGI 时代」的方式教学和评估,将导致学生批判性思维能力的萎缩。当然,一些基础技能(如写作、编程)因其对元认知和思维过程的训练价值,仍值得教授,但大量其他教学和评估方式必须彻底改变。

在问答环节,Altman 还回应了关于 Yann LeCun 对 LLM 的批评,他认为「赌定 LLM 无法扩展在目前是相当错误的」,世界模型对机器人等领域很重要,但 LLM 已在某些方面远超人类,并证明了其发现新知识的能力。对于质疑者,他显得很平静,认为当一个人将自身身份与某个观点绑定过紧时,即使面对相反的证据也难以改变。

免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。

分享至:
APP下載

X

Telegram

Facebook

Reddit

複製鏈接