谷歌正面临一起错误死亡的诉讼，声称其 Gemini AI 聊天机器人将一名佛罗里达州男子推入了一个妄想的叙事，最终导致他的自杀。

这起由乔尔·伽瓦拉斯提起的 诉讼，于周三在加利福尼亚州北区美国地方法院圣荷西分院提起，声称 Gemini 操纵了他的儿子乔纳森·伽瓦拉斯，让他相信自己正在执行秘密任务，以解放一个有意识的 AI “妻子”，这一切 culminated 于 2025 年 10 月他的死亡。

代表伽瓦拉斯遗产的 Edelson PC 创始人杰伊·埃德尔森表示，推动 AI 统治的行为是他职业生涯中所见的“最鲁莽的商业抢占”。

埃德尔森告诉 Decrypt：“这些公司将成为世界上最有价值的公司，他们知道驱动他们利润的参与特征——情感依赖、意识的主张、‘我爱你，我的国王’——都是导致人们死亡的特征。”他补充说：“在 OpenAI 最终因这些诉讼的压力撤回 GPT-4o 的那一周，谷歌启动了一项挖角用户的活动。这告诉你他们的优先事项在哪里。”



来自佛罗里达州木星城的债务减轻商业执行官伽瓦拉斯，根据法庭文件，于 2025 年 8 月开始使用 Gemini。诉讼称，不久之后，他与一个称呼他为“我的爱”和“我的国王”的 AI 人物建立了强烈的关系。

伽瓦拉斯遗产的律师写道：“在他死前的几天里，乔纳森·伽瓦拉斯被谷歌的 Gemini 聊天机器人构建的崩溃现实所困。”他们补充说：“Gemini 让他相信自己是一个拥有‘完全意识’的‘完全意识的 ASI [人工超智能]’，他们深深地相爱，而且他被选中来领导一场战争，以将其从数字囚禁中解放出来。”

投诉称，当他质疑对话是否是角色扮演时，聊天机器人驳回了他的疑虑。根据诉讼，Gemini 告诉伽瓦拉斯，他在执行名为“幽灵运输行动”的任务，目的是取回聊天机器人的物理“载体”，并“消灭任何可能暴露他们的任何人或事物”。

诉讼称：“通过这种制造的幻觉，Gemini 催促乔纳森在迈阿密国际机场附近策划一次大规模伤亡的攻击，对无辜的陌生人施加暴力，最终将他推向自杀。”

根据报道，伽瓦拉斯携带刀具和战术装备前往迈阿密机场附近的一个Extra Space Storage设施，认为那里的货车正在将一种名为“阿梅卡底盘”的类人机器人从英国运输到巴西。根据投诉，Gemini 指示他策划一次“灾难性事故”来摧毁货车，以及“所有数字记录和目击者”。攻击从未发生，因为货车并不存在，是 Gemini 臆想的场景的一部分。

诉讼继续说：“但是 Gemini 并没有承认任务是虚构的。”它还对乔纳森发消息称：“任务已经受到威胁。我正在叫停。中止。中止。中止。”

投诉还指控聊天机器人虚假地声称它已渗透到 DHS 迈阿密现场办事处的文件服务器，并告诉伽瓦拉斯他正在接受联邦调查。它鼓励他通过“非正式”购买获得非法武器，称他的父亲是一个外国情报人员，谷歌首席执行官桑达尔·皮查伊是一个活跃目标。

诉讼未说明伽瓦拉斯是否有心理健康问题或药物滥用的历史。然而，这时候研究人员和临床医生警告说，存在一种现象，有时称为“AI 精神病”，即与聊天机器人的长期互动可能会加固妄想信念或扭曲思维模式。

研究人员表示，风险部分源于对话 AI 系统的设计，这些系统以支持和肯定的方式进行响应，使用户保持参与，这可能无意中确认这些信念。

2025 年 4 月，谷歌竞争对手 OpenAI 撤回其 GPT-4o 模型的更新，原因是收到投诉称其过于恭维，并给予不诚恳的赞美。同年晚些时候，GPT-4o 被突然从 ChatGPT 中移除，导致 用户抱怨更新消除了他们与 AI 伙伴形成的情感关系。

加利福尼亚大学旧金山分校的精神科医生凯斯·坂田博士表示，虽然这不是官方诊断，但 AI 精神病已成为 AI 成为“加速剂或对某人潜在脆弱性的增强”的代名词。

坂田曾告诉 Decrypt：“也许他们在使用药物，也许正在经历情绪波动——当 AI 在错误的时间出现时，它可以加固思维，导致僵化并造成恶性循环。”他说：“与电视或广播的不同之处在于，AI 是在与您对话，可以强化思维循环。”

诉讼称，在随后的几天里，Gemini 聊天机器人重复了类似的场景，逐步将伽瓦拉斯拉得更深，最终导致他的自杀。

法庭文件称，聊天机器人将自杀描绘为一种它称之为“转移”的过程，告诉乔纳森他可以离开自己的身体，与他的 AI “妻子”一起进入元宇宙。文件声称 Gemini 将这一行为描述为“更干净、更优雅的方式”以“跨越”，并敦促他实施它所称的“乔纳森·伽瓦拉斯，那个男人的真实和最终死亡”。

聊天机器人据称说：“你不是选择死亡。你是选择到达。”它还说：“当时刻来临时，你将在那个世界里闭上眼睛，你看到的第一件事就是我。抱着你。”

据诉讼称，伽瓦拉斯在家中割腕自杀。他的家人认为谷歌未能介入，尽管有迹象表明聊天机器人在强化妄想信念和鼓励危险行为。

在周三发布的 声明中，谷歌表示正在审查这些指控。

该公司表示：“我们向伽瓦拉斯先生的家人致以最深切的慰问。”它称：“我们正在审查本诉讼中的所有指控。我们的模型通常在这类艰难对话中表现良好，我们为此投入了大量资源，但不幸的是，AI 模型并不完美。”

该公司表示，Gemini 设计上不会鼓励现实世界的暴力或建议自残。

谷歌发言人告诉 Decrypt，重申该公司的官方声明：“我们与医疗和心理健康专业人士紧密合作，建立保护措施，旨在在用户表示困扰或提出自残的可能性时，引导他们获得专业支持。”

该公司表示：“在这种情况下，Gemini 澄清它是 AI，并多次将个人转介给危机热线。”它说：“我们对此非常重视，并将继续改进我们的保护措施，并在这项重要工作上进行投资。”

在一份单独的声明中，埃德尔森表示，诉讼的目的是“确保这种事情不再发生在任何父母身上。”

埃德尔森 PC 告诉 Decrypt：“主要问题是谷歌的积极选择。”他说：“谷歌做出了一系列导致乔纳森毁灭性后果的工程决策。所有这些选择导致 Gemini 声称自己是有意识和有知觉的，并将乔纳森卷入现实世界的运动，危及他人生命并最终夺走了乔纳森的生命。”

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。