🧐千万不要深信不疑｜讲下我被 ChatGPT 结结实实骗了一次的经历：AI 最可怕的不是不会，是太会自洽！ 今天遇到一个奇妙的事情和大家分享下， 我他娘的被 ChatGPT 上了一课：原来 AI 最大的风险，不是不会，而是太会“自洽”。 它擅长把你给的前提，推导成一个听起来“合理”的结论。哪怕结论本身是错的。 太可怕了！ 1️⃣翻车现场： 事情是这样的： 我平日里会吃鱼油、益生菌、护肝片甘氨酸镁这些，所以我经常会和 Ai 探讨吃完后的身体反馈以及最佳的食用时间的调整； 问题出在益生菌这一趴！ Ai 知道我是不吃早餐，但是会在上午9点30吃一些坚果鸡蛋或者牛奶，然后他给我建议的时间是每天早上空腹起来吃益生菌，理由是早起空腹的时候，胃酸相对低，益生菌更容易“活着通过胃”到达肠道的存活率更高； 而饭后胃酸分泌增加益生菌更容易被胃酸杀死； 我当时也没多想——因为它说得太像那么回事了。 2️⃣魔幻：同一个模型，两套答案 然后我今天和一个朋友交流的时候，他讲肯定不能空腹吃，早上空腹胃酸是最多的，不利于益生菌吸收。 而且他告诉我，这也是他的 ChatGPT 告诉他的答案。 然后我就傻了！ 于是当着他的面，我用他问他的 GPT 的几个问题，问我的 GPT 得到的答案完全截然相反。比如我的 GPT 告诉我要早上空腹吃，他的告诉他要随餐或者饭后20分钟吃； 我的 GPT 告诉我空腹胃酸最低，他的告诉他吃完饭胃酸才更低。而且都有一堆事实依据，甚至还有数据。 我这才意识到一个尴尬现实： AI 有时候不是在“回答事实”，而是在“完成自洽”。你给它一个倾向，它就会主动替你找证据；你换个语境，它就能立刻站到对立面。 3️⃣换了一个提问方式：先问事实，再谈建议！ 这种情况，我在懵逼的情况下，首先重新查询了其他 Ai 模型；然后换着方法问了 chatGPT 关于人体一天时间到底什么时候胃酸比较低，适合使用益生菌。 先把这个事实搞清楚。因为胃酸低的时候，吃益生菌更好，这是基本事实。 加了这个前提后，终于正常了： ChatGPT 在 200 美金的 Pro 功能的加持下，给了我具体数据：说空腹时胃内更酸，研究里空腹的胃 pH 中位数大约 1.7，吃饭后胃内容物会被食物缓冲，pH 会短暂升高，进食后胃 pH 会短暂爬升到中位峰值约 6.7，然后在不到 2 小时内逐步回落到空腹水平。 所以给出了最终结论：从“存活率最大化”的角度，更稳的策略往往是：益生菌最好是随餐 / 餐前，而不是餐后30分钟。 同时它还补了一点我之前忽略的关键：不同类型的益生菌，对胃酸的抗性不一样。 比如我吃的是 Life Space 成人款这个款式，核心特点是：多种 Lactobacillus（乳酸杆菌）和多种 Bifidobacterium（双歧杆菌）不是芽孢型和酵母型（非 S. boulardii）；这种更应该随餐或者餐前。 然后，他给出结论后，还为之前错误给我食用时间做了反思和道歉，WTF 但是着实还是吓我一跳！ 这提醒我：你以为你在跟一个严谨系统对话，实际你在跟一个“会讲故事的概率机器”对话。哪怕这是充值了 200 美金一个月的 ChatGPT。 4️⃣复盘：它为什么会错？ 我觉得他给出错误信息可能有几个原因： 1）我先告诉过他，如果可以的话我希望早上空腹吃，这样更方便安排后面的药物食用时间，所以在这个前提下，这句话等于给它塞了一个“期望答案”，它就开始疯狂找理由支持我。 2）我没给他具体产品，益生菌类型很多，有些确实能空腹、有些更应该随餐。所以给的结论很模糊。 5️⃣结尾：AI 是工具，不是权威！ 所以你看，这些模型默认假设：用户给的前提，大概率是对的，或者至少“值得被尊重”。 这在很多场景是优点（体验好、不抬杠），但在健康、医学、金融、决策类问题里，就是隐患。 这件事最后让我更坚定一件事：AI 的正确打开方式不是“相信它”，而是“用它做交叉验证与推理加速”。 尤其是跟身体有关、跟长期习惯有关的事：别把一个模型当医生，也别把一次回答当真理。 它可以很强，但它也很擅长把你带进“自洽的幻觉”里。 家人们：未来我们一起，保持怀疑，保持验证才行，去把“建议问题”，拆成了“事实问题”。 要有怀疑精神，要多重验证，千万不要深信不疑！ 最后我给我的 AI 聊了半个小时，告诉他不要对我说说谎，我要的是真实的，而不是好听的！至于未来情况如何，只能等后面再和大家汇报了。(BITWU.ETH 🔆)