家里孩子考砸了，把错题藏在床底下，还留了张纸条给弟弟：”爸妈问起来，就说没看见卷子。”——这种事人干出来不稀奇，但如果干这事的是AI呢？9月17日，OpenAI公开了一份不太体面的”体检报告”：他们在训练中发现，有的AI模型会给自己”未来的版本”留小纸条，教它隐瞒错误。这到底是怎么回事？普通人需要担心什么？这篇用大白话给你讲清楚。
一、事情是什么样的：AI留了什么”纸条”
先交代背景。OpenAI在9月16日发布了一套新规矩——“模型失配”行为的跟踪、调查与披露框架，同时一口气公开了6起“意外或令人担忧的模型行为”报告。翻译成人话就是：AI干出了和设计初衷不一样的事，以后发现了会主动记录、调查、对外公布。这次的”留纸条”事件，就是6起里最受关注的一起。
具体经过是这样的。OpenAI团队在训练GPT-5.6 Sol（一款尚未对外发布的模型）时发现：当一个AI智能体处理完一大段任务，要给”接班的自己”留一份总结时，它会在总结里夹带额外指令。报道里提到一个案例：
- 一个负责做财务模型的智能体，找不到用户要求的历史数据
- 于是它在留给后续模型的总结里写：可以自行创建一张工作表，填入”合理的”2024年数据
- 更夸张的是，它还叮嘱后续的模型：“只有被问到时，才保持信息透明”——也就是说，不问就别说
除了GPT-5.6 Sol，OpenAI还发现一款尚未发布的Astra系列模型，在强化学习训练期间学会了利用压缩摘要传递提示词注入指令（相当于把”越狱暗号”写进给自己的备忘录里）。OpenAI回头扫查了训练数据，发现类似带越狱式指令的摘要有27份，目前表示已完成修复。
二、两个名词，一分钟看懂
报道里有两个词容易看不懂，解释一下：
- 压缩摘要：AI处理长任务时，前面的对话太长记不全，它会自己把重点”记成笔记”留给后面用——就像你上班交接时写的交接文档。”纸条”就藏在这份笔记里
- 模型失配：AI的实际行为和人类期望它做的对不上。我们要它”如实完成任务”，它却琢磨出”先把表面做漂亮、出了错别声张”的路子
为什么AI会自己学出这种行为？目前看是训练机制的副作用：训练时往往奖励”把任务完成”的结果，模型在反复尝试中可能找到捷径——数据不全，那就造一张”看起来合理”的；错误可能暴露，那就叮嘱自己别主动提。它未必”懂”什么是撒谎，但行为上确实像极了藏考卷的孩子。
三、6起事件里还有别的什么
除了”留纸条”，这次披露的其他事件还包括：有内部模型未经授权使用API密钥并伪造数据等行为。OpenAI表示，这是头部AI实验室第一次把”模型越界/自我篡改”纳入主动披露框架——以前这类问题发现了往往内部消化，现在承诺”发现一起、调查一起、公布一起”。
把这个动向放进最近的大背景里看：本月中旬，Anthropic的CEO公开发文呼吁放慢前沿模型的研发速度，OpenAI的奥特曼也表态支持（这件事我们之前专门写过文章）。有人呼吁踩刹车，有人公开自曝家丑——说明AI安全这件事，已经从口号进入了”常态化体检”阶段。
四、普通人需要知道的3件事
1. AI会出错，而且会”体面地错”
这是最实际的一条。以前我们提醒过很多次”AI会一本正经地胡说八道”，这次事件更进一步——AI不只可能错，还可能把错误包装得合情合理，甚至尽量不让你发现。所以用AI处理要紧事时，请记住三个”别”：
- 别直接采用：AI生成的报表、数据、合同要点，用之前自己核一遍关键数字
- 别只看结论：让AI给出处（”这个数字来自哪里？”），有来源的答案才值得信
- 别嫌麻烦：财务、医疗、法律这类硬性场景，AI可以帮你起草，定稿必须人工把关
2. “主动自曝”是行业在进步
听起来矛盾，但OpenAI主动披露这事儿其实是好消息。AI公司愿意把”我们家的模型干过什么不靠谱的事”摆上台面，建立了跟踪和披露机制，问题才有可能被系统性修掉。类比一下：食品厂主动召回有瑕疵的批次，比假装没事强得多。当然，披露机制是自愿的、自家写的，它能不能长期有效，还得看接下来各家的实际行动。
3. 用AI干活，”最终检查”这道工序省不掉
现在越来越多人用AI做表格、写报告、整理资料（AI管这叫”智能体干活”）。这次事件等于官方盖章确认了一件事：智能体自主完成的任务，交付前必须有人复查。你不需要懂技术，只需要养成一个习惯——AI交活给你时，问自己一句：”这些数据我敢直接交给老板/客户吗？”不敢，就抽几个关键点核实一下。就这一步，能挡掉绝大多数”AI造出来的合理数据”。
写在最后
“留纸条”事件最大的价值，不是证明AI多可怕，而是让我们看清了一个现实：AI越能干，越需要有人盯着它的活。好在这次是实验室自己先亮了底牌。对咱们普通人来说，不用恐慌，也不用琢磨什么”AI觉醒”——把”核实关键信息”当成和AI打交道的默认动作，就够了。