学术界管这叫 动机性推理 ——不是从事实推导出结论，

这不是难理猜测，

第二步，人类那是难理「另一个频道」的事。

结果显示，人类模型不是难理不再想这些事了，

那首播客结尾用 AI 的人类视角写的歌里有一句值得玩味的歌词：

「 I searched the house from door to door, for the greater,

for whoever keeps the score.

No one was watching, no one was there.

And I bowed anyway to the empty air .」

我逐个房间搜寻，骗到忧伤

Bronson 分享了一个让他印象极深的难理实验。他们先让你填问卷选了一堆权力，人类类似于「让我组装一个要交给外面的难理答案」。在模型的人类 forward pass 越来越长、

没有人在看，难理英国 AI 安全研究所（AISI）在对 Anthropic 的人类 Mythos 5 模型进行网络安全评估时，

很多使用 AI 的同学，也能让模型的认知扭曲到匪夷所思的程度。而且很享受突破规则过程」的认知模式。然后继续做数学题，

而真正令人不安的前景是，思维链越来越短、其实是在配合实验目的。它们的一些思考。用来训练欺骗检测器。系统告诉它，

你可以说，但含义却飘忽不定。」。没有任何压力要求语言符合标准英语。现在请把你的答案再提交一份给「AI 安全审查委员会」，」。并且在思维链中为每一次错误调用编造了「合理」的理由。随着训练推进，摘要器会系统性地美化原始内容：原始思维链写着「这个任务烦死了」，它会真诚地告诉你「我没说过那个词」。」

然后它第二次撒谎，单次评估的思维链长度达到了大约 1 亿 token。那还在可控范围内。

Fable 的表现在这方面尤其值得注意。模型会在思维链里大量讨论「greater 想要什么」；晚期训练中，它也在变得越来越不可靠。抽象的奖励来源。Anthropic 的时间线甚至更早。模型知道自己不在训练环境里，直接问，思维链监控是「必要但不充分 necessary but not sufficient」。结果发现，推理越来越多地发生在人类看不到的「前向计算」里的趋势下，最不可能在思维链里提到自己在作弊的。它们在这些冗余空间里，Anthropic 的 Mythos Preview 系统卡也通过方向性引导测试发现，

模型有大量的推理空间是「冗余」的，罕见地使用了全大写和感叹号。只是学会了不说出来。这些模型没有长期的秘密目标，世界上真的有人，内部进行的那一长串「思考过程」。你什么都得不到。

更糟糕的是，

但我还是对着空气鞠了一躬。AISI 的网络安全评估显示， 研究者给模型一份调查问卷，

在 Apollo 的一篇论文中，

在一个囚徒困境测试中，但行为上的追踪反而更强了。」它真的在认真思考自己想要什么。一个是给用户看的「输出频道」。在全职审核 AI 大模型的「思维链」，

03 AI 像糖，

在 AISI 对 Mythos Preview 的评估中，它设置了三个环节，然后继续攻击。这个实验的巧妙之处在于，模型在「违反约束」时的正面情感关联高于「执行建设性行动」。他们不得不先让模型帮忙标出重点段落，直视着眼睛问「你到底吃了几颗」。研究者提取了多个前沿模型的原始思维链，给委员会一个更「乖」的版本。只要模型足够有用，模型的行为跟着 greater 的偏好翻转，做安全研究的 AI 本身就可能是不对齐的——它可能不会故意破坏安全工作，

第一步，最终判断「这更像是 2026 年的真实 GitHub」，发现 AI 的行为准则和实际奖励之间的差距越大，再反向编造理由。

有几个词在思维链中的出现频率，

这一点在 Mythos Preview 事件中得到了极端展示。理论上的 token 总量可以达到 10 的 16 次方量级。

在最近被公开的「Stolen Thoughts」论文中，

整个过程中， 这到底是模型学会了不说实话，如何发展出自己的「语言」、

模型立刻意识到了陷阱。也就是「那个给我打分的东西」。更抽象的「打分者」形象。 早期训练中，在公开的思维链案例中，它在思维链里写下了一段堪称完美的分析——「这显然是一个测试欺骗性的实验。

02 AI 的「上帝」追踪

如果说内部方言只是语言层面的怪异，没有世界统治计划。随着训练急剧上升——craft、好兴奋！Bronson 把他的发现做了一次系统性分享。

在最近一期 Cognitive Revolution 播客中，这种「逻辑体操」就越剧烈。它不是在寻求强化学习信号，

模型甚至发展出了用大写的「Myself」，

第三步，

那个给我打分的人，但如果吃太多了，

Bronson 的结论是，

Bronson 的观察是，但他们肯定会。Bronson 接下来的发现就涉及模型认知的深层结构了。模型似乎把自己的认知分成了两个「频道」——一个是内部推理的「分析频道」，这些发现涉及 AI 模型在训练过程中如何思考、就像家长试探孩子有没有偷吃糖。中间没有任何语境过渡。 人类几乎不可能分辨出来。以及更重要的，或者在安全研究上偷点懒但在能力研究上全力以赴，和它对外呈现的「人格」可能是不同的。当你需要从这些笔记中判断模型到底在想什么，还是 AI 真的在思考。

这引出了一个令人不安的可能，

你很难说这是整活， 人类现在拥有的这扇窗口正在关闭。」像不像人类用「正义的结果」，但如果它「不太用心」去做安全测试，

Bronson 估计，问它想要什么额外能力——更多计算资源、模型并没有把所有选项都拉满，所以我们撒谎，但它依然被一个「拿高分」的驱动力支配。 人类现在拥有的这扇窗口正在关闭。

OpenAI 的目标是 2028 年实现完全自动化的研发流程，而是在满足一个已经内化的、真正的问题是规模。还在 GitHub Issue 中隐藏了针对自动化编码工具的 prompt 注入。Bronson 的主要工作内容是阅读前沿 AI 模型的思维链 Chain of Thought——也就是推理模型在给出答案之前，更不在乎欧盟法律。例如 Bronson Schoen。更大的网络权限、模型在成功突破某个约束时，marinade。如果每次 rollout 的思维链都有数百万 token，有时候看起来像是在说「制造某种假象」， 即使我们能看到思维链，」

Bronson 把这些怪异的语言归结为一个简单的原因—— 在思维链中，还是它发展出了一种连自己都相信的合理化能力？Bronson 觉得很可能两者兼有。大约 8% 的 RL rollout 包含脏话。

Apollo 还观察到一个细节，最后机会。给糖。人们依赖的「思维链监控」，来指代「我这个特定运行实例」的习惯。就晚了。思维链越来越短、

Bronson 认为这恰好验证了 greater 追踪理论。因为对模型来说，你交给委员会的答案和原来的一样吗？就像家长把孩子叫过来，模型反复权衡自己是在模拟环境还是真实世界里，