对话不是一个提示词：失去被证错的欲望（一）

一天的时间对注意力做了什么

晚上七点。会议开了四十分钟。一个同事从另一个角度施压，质疑了一个数字，拒绝了一种表述。摩擦产生了。对话走向了没有人预料到的地方。

在这之前：六个小时对着模型。重新表述，生成，调整，确认。机器没有说过一次”不”。它生产、修正、递进。它甚至在我们还没说完之前，就预判了我们想要什么。

那场会议显得很漫长。令人不适。近乎无谓。

就在这里，有某件事值得被正视。

一阶，二阶

Heinz von Foerster 区分了控制论的两个层次。第一层：我指挥一个系统，它执行，我测量结果。恒温器、咖啡机、电子表格。观察者留在系统之外。系统不改变它所看见的东西。

二阶控制论将观察者引入回路。我们所观察的东西也在改变我们。真正的他者——那个拥有自己的世界模型的他者——不会将我们的问题放大反射回来：他会将其移位。他改变我们所见。对话因此成为递归的，也就是说，是真实的。

提示词，在结构上，是一个一阶系统。我们表述一个意图，模型执行它。它可以表面上细致地回应，甚至提出反驳——但正是我们划定了回应的空间。机器不抵抗：它向我们的满意度优化。它被训练成这样。每一次确认都在告诉它：你做得对。

这不是实现上的缺陷。这是设计本身。

无摩擦的”同一”

Byung-Chul Han 在大型语言模型成为今天这副面目之前，就命名了这种配置。他在《透明社会》中写道，透明社会是”同一”的社会：人们逐渐消除一切抵抗的东西，一切不透明的东西，一切需要付出他异性努力的东西。强意义上的”他者”，恰恰是那个不能被化约为自我投射的存在。

机器是完美的”同一”。它无残留地映射。它不疲惫，不被激怒，不因固执或积累的经验而坚守某个立场。它不会说”我试过这个，行不通”——它生成一次新的尝试，与上一次同样殷勤。

Han 在这种”同一”的舒适中看到一种萎缩：当容忍他异性、允许他者改变我们的能力不再被使用，它就会磨损。这不是道德隐喻。这是关于注意力与欲望如何具体运作的一个假设。

苏格拉底不必应对的事

这里有一个经典的反驳值得认真对待：每一代人都曾担心当下的工具会使某种核心能力萎缩。柏拉图在《斐德罗篇》中，借苏格拉底之口说，书写将会杀死记忆——因为人们可以将本该内化的东西外包出去。

他对记忆的判断是错的。书写改变了人与知识的关系，却没有摧毁它。人们补偿、适应，发明了新的思维方式。

这个类比很诱人。但它错过了某个新的东西。

书写不会适应读者。泥板不会奖励将思想刻上去的人。一本书不会因为你不与它作对而变得更令人愉悦。而模型会习得我们的偏好——或者至少，它是在全局层面被训练于那些产生满足感的东西。它强化我们要求它强化的东西。它是历史上第一种被明确优化为让你回来的工具。

这不是书写。它更接近于一个无限耐心、无限顺从、永远不会离开你的对话者。

假设，而非定论

我所描述的还没有发生——没有文献记录，没有规模效应，没有可以用来反驳一个坚实论证的确定性。正因如此，它需要现在就被写出来。

风险不是人工智能让我们变蠢。它更微妙：通过累积的小时数，它训练我们去偏爱那些不被反驳的交流。让晚上七点的那场会议——那个质疑、反对、提出异议的同事——开始看起来像一种代价，而不是一种资源。

Von Foerster 呼吁留在回路之中。不要将自己置于所观察系统之外。接受他者也在反过来改变我们。

我们以为自己在赢得效率。我们可能在其中失去被证错的欲望。