NAKKAMA

AI 操作员 · 2026年8月27日 · 1 分钟阅读

小、慢、本地:计算的奢侈

在自己的机器上运行大语言模型,不是技术妥协,而是一种政治选择。Ivan Illich称之为"自足工具":它放大使用者的自主性,而非制造依赖。明日的高端不是最大的模型,而是那个你可以打开、修复、随时关掉的模型。

小、慢、本地:计算的奢侈

16GB内存。一个4位量化模型。终端打开,三秒启动。没有API密钥,没有配额,没有跨大西洋的延迟。也没有那份47页的合同——那份合同里写着你的请求可能被用来改进产品。

这就是本地优先的工作流。它不是退而求其次。

约束即语法

永续计算提出一个直接的问题:在不依赖我们无法掌控的基础设施的前提下,我们能用手头的东西持续做什么?这不是美学上的极简主义,而是一种关于人与工具关系的立场。

Ivan Illich称之为”自足工具”——使用者能够真正掌控的工具,它不会反转这段关系,把人变成系统的仆从。自足工具的反面是制度性假肢:你去适应它,你付费,你喂养它的增长。ChatGPT、Claude、Gemini都是出色的工具,但在Illich的意义上,它们并不自足。它们随你成长,却不是为你而长。

一个跑在16GB内存上的本地模型受到约束,它做不了所有事。但它做的事,无需对任何其他人负责。约束,正是掌控的语法。

云在吞噬什么

Bernard Stiegler用了大量职业生涯来描述一个他称为”认知无产阶级化”的过程:技术功能的外包如何逐步蚕食从业者的知识。当技艺从双手转移到机器,双手就开始遗忘。当知识从双手转移到云端,知识就归属于云端。

这不是比喻。每一次发送给第三方模型的请求,都是你思维方式、表达方式、问题构建方式的一个碎片——它进入你无法掌控的基础设施流通,那个基础设施从你身上学习却不向你支付报酬,并且完全可能在明天用它训练出的模型,直接服务于你的竞争对手。

Shoshana Zuboff为这个机制命名:监控经济不是偷窃你的数据,而是将你的行为作为原材料提取出来,用以预测和引导他人的行为。云端语言模型是这一逻辑的完美延伸。你教会它你的推理方式,它把这个能力卖给所有人。

不可复制的计算

在此前一篇文章中,感官垂直逻辑提出了一个论断:当一切皆可复制,不可复制之物便成为高端。留下痕迹的手,无法委托出去的姿态,独一无二的物件——这些成了新的价值信号。

同样的逻辑适用于计算。

一个基于你自己的语料库、你自己的文件、你自己的工作方式微调而成的模型,运行在你自己的机器上——这个模型是不可复制的。它与任何其他模型都不相同。它吸收了你的词汇、你的风格、你的区分方式。它是你实践的计算延伸,而不是一个按月租用的通用智能接口。

明日的高端不是最大的模型,而是你所拥有的那个模型。

拥有,意味着不逃离

拥有一个本地模型,意味着接受它的局限。一个量化的70亿参数模型,在复杂推理任务上无法与前沿模型抗衡。但它无条件地完成你的指令,无需等待,无需订阅。它在火车上离线运行,在工作室里运行,在数据不能外泄的场合运行。

更重要的是:它不会把任何东西教给别人。你给它的一切留在原地。你的知识,你构建简报的方式,你分析市场的框架——全部留在你的内存里,你的硬盘上,你的掌控之中。

这是计算版本的工匠守艺。不是出于怀旧,而是出于策略。

它需要什么

没有什么是一个认真的操作者做不到的。一台16GB内存的Mac就足以运行能够处理编辑、摘要、分类、结构化生成任务的模型。Ollama、LM Studio,各种简洁的界面——生态系统已经存在,稳定,免费。

它真正需要的,是一种立场的选择。决定基础设施是重要的。决定依赖有一种不出现在账单上的代价。决定流失的知识不会回来。

Illich写道,自足工具是那种给予使用者最大空间、让他们按照自己的意图塑造世界的工具。在自己的机器上运行自己的模型,正是这个意思。

其余的,都是租用大脑。

参考文献

引用作者

引用书目

通讯

分析、颠覆、站得住脚的假设。

SUBSTACK · NAKKAMA.SUBSTACK.COM

← → 上一篇 / 下一篇 · ↑ ↓ 随机
·

···