系统设计最难的不是自动化什么而是故意不自动化什么——好的AI系统像安灯只暴露问题把判断留给人

精益社区（LEI）前几天发了一篇很实在的文章，叫《Prompting for Problem Solving》，教精益人怎么给大模型提问、用它来解决问题。

它的框架我很喜欢：把每个精益人都熟的 PDCA 循环套到用 AI 上——Prompt（提示）替代了 Plan，模型负责 Do，而 Check 和 Act 主要还留在你手里。 它还有个很精益的洞察：泛泛的提示词会得到平庸的回答，这就跟”泛泛的标准作业会让操作员做出千差万别的结果”是同一回事——留给解释的空间越大，结果越不可控。

这篇文章方向没错，教得也好。它结尾甚至专门提醒了一句：别把你对一个问题、以及它成因的理解，外包给模型——模型不该取代你自己的思考。

我完全同意。但我想接着这句，往下再走一层。

因为”别外包你的思考”这句话，是说给使用者听的一条自律：你自己得管住手。可现实是，大多数人管不住，而且工具本身正在拼命诱惑你把手交出去。于是真正难的问题，就从”用户该不该忍住”变成了另一个——如果连工具自己也该担一份责任，那我们到底该怎么把一套系统，设计成”该帮的时候帮、该停手的时候停手”？

这已经不是用户自律，而是系统设计。而这恰恰是最少人认真想的一面。

系统设计最难的，是”故意不自动化什么”

先说一个听起来有点反常识的判断：当你设计一套系统去帮人的时候，最难的决定从来不是”该自动化什么”，而是”该故意不自动化什么”。

这个问题在”学习”这件事上，尤其致命。

我一直在追一个叫 agentic note-taking 的系列，讲怎么用 AI 帮学生学习。作者 Cornelius 设计了一大堆强大的机制——追踪你的前置知识、检测你在混淆哪两个概念、自动安排复习……每一个单看都能提升学习效果。但他在文章最后，问了一个让整个系统都晃了一下的问题：

把”元认知”外包出去，到底是在建立它，还是在让它萎缩？

元认知，就是”关于你自己认知的认知”——知道自己哪里不懂、发现自己把两个概念搞混了、意识到自己这套学法没用。这恰恰是学习里最值钱的能力。

而认知科学里有个发现（D’Mello 与 Graesser 的研究）耐人寻味：困惑，只有在你自己把它攻克掉的那一刻，才是深度学习真正发生的地方。 注意是”攻克掉”——一直悬着、最后也没解开的困惑，反而是有害的；但反过来，一个人如果学什么都顺、从不卡壳，也往往说明他还没真正碰到过需要自己想明白的那道坎。

于是就有了那个设计悖论：

• AI 帮你 → 消除了困惑 → 学习变浅了；
• AI 不帮你 → 保留了困惑 → 但你可能把错的东西固化下来。

帮，也不对；不帮，也不对。这才是真问题。

这件事，精益人其实早就懂

讲到这儿，做精益的人应该会心一笑——因为你们车间里那根绳子，早就把答案给出来了。

安灯（Andon）拉绳。

安灯的设计精髓，从来不是”让机器把问题自动解决掉”。绳子一拉，灯亮了、线停了，班组长、工程师会立刻赶过来一起看——但那个问题到底是什么原因、该怎么解，仍然要靠这群人现场去查、去想、去判断。

换句话说，安灯自动化的是”检测、暴露，并且立刻叫来支援”，唯独没有交给机器的，是最费脑子、最长本事的那一段——诊断和判断。

这里还藏着一个很关键的设计：安灯让人”自己想”，但从不让人”一个人扛”。灯一亮，是一群人围过来协同，而不是把你晾在原地干着急。这一点极重要——它既保住了”判断由人来做”，又用一屋子人的眼睛，防止某一个人把错的判断悄悄固化下去。

这跟”AI 该在哪停手”，是同一类设计原则。一套好的帮人系统，不该抢着连”这到底怎么回事、该怎么办”都替你判断掉，而应该像安灯一样：把问题清清楚楚地照亮、把该叫的支援叫来，然后把最后那一下判断，郑重地交回给人。

摩擦，有两种

精益的看家本事是消除摩擦、消除浪费。但这里要做一个很关键的区分——摩擦有两种，不能一锅端。

• 一种是无益摩擦：找不到文件、格式老是乱、同一张表填三遍。这种摩擦纯是浪费，AI 能替你抹掉多少就抹多少，抹得越干净越好。
• 另一种是有益摩擦：自己把一个概念辨析清楚、自己把一个乱糟糟的问题想通、自己在两个方案之间挣扎着做判断。这种摩擦不是阻力，是生成理解的燃料。 你把它抹掉，等于把理解一起抹掉了。

有一项初步研究（还需更多验证）提示了一个耐人寻味的方向：被动地依赖 AI，人的大脑投入程度会下降；但反过来，先自己独立想一遍、再引入 AI，投入反而更高。顺序，可能比用不用更重要。

所以真正的功夫，不在于”能不能消除摩擦”，而在于分得清哪段摩擦该消、哪段摩擦得留。

对做数字化、搭知识库、上 AI 的人

如果你正在给一个团队上 AI 工具、搭知识系统、做智能体，这张卡给你的判断很实在：

你真正要设计的，不是”这套系统能帮多少”，而是”它该在哪一步停手，把那段挣扎留给人”。

• 让 AI 去做检索、整理、格式化、初稿——这些是无益摩擦，抹掉；
• 但”这个异常到底是什么原因""这两个方案该选哪个""这个标准今天还合不合理”——这些有益摩擦，系统最好像安灯一样，只把问题暴露清楚，然后把判断郑重地交回给人，而不是抢着给一个让人省心、却剥夺了思考的答案。

这里得说清一个前提：不是所有任务都值得留白。凌晨两点抢修一条线、赶着把一批不良挡在出货前——这种纯执行、只求又快又对的活，AI 能替你多扛就多扛，别添乱。真正值得留下那段挣扎的，是当这一次动手同时也是一次练本事、养判断的机会的时候。

而只要是这种时候，一套抢着替你把什么都解决掉的系统，用起来最爽，长期却可能让团队的判断力慢慢萎缩；一套懂得”何时不帮”的系统，用起来偶尔别扭，却在帮你的人一天天长本事。

结尾

AI 时代，让它替你把一切都做完，太容易、也太舒服了。

难的、而且会越来越稀缺的，是另一件事：知道哪一段卡顿不能外包——因为那一段，恰恰是你长出判断力的地方。

安灯的智慧，从来不是那盏灯有多亮，而是它亮完之后，郑重地闭嘴，把问题留给了人。

一套系统最高级的设计，不是它能帮你做多少，而是它知道何时，不帮忙。