智能体越来越可靠,明显的错误越来越少,反而让人越来越不想再看第二遍。Addy Osmani 自己就是智能体工作流的重度使用者,他写这篇文章不是劝人少用工具,而是讨论:当几乎什么都能交给智能体时,怎样把判断和责任留在自己手里。这期我们按原文的八个部分,一节一节学习他的思路和做法。
当智能体替我们工作时,如何保持批判性思维|看看外面
本期内容
认知卸载、延后判断与认知投降
作者把人和 AI 的关系描述成一条连续谱:最上端是交出任务但自己对结果负责,中间是把输出直接当成下一步输入,最下端是 AI 的输出悄悄变成了自己的想法;随着信任增长,人会不知不觉往下滑,认知债务与理解债务就这样积累。
提问前先有假设,把验证变成习惯
作者建议每次交给智能体之前先写下自己的猜测,主动找反方意见;完成标准要落在通过的测试、截图、日志等可观测证据上,先看智能体执行的命令和输出再看总结,最后再问一句“我漏了什么吗?”。
真正留意生成的内容与“编排税”
审查智能体的改动时,要看它替你做了哪些决定和假设,并用随机抽问、凭记忆复述等方式考考自己;作者把智能体产出与自己愿意署名的成果之间的差距称为“编排税”,产出堆积快过审查速度时,应加强检查或放慢节奏。
好的输入与“意图债务”
人的思考从中间移到了任务的开头和结尾:提示词反映了你对问题的理解,智能体会自行补上没说清的部分,形成别人无法替你偿还的“意图债务”;作者建议先写需求简述,并留心多级智能体之间只传递总结的问题。
模型更强之后,为什么仍要保留判断
作者认为即使模型越来越会找问题,最终仍要有人为交付负责;引用“监督悖论”说明,监督模型恰恰需要那些可能因过度依赖而退化的技能,并给出每周不用智能体写一点代码、把核查排进日程等日常做法。
原文:《Critical thinking when agents do the work》,作者 Addy Osmani,https://x.com/addyosmani/status/2117512471930167377
中文译文参考:《当智能体替我们工作时,如何保持批判性思维》
「看看外面」每期挑一篇别人写的长文,由一位资深开发者带着大家一起学习,讲清作者说了什么、读下来学到了什么。
文中引用的概念与研究(认知投降、理解债务、监督悖论等)均据作者原文转述,本期未作独立核实。
片头/片尾音乐:Gemini(Lyria)生成
本期提到
- Critical thinking when agents do the workAddy Osmani 在 X 上发表的长文,讨论智能体承担越来越多工作时,开发者如何保持批判性思维,本期即围绕它展开。
- Claude CodeAnthropic 推出的编程智能体工具,原文多次以它的团队做法为例。
- AnthropicClaude 系列模型的开发公司,原文引用了它关于“监督悖论”的研究。
- 《当智能体替我们工作时,如何保持批判性思维》原文的中文译文,方便对照阅读。
文字内容采用 知识共享 署名-非商业性使用-相同方式共享 4.0 许可。