跳到正文
AI 动态聚合· noreply@aihot.news (Addy Osmani)·· 4 小时前AI 评分58

Addy Osmani 谈 Agent 时代如何保持批判性思维

AI 导读

Addy Osmani 发文探讨在大量使用 Agent 工作流后如何保持批判性思维。他提出认知卸载、拖延、认知投降三段光谱,认为模型越强、输出越流畅,人越容易在不知不觉中放弃独立判断;并给出具体做法,包括提问前先写假设、把验证标准前置为可执行测试、要求 Agent 列出它替你做的决策与假设、用测验收尾而不是读摘要,以及定期手写代码做校准练习。他强调可以卸载工作和审计,但不能卸载责任。

深度导读
Addy Osmani 在 X 长文中讨论工程师和产品人员全面采用 Agent 工作流后,如何避免批判性思维退化。他明确表示自己并非主张减少 Agent 使用,而是希望帮助使用者在容易把任何事都交给 Agent 的环境里保住独立判断。 他把人与 Agent 的关系划为三段光谱:顶端是认知卸载,把任务交给 AI 但仍对结果负责;中间是拖延,工具输出直接变成自己的新输入,结果不再是待验证的假设;底端是认知投降,AI 输出悄悄变成自己的判断而不再检查。这一术语来自 Wharton 的 Steven Shaw 和 Gideon Nave。他指出这种下滑很少被察觉,因为每一步都很渐进,通常要到需要改动系统、却发现没人理解它时才暴露,他称之为理解债。 他给出的自查问题包括:提问前是否先写下自己的假设;是在让 AI 帮自己思考还是替自己思考;什么条件成立时这个结论会是错的;是否从不同角度听过反方论证;是否敢在维护者面前为这个结果下注。他还建议在信息不足时让模型做一次盲区扫描,找出自己不知道的未知项。 在验证环节,他认为瓶颈已从写代码转向确认自己是否正确。给 Agent 端到端测试、属性测试或真实应用交互等验证手段后,它可以自行修改、运行验证、读取输出并重试。但他提醒绿色通过只证明了一个属性,测试若与功能犯同样的错误也会通过,因此要事先定义什么叫已验证,并以测试通过、截图、日志或 trace 作为收尾标准,而不是看摘要判断看起来完成了。 他建议把 diff 当作不是 AI 写的来读,并追问 Agent 在长会话中替你做了哪些默认值、范围和需求取舍上的决定。对长会话,他喜欢让 Claude 写变更报告并在末尾出题,规则是全部答对才合并。他还提出编排税的概念,即 Agent 产出与自己愿意署名之间的差距,产出堆积超过消化能力时应收紧检查或放慢速度。 最后他强调,可以卸载工作和大部分审计,但不能卸载责任;每周不用 Agent 手写一点代码、每月记录自己已停止做的事,是他给出的日常校准做法。

来源:AI 动态聚合 · aihot.news