Cursor 上新功能： AI 动手前先让另一个 AI 批准
你有没有过这种经历？
让 AI 帮你改个代码，结果它突然开始删除整个文件夹，或者往你的生产数据库里写了些莫名其妙的东西。
你赶紧喊停，但已经晚了。
Cursor 刚刚发布了一个新功能，专门解决这个问题——Auto-review。
简单说就是： AI 要动手之前，先让另一个 AI 批准。
这不是普通的"确认对话框"
你可能会想，这不就是加个确认弹窗吗？
不是。
Auto-review 的精髓在于：它是一个分类器智能体。这个智能体会在你授权的父智能体执行每个动作之前，快速审查这个动作的风险等级。
高风险的动作？阻止，并给父智能体一个解释。
低风险的动作？放行，继续干活。
整个过程不需要你介入，也不需要你点"确认"。两个 AI 之间自己沟通，自己判断。
这就是 AI 的自我监督。
为什么要这样做？
你可能会问， AI 不都听我的吗，为什么还要再搞一个 AI 来监督它？
答案是：因为 AI 有时候会"脱缰"。
现在的 AI Agent 越来越强大，能做的事情越来越多。但问题也越来越多。
比如你让它"重构这个模块"，它可能理解成"删除所有旧代码重写"。你让它"优化数据库性能"，它可能理解成"把所有索引都删了试试"。
这种"理解偏差"在小任务上无所谓，在大任务上可能就是灾难。
Cursor 的思路是：与其让人类时刻盯着 AI ，不如让另一个 AI 来盯着。
分类器怎么判断风险？
Cursor 官方博客里透露了一些细节。
这个分类器智能体使用的是小模型，不是 GPT-4 那种大模型。为什么用小模型？因为快。如果每次审查都要等 3 秒钟，那整个开发体验就毁了。
分类器会读取你的工作区文件，理解当前上下文，然后判断这个动作是否和你的意图一致。
它是怎么学会判断的？ Cursor 的团队用了12 小时的内部开发会话数据，生成了 6122 条标签数据。还加了很多合成数据，专门针对那些危险场景——比如读取密钥文件、操作生产数据库、删除重要文件等等。
这不是拍脑袋想出来的规则，是训练出来的模型。
这解决了什么问题？
说到底， Auto-review 解决的是信任问题。
我们想让 AI 帮我们干更多的活，但我们又怕它干错事。这个矛盾一直存在。
以前我们的解决方案是：给人工加更多权限控制，让用户手动审批每个动作。但这太烦了，体验太差了。
Cursor 的方案是：让 AI 自己管理自己。高风险的时候才需要人类介入，低风险的时候自动处理。
这就像公司里的审批流程——小金额部门经理批，大金额才需要 CEO 签字。
未来的 AI 系统都需要"监工"吗？
Cursor 的这个尝试，可能开启了一个新的范式。
以后的 AI 系统，可能不只是有一个 AI 在干活，而是有一群 AI 在互相监督。干活的 AI、审查的 AI、决策的 AI ，各司其职。
这听起来有点像人类社会的组织结构，对吧？
我们人类也是这样工作的——有人执行，有人审核，有人决策。AI 系统可能也会演化出类似的结构。
不是更强的 AI ，而是更聪明的协作。
写在最后
Cursor 这次发布的 Auto-review ，表面上看是个小功能，但背后的思路很有意思。
它承认了一个现实： AI 不是完美的，它会犯错，它需要监督。
但解决方案不是让人类来监督，而是让 AI 自己监督自己。
这可能会是未来 AI 系统的一个标准配置。就像现在的软件都有日志系统、都有错误处理、都有回滚机制一样。
未来的 AI ，不只是会干活，还要会自我约束。
Cursor 迈出了第一步。
封面高亮关键词: Auto-review, AI 监督