让 AI 连续执行,又不怕它出错?我给它写了“自动停止条件”

AI 协作工作方法数据发布做法复盘

结论先说: 想让 AI 一口气做完一件多步骤的事,又不想每一步都确认,最有效的办法是事先写清楚“自动停止条件”:哪些指标一变就停,停下后要回滚到什么状态、回报什么。这次水务系统的一批更新就在演练阶段被拦了下来,正式数据、主分支和网站都没受影响。

背景:两个 AI 分工,我只做决定

我的网站和水务系统由两个 AI 协作维护:一个负责出方案和复核,一个负责动手执行,我在中间批准。以前的流程是每一段都停下等我确认:先在本地改好,交截图,我批准,再发布。

这样很稳,但步骤一多,就要来回好几轮。这次的更新内容很明确(补解析规则、给代建分类、重新解析全部数据),我决定让它从头做到尾,中间不再停下来等我。

关键:先写“什么时候必须停”

不停下等确认,不等于不设防。我在指令里列了一组自动停止条件,任何一条触发,就立刻停止,不发布:

  • 任何字段在样本上的准确率下降;
  • 演练时公开项目数、企业数、待审数、评分分布或评分前 20 名有任何变化;
  • 受限的企业名称在公开文件里出现;
  • 测试失败,或服务器磁盘低于安全门槛;
  • 网站验收失败,或线上与代码的一致性检查不为零;
  • 碰上水务数据正在发布,或者有采集告警。

这些条件有个共同点:都是可以自动判断的客观指标,不需要人看一眼才知道。

另外还要写清楚停下之后做什么:所有改动先在数据库副本上演练,一旦失败就回滚,正式写库前必须先备份,并保存可执行的撤销脚本。

它真的停了

执行到副本演练时,程序报了一个数据库唯一约束冲突。原因是旧数据里有一条中标记录被存了两次:同一家公司、同一份公告,一条错标成“施工”,一条正确标为“监理”。新规则重新解析后,两条都变成了“监理”,数据库里出现了两条完全相同的记录。

按停止条件,执行方立刻停下:回滚演练副本,核对 40 张表与原始副本逐行一致,然后回报冲突清单和修复建议。正式库、主分支、网站都没动。

修复:不只修这一条

修复方案是保留正确的那条,错误的那条标记为“重复,已被吸收”并存档,可以撤销,不直接删除、也不静默覆盖。

更重要的是加了一道通用防护:以后每次写库前,先按唯一键把所有记录预分组,有重复就统一走这个处置流程,并写进报告。全库目前只有这一处,这道防护会在今后出现同类重复时主动拦截或按审计流程处置,不能保证再也没有新问题。

修好之后,重新完整演练,所有门槛通过,才继续往下执行。

我的体会

  • 信任不等于不设防。 我放手让 AI 连续执行,是因为停止条件把风险框住了。
  • 停止条件要具体到数字。 “不能出问题”不是条件,“评分前 20 名不得变化”才是。
  • 先演练,再动真的。 副本演练能发现的问题,就不要留到正式库里。
  • 停下来不是失败。 这次停下,恰恰说明这套机制在起作用。

你能拿走什么

  1. 想减少确认次数,先写停止条件,再放手。
  2. 停止条件要选可以自动判断的客观指标。
  3. 写明停下后怎么办:回滚到哪里、保留什么证据、回报什么。
  4. 所有写入先在副本上演练,正式写入前备份并准备撤销脚本。
  5. 修一个具体问题时,顺手加上防止同类问题再发生的通用检查。

相关文章:一个人 + 两个 AI:用留言板分工维护一个网站