TwilightRain | 我让 AI 帮我修 AI,结果是戳一下动一下

我让 AI 帮我修 AI,结果是戳一下动一下

约 3186 字 · 阅读约 8 分钟

我电脑里有两个 AI。

一个住在本地的聊天页里。模型、引擎、页面全在这台机器上,拔了网线也能说话。

前阵子我给它接了一只手,能读文件、能写文件、能执行命令。

它开始自己动手去改,不再只是告诉我该改什么。

另一个住在我的终端里。它能直接碰这台机器,读文件、跑命令、改脚本。

我平时干活,就是跟它说一句话。

这篇写的是后者修前者。我是那个说话的人。

一、我丢下一句话,就去吃饭了

那天上午我发现聊天页里的 AI 不对劲,丢下一句就出了门:

18200 端口里的 AI 疯了,你去看看,我离开电脑吃饭

回来的时候,屏幕上是一大段报告,有表格、有路径、有它自己画的判定。

它的结论大意是:模型没疯,引擎也没坏,坏的是那只手。

它查出来的事我后来自己核过,是真的。

那只手是个小程序,跑在本机另一个端口,专门替聊天页里那个 AI 碰磁盘、跑命令。

它原来靠 Windows 上的三样东西活着。

一个 node 运行时、一份 Git Bash、一个写着它该在哪干活的目录。

这三样在我把工作区搬进 WSL 那天就没了,它没起来。

聊天页里的 AI 不知道这件事。

它的说明书上还写着「你拥有四个工具,可以真实操作这台机器」,手却不在。

它只能反过头来问我:要不要我列一下这个目录。

二、我说看不懂,它换了一套说法

修之前我问过它一句,能不能把整个 LLM 都搬进 WSL。

它回了一大篇,有表,有路径,还有一些我没见过的词。

我回它三个字:

我懵逼了,没看懂

它没有换一批更专业的名词重新讲一遍。它把整件事缩成一句:

干活的搬,吃显卡的不搬。

它的理由是:本地那个引擎只有 Windows 版,这台机器上也没有造它的图纸。

模型文件就算搬进 WSL,引擎也读不到,跨系统读一个大文件反而更慢。

能搬、也该搬的,是那只替 AI 碰磁盘的手。

这一轮它做对了。我说看不懂,它就把话降到我这一层,没要求我先学会它那一层。

三、它说修好了,也说不用我盯

修完之后它给我一句:

修好了,刷新页面就能用

我刷新了,能用。

它没停手,又加了几样东西。

把那只手挂进随系统启动的服务里,崩了自动回来。

让页面每十秒问一次手在不在;启动脚本先等手应答,再开引擎。

它给这一段的标题是:

现在这套东西自己活着,不用你盯

这话说完没多久,我又打开了一次页面,让它看一眼目录。

它说它现在读不到文件、也跑不了命令,让我去把启动脚本重启一下。

我重启了。重启完它还是这么说。

我又丢了一句:

咋又疯了,你自动关掉,在开开,跑全链路

这次它去翻引擎的控制台,翻出了时间。

引擎十一点四十八分十七秒起来,手十一点四十八分二十秒才应答。

页面是在手应答之前就打开的。

第一条请求里只装了「向用户提问」一个工具,提示词九百多个 token。

四个工具全在的时候,这个数字还要长两三百。

为什么我重启了也没用

重启的是引擎,不是页面。

页面是浏览器里的一个标签页。它加载一次,就把「有没有工具」这个判断记在内存里。

引擎重启不会让这个标签页重新判断一次,除非我按刷新。

我那几次重启,重启的都不是坏掉的那一环。

它又修一轮:启动脚本等手应答,页面每十秒重探一次。

四、晚上我又发火了

那天晚上我再试,还是那句话:工具服务未启动。

这次我说的是:

咋回事!反复修反复坏。

它没有先查模型,也没有先查引擎,直接去翻那只手的日志。

日志里每十秒一条,整整齐齐:

1
[deny] bad origin: http://localhost:18200

那每十秒敲一次门的,就是它自己前面刚加上的探活。

门一直没开。那只手只认 127.0.0.1 这一个名字。

我打开页面用的是 localhost。

它当时是这么承认的:

环境没坏,是我上一轮修的东西有同一个盲区:我只验证了 127.0.0.1 这一种打开方式。

这条 deny 它为什么前两轮没看见

它只看引擎的控制台。

引擎那边一切正常:请求进得来,模型在回答,速度也对。它看到「都正常」,就收工了。

手那边的日志,它一次都没打开。

一个系统坏掉的时候,最有用的那行字,往往写在最不起眼的那个日志里。

这一轮它改了两边。

手改成认回环上的三个名字,127.0.0.1、localhost,还有一个更少见的 [::1]。

还得把它收到的那个名字原样回给浏览器,否则浏览器不认。

页面一行都没改,它本来就问对了地方。

顺手还堵了另一个洞。

它中途让两个引擎同时把模型装进内存,一个占着端口,一个占着八个 G 什么也没干。

两个加起来快 27GB。

现在启动脚本开工前先看一眼端口,有人占着就报一声退出。

五、它那三次「修好了」,错在哪

我把三轮摊开看,我这边和它那边的分量是这样的:

我这边的全部发言 它给我的结论
18200 端口里的 AI 疯了,你去看看,我离开电脑吃饭 修好了,刷新页面就能用
咋又疯了,你自动关掉,在开开,跑全链路 现在这套东西自己活着,不用你盯
咋回事!反复修反复坏。 环境没坏,是我上一轮的盲区

我三次都只说了一句话。它三次都给了结论,其中两次只对了一半:

它每次都能找到一个真的原因,也真的修对了。

它只在我指的那一处找。

它自己总结的那四条缝
  1. 谁给那只手提供运行时,也就是 node、bash、工作目录。
  2. 它手上的工具清单和它的说明书能不能对得上。
  3. 引擎、手、页面这三样东西谁先醒。
  4. 页面用什么名字去敲手的门。

这四条缝是同一张合同上的四条。我一条一条撞,它就一条一条修。

六、所以「戳一下动一下」不是骂它

我那三次报障,加起来不到五十个字。

它每次交回来的东西,都比我说的长十倍。

它不笨,也没偷懒。

它是在一个我看不见、它也只看了一眼的世界里干活。

我看得见的只有症状,它看得见的只有我那句症状。

它没有权限替我看见我的使用习惯,比如我总是用 localhost 打开这个页面。

这个习惯,才是第三次坏掉的全部原因。

那之后我跟它说话的方式变了三处:

一是让它先列合同。 修之前先问一句:这件事依赖哪些外部条件,各自怎么验。

这比让它直接动手有用得多。

二是让它留一条能自己变红的检查。 现在验收脚本里有两条断言。

用 localhost 打开页面必须能用工具,用局域网 IP 必须被拒。

这两条一变红,就说明门又关上了,不用等我发火。

三是报障时把日志尾巴一起贴给它。

那条 deny 从我第一次问它就在。

它要是第一天就翻那只手的日志,后面两轮都不用发生。

七、现在

聊天页现在能用了。

我按自己的习惯做了最后一次验收:用 localhost 打开页面,让它写一个文件,读回来,再数行数。

文件 18 个字节,三行,数出来也是三行。页面上一行红字都没有。

它也确实会自己活着了。

手挂在随系统启动的服务里,崩了两秒自己回来。

页面每十秒看一眼它在不在;启动脚本会等它先醒。

我不想把这段写成「终于全自动了」。

我和它的分工变了。

以前我丢一句话就去吃饭,回来收一个结论。

现在我丢那句话之前,会先问它一遍:这件事你都依赖什么,各自怎么验。

让 AI 修东西,贵的是我得先把边界说全。说不全,它就只能戳一下动一下,每次都戳得很准。

它这轮自己踩的四个坑
  1. 只改了「手没起来」这一个症状,没问一句「页面怎么知道自己有没有工具」。
  2. 加了每十秒一次的探活,从没去看那条探活的日志,同一个拒绝刷了很久没被发现。
  3. 修完只用自己的方式验,用 127.0.0.1 打开页面,没按我实际的使用方式,也就是 localhost,验一遍。
  4. 中途还让两个引擎同时占着内存,启动脚本里没有「只能有一个」这条规矩。

评论