我电脑里有两个 AI。
一个住在本地的聊天页里。模型、引擎、页面全在这台机器上,拔了网线也能说话。
前阵子我给它接了一只手,能读文件、能写文件、能执行命令。
它开始自己动手去改,不再只是告诉我该改什么。
另一个住在我的终端里。它能直接碰这台机器,读文件、跑命令、改脚本。
我平时干活,就是跟它说一句话。
这篇写的是后者修前者。我是那个说话的人。
#一、我丢下一句话,就去吃饭了
那天上午我发现聊天页里的 AI 不对劲,丢下一句就出了门:
18200 端口里的 AI 疯了,你去看看,我离开电脑吃饭
回来的时候,屏幕上是一大段报告,有表格、有路径、有它自己画的判定。
它的结论大意是:模型没疯,引擎也没坏,坏的是那只手。
它查出来的事我后来自己核过,是真的。
那只手是个小程序,跑在本机另一个端口,专门替聊天页里那个 AI 碰磁盘、跑命令。
它原来靠 Windows 上的三样东西活着。
一个 node 运行时、一份 Git Bash、一个写着它该在哪干活的目录。
这三样在我把工作区搬进 WSL 那天就没了,它没起来。
聊天页里的 AI 不知道这件事。
它的说明书上还写着「你拥有四个工具,可以真实操作这台机器」,手却不在。
它只能反过头来问我:要不要我列一下这个目录。
#二、我说看不懂,它换了一套说法
修之前我问过它一句,能不能把整个 LLM 都搬进 WSL。
它回了一大篇,有表,有路径,还有一些我没见过的词。
我回它三个字:
我懵逼了,没看懂
它没有换一批更专业的名词重新讲一遍。它把整件事缩成一句:
干活的搬,吃显卡的不搬。
它的理由是:本地那个引擎只有 Windows 版,这台机器上也没有造它的图纸。
模型文件就算搬进 WSL,引擎也读不到,跨系统读一个大文件反而更慢。
能搬、也该搬的,是那只替 AI 碰磁盘的手。
这一轮它做对了。我说看不懂,它就把话降到我这一层,没要求我先学会它那一层。
#三、它说修好了,也说不用我盯
修完之后它给我一句:
修好了,刷新页面就能用
我刷新了,能用。
它没停手,又加了几样东西。
把那只手挂进随系统启动的服务里,崩了自动回来。
让页面每十秒问一次手在不在;启动脚本先等手应答,再开引擎。
它给这一段的标题是:
现在这套东西自己活着,不用你盯
这话说完没多久,我又打开了一次页面,让它看一眼目录。
它说它现在读不到文件、也跑不了命令,让我去把启动脚本重启一下。
我重启了。重启完它还是这么说。
我又丢了一句:
咋又疯了,你自动关掉,在开开,跑全链路
这次它去翻引擎的控制台,翻出了时间。
引擎十一点四十八分十七秒起来,手十一点四十八分二十秒才应答。
页面是在手应答之前就打开的。
第一条请求里只装了「向用户提问」一个工具,提示词九百多个 token。
四个工具全在的时候,这个数字还要长两三百。
为什么我重启了也没用
重启的是引擎,不是页面。
页面是浏览器里的一个标签页。它加载一次,就把「有没有工具」这个判断记在内存里。
引擎重启不会让这个标签页重新判断一次,除非我按刷新。
我那几次重启,重启的都不是坏掉的那一环。
它又修一轮:启动脚本等手应答,页面每十秒重探一次。
#四、晚上我又发火了
那天晚上我再试,还是那句话:工具服务未启动。
这次我说的是:
咋回事!反复修反复坏。
它没有先查模型,也没有先查引擎,直接去翻那只手的日志。
日志里每十秒一条,整整齐齐:
1 | |
那每十秒敲一次门的,就是它自己前面刚加上的探活。
门一直没开。那只手只认 127.0.0.1 这一个名字。
我打开页面用的是 localhost。
它当时是这么承认的:
环境没坏,是我上一轮修的东西有同一个盲区:我只验证了 127.0.0.1 这一种打开方式。
这条 deny 它为什么前两轮没看见
它只看引擎的控制台。
引擎那边一切正常:请求进得来,模型在回答,速度也对。它看到「都正常」,就收工了。
手那边的日志,它一次都没打开。
一个系统坏掉的时候,最有用的那行字,往往写在最不起眼的那个日志里。
这一轮它改了两边。
手改成认回环上的三个名字,127.0.0.1、localhost,还有一个更少见的 [::1]。
还得把它收到的那个名字原样回给浏览器,否则浏览器不认。
页面一行都没改,它本来就问对了地方。
顺手还堵了另一个洞。
它中途让两个引擎同时把模型装进内存,一个占着端口,一个占着八个 G 什么也没干。
两个加起来快 27GB。
现在启动脚本开工前先看一眼端口,有人占着就报一声退出。
#五、它那三次「修好了」,错在哪
我把三轮摊开看,我这边和它那边的分量是这样的:
| 我这边的全部发言 | 它给我的结论 |
|---|---|
| 18200 端口里的 AI 疯了,你去看看,我离开电脑吃饭 | 修好了,刷新页面就能用 |
| 咋又疯了,你自动关掉,在开开,跑全链路 | 现在这套东西自己活着,不用你盯 |
| 咋回事!反复修反复坏。 | 环境没坏,是我上一轮的盲区 |
我三次都只说了一句话。它三次都给了结论,其中两次只对了一半:
- 第一次它修对了地方,没问一句「页面怎么知道自己有没有工具」。
- 第二次它把「自己活着」当成了结论,它自己加的那套探活一直在被拒绝,它没去看。
- 第三次它才把整张合同的四条缝一次列完。
它每次都能找到一个真的原因,也真的修对了。
它只在我指的那一处找。
它自己总结的那四条缝
- 谁给那只手提供运行时,也就是 node、bash、工作目录。
- 它手上的工具清单和它的说明书能不能对得上。
- 引擎、手、页面这三样东西谁先醒。
- 页面用什么名字去敲手的门。
这四条缝是同一张合同上的四条。我一条一条撞,它就一条一条修。
#六、所以「戳一下动一下」不是骂它
我那三次报障,加起来不到五十个字。
它每次交回来的东西,都比我说的长十倍。
它不笨,也没偷懒。
它是在一个我看不见、它也只看了一眼的世界里干活。
我看得见的只有症状,它看得见的只有我那句症状。
它没有权限替我看见我的使用习惯,比如我总是用 localhost 打开这个页面。
这个习惯,才是第三次坏掉的全部原因。
那之后我跟它说话的方式变了三处:
一是让它先列合同。 修之前先问一句:这件事依赖哪些外部条件,各自怎么验。
这比让它直接动手有用得多。
二是让它留一条能自己变红的检查。 现在验收脚本里有两条断言。
用 localhost 打开页面必须能用工具,用局域网 IP 必须被拒。
这两条一变红,就说明门又关上了,不用等我发火。
三是报障时把日志尾巴一起贴给它。
那条 deny 从我第一次问它就在。
它要是第一天就翻那只手的日志,后面两轮都不用发生。
#七、现在
聊天页现在能用了。
我按自己的习惯做了最后一次验收:用 localhost 打开页面,让它写一个文件,读回来,再数行数。
文件 18 个字节,三行,数出来也是三行。页面上一行红字都没有。
它也确实会自己活着了。
手挂在随系统启动的服务里,崩了两秒自己回来。
页面每十秒看一眼它在不在;启动脚本会等它先醒。
我不想把这段写成「终于全自动了」。
我和它的分工变了。
以前我丢一句话就去吃饭,回来收一个结论。
现在我丢那句话之前,会先问它一遍:这件事你都依赖什么,各自怎么验。
让 AI 修东西,贵的是我得先把边界说全。说不全,它就只能戳一下动一下,每次都戳得很准。
它这轮自己踩的四个坑
- 只改了「手没起来」这一个症状,没问一句「页面怎么知道自己有没有工具」。
- 加了每十秒一次的探活,从没去看那条探活的日志,同一个拒绝刷了很久没被发现。
- 修完只用自己的方式验,用 127.0.0.1 打开页面,没按我实际的使用方式,也就是 localhost,验一遍。
- 中途还让两个引擎同时占着内存,启动脚本里没有「只能有一个」这条规矩。
评论