四月份有个项目在技术圈刷屏，思路很简单：给一个目标，它自己拆解步骤、自己决定调什么工具、自己看结果再调整，直到完成。名字叫 AutoGPT。
我拿它试了两天，跑了几个任务，结论是：演示很唬人，落地很勉强。
它跑得最顺的是那种步骤明确、每步都能自动验证的任务，比如把某个目录下的文件按扩展名分类整理。稍微带点模糊判断的就不行，比如"调研一下某个行业的竞争格局"，它会陷入反复搜索、反复总结、绕回原点的循环，烧掉一堆调用次数，最后交一份很空的报告。
但它让我不安的地方不是效果，是那个循环本身。一旦模型能自己决定下一步做什么，你对过程的控制就变弱了。它可能连着调十几次工具，你回头看日志才发现方向早就偏了。要是这些工具里有一个能改数据，事情就不只是浪费钱了。
那两天我记下一条：这类系统的关键不是模型多聪明，是边界画在哪里。哪些动作允许它自己决定，哪些必须停下来等人确认，这条线比模型选择重要得多。
我甚至觉得，如果这条线画不好，这类系统在正经业务里可能根本起不来——不是能力不够，是没人敢让它自己跑。