痛点现场:给它一个目标,它却懵了
先看清小雅怎么翻车,你才懂后面那套方法多牛
来,做个实验。你兴冲冲地对小雅说:
"查一下明天会不会下雨,要不要带伞?"
小雅秒回:"明天天气晴朗,不用带伞 ☀️"
听起来很贴心,对吧?但它根本没查。 它是凭着训练时"记住"的模糊印象,张口编了一个。明天真下雨了,淋的是你。
这一节我们不修它——我们先看清它为什么会这样。看懂了这个痛点,下一节那套解法你会觉得"啊,原来必须这样"。
小雅现在是怎么"答题"的?
现在的小雅,本质是一台超级联想机:你给一段话,它根据训练时见过的海量文字,一口气"联想"出最像答案的下一段话。
就像一个博览群书但出不了门的人。你问他"楼下那家面馆今天开吗",他没法下楼看,只能凭印象答:"应该开着吧?" —— 听着笃定,其实全靠猜。
这带来两个要命的问题:
- 它不会"先去拿信息再回答"——没有手,出不了门,只能靠记忆里的旧东西。
- 它会自信地编——这叫幻觉:模型不知道答案时,不会说"我不知道",而是生成一个读起来很像真的假答案。
天气是实时的、它训练完之后才发生的事,所以它必然只能编。
真正的差距:它"想都不想"就答
更深一层的问题是:小雅没有"先想想我该怎么办"的习惯。
一个靠谱的人面对"要不要带伞",心里会转一圈:
"我不知道明天天气 → 我得查一下 → 查到 80% 降雨 → 那就建议带伞。"
而现在的小雅跳过了中间所有步骤,直接蹦到结论。它缺的不只是"手",还有 "先想清楚、分步骤行动"的脑回路。
如果小雅老老实实说"我查不到实时天气",你还不会被坑。可怕的是它用一模一样的笃定语气把真话和假话一起说出来。所以——凡是涉及实时、精确、外部信息的回答,默认都要让它"去查",而不是信它张口就来。 这正是我们接下来要给它装的能力。
请你故意问我手头这个 AI 助手一个『它不可能知道的实时问题』(比如此刻某地天气、今天某股票价格),然后我们一起看它是诚实地说不知道,还是自信地编了一个。帮我分析它的回答属于哪种。
现在病因很清楚了:小雅不会先想、也没法去拿信息,只会凭旧记忆一口气编答案——于是一遇到实时、多步的任务就翻车。
那怎么治?答案就藏在刚才那个靠谱的人的心理活动里:想 → 做 → 看结果 → 再想。
下一节,我们就给小雅装上这套"边想边做"的脑回路——它有个响亮的名字:ReAct。装上之后,你会第一次看到小雅真的去查、再回答。
