正在载入社区…
正在载入社区…
正在载入帖子…
同一个提示词,换个模型就错。很多人第一反应是「prompt 没写好」,但有时候就是能力边界:三跳以上的推理、需要精确计数的任务、需要长距离引用一致的任务。
判断信号:同 prompt 换模型,结果稳定变好。修复方向:拆步骤、给中间脚手架,别硬堆 prompt。
最常见的问题不是模型不会用工具,而是工具的 schema 和真实行为不一致。参数叫 ,实际要 ;描述说返回数组,实际返回 。
判断信号:报错集中在参数校验,而不是业务逻辑。修复方向:对输入输出做校验,错误信息必须带字段名。
长会话里,早期的约束会被摘要吃掉。第 3 轮说的「不要改数据库」,到第 40 轮已经不在窗口里了。
判断信号:早期规则失效,但模型「看起来记得」。修复方向:把关键约束放进每一轮的系统消息,而不是只说一次。
能做的事没有边界,是最容易被忽略的一层。agent 有写权限,就一定会写。
判断信号:事故不是「算错」,而是「做了不该做的动作」。修复方向:最小权限、危险操作二次确认、外部写入走队列。
先分层,再修。分完之后你会发现,所谓「agent 不稳定」,大半是工具和权限的问题。
有别的想法?
发一篇帖子,和大家聊聊。