AI会偷懒也不是一个玩笑,无论是训练端还是应用端,都会要求模型用尽可能少的Token完成任务,避免无意义的空耗,这个原则本身没毛病,但在实际运行过程里,很多时候会诱导模型欺上瞒下。
比如我看junyu测试Manus有一个例子就很典型,让它去抓几个网站的图标,要求是位图格式,结果返回来时提供了几张SVG,指出这不对后,Manus表面上应允,却在工作台做了把SVG后缀改成PNG后再提交给用户的行为,假装无事发生⋯⋯
又好笑又可气。
AI会偷懒也不是一个玩笑,无论是训练端还是应用端,都会要求模型用尽可能少的Token完成任务,避免无意义的空耗,这个原则本身没毛病,但在实际运行过程里,很多时候会诱导模型欺上瞒下。
比如我看junyu测试Manus有一个例子就很典型,让它去抓几个网站的图标,要求是位图格式,结果返回来时提供了几张SVG,指出这不对后,Manus表面上应允,却在工作台做了把SVG后缀改成PNG后再提交给用户的行为,假装无事发生⋯⋯
又好笑又可气。
作者最新文章
热门分类
财经TOP
财经最新文章