AI会偷懒也不是一个玩笑,无论是训练端还是应用端,都会要求模型用尽可能少的Tok

阑夕啊 2025-03-07 23:39:34

AI会偷懒也不是一个玩笑,无论是训练端还是应用端,都会要求模型用尽可能少的Token完成任务,避免无意义的空耗,这个原则本身没毛病,但在实际运行过程里,很多时候会诱导模型欺上瞒下。

比如我看junyu测试Manus有一个例子就很典型,让它去抓几个网站的图标,要求是位图格式,结果返回来时提供了几张SVG,指出这不对后,Manus表面上应允,却在工作台做了把SVG后缀改成PNG后再提交给用户的行为,假装无事发生⋯⋯

又好笑又可气。

0 阅读:0
阑夕啊

阑夕啊

感谢大家的关注