谈谈AI幻觉
AI不知道它不知道
很多人对当前的聊天AI有很大的误会，认为它是一个专家系统，上知天文下知地理，人类知道的一切它都知道。所以有了AI就不再需要搜索引擎不再需要维基百科等等，这种理解既对又不对。
实际上当前的大语言模型类似围棋AI，而且是没有认输机制的那一种，只要符合规则就总能找到一个地方落子。同样的，对任意问题都有得可聊。
当前的AI是用来聊天的，从根本上它就不是一个专家系统，虽然它因为输入了许多知识，表现得像一个专家。但其实这是种错觉，它接受的输入只是让它接得住话题。并且能够以很多种风格输出。
因为现在的AI并没有真正挂载一个数据库，遇到问题，到数据库里去找，找不到返回一个没找到的信号，它才能知道数据库里没有。
现在的AI，就像一个看了许多书，但并不是记住了这些书上的所有内容，仅仅是用来培养语感和格式，能让它脱离模板自由的说话。
这其实很像人类学习说话的过程，经过有限的输入后，我们迅速开始了自由表达，而不是鹦鹉学舌。而自由表达，并不代表表达的内容是正确的。就像北京出租车司机纵论国际形势，语言流畅，但是否正确就是另一回事了。
所以AI幻觉是一种误解，它只是在用合乎人类语言的形式来和你对聊，你认为它在回答问题，其实它只是按形式输出符合形式的内容。至于，内容的真假 是否符合过去现在未来的真实，这依然需要用户自己判断。看起来似模似样，但并不是真正的专家。
当然 或许这个问题可以通过挂载本地知识库来解决，通过限制其获得信息的方式，它可以告诉你该问题在数据库里没有答案。
