ChatGPTAI搜索上线:依然存在幻觉

新兴科技是个圈 2024-11-02 11:23:03

OpenAI 今天宣布,ChatGPT 现在可以在网络上搜索用户查询的最新答案。

到目前为止,ChatGPT 主要局限于从其训练数据生成答案(GPT-4o 的最新数据截至 2023 年 10 月),并且网络搜索功能有限。有关广义主题的搜索仍将利用模型本身的信息,但现在 ChatGPT 将自动搜索网络以响应有关体育、股票或当天新闻等最新信息的查询,并且可以提供丰富的多媒体结果。

OpenAI 搜索产品负责人 Adam Fry 表示,用户还可以手动触发网络搜索,但在大多数情况下,聊天机器人会自行决定何时从网络信息中获得答案。

“我们的目标是让 ChatGPT 成为最智能的助手,现在我们正在真正增强它在网络访问方面的能力。”Fry 告诉《麻省理工科技评论》。该功能现已可供聊天机器人的付费用户使用。

图|在此示例中,当用户询问当地餐馆时 ChatGPT 会触发网络搜索(来源:MIT TR)

众所周知,ChatGPT 搜索最初是向付费用户开放的,但 OpenAI 打算稍后将其免费提供,即使用户已经注销。该公司还计划将搜索与其语音功能和 Canvas(用于编码和写作的交互式平台)结合起来,尽管这些功能在今天的首次发布中不会提供。

该公司于 7 月份推出了独立的网络搜索原型,这些功能现在直接内置到聊天机器人中。OpenAI 声称“将 SearchGPT 的最佳体验带入了 ChatGPT”。

OpenAI 是最新一家推出人工智能搜索助手的科技公司,挑战了谷歌、微软和初创公司 Perplexity 等竞争对手的类似工具。据报道,Meta 也在开发自己的人工智能搜索引擎。

与 Perplexity 的界面一样,ChatGPT 搜索的用户可以用自然语言与聊天机器人交互,它将提供人工智能生成的答案,其中包含来源和进一步阅读的链接。相比之下,谷歌的“AI Overviews”在网站顶部提供了人工智能生成的简短摘要,以及传统的索引链接列表。

这些新工具最终可能会挑战谷歌在在线搜索领域 90% 的市场份额。华盛顿大学专门研究在线搜索的教授 Chirag Shah 表示,人工智能搜索是吸引更多用户非常重要的方式。但他表示,这不太可能削弱谷歌的搜索主导地位。“微软对 Bing 的高调尝试几乎没有对市场产生影响。”Shah 说。

“相反,OpenAI 正试图为更强大、更具交互性的 AI 智能体创建一个新市场,这些智能体可以在现实世界中采取复杂的行动。”Shah 补充说。

ChatGPT 中的新搜索功能是朝着这些智能体迈出的一步。它还可以利用聊天历史提供高度情境化的响应,使用户能够更深入地搜索。目前,ChatGPT 搜索能够回忆对话历史,并继续讨论同一主题的问题。

ChatGPT 本身还可以记住有关用户的信息,以便稍后使用,有时它会自动执行此操作,或者你可以要求它记住一些信息。这些“长期”记忆会影响它对聊天的反应。“搜索尚不具备此功能(新的网络搜索从头开始),但它应该会在‘接下来的几个季度’内获得此功能。”Fry 说。OpenAI 表示,一旦实现,它将能够根据其所知提供更加个性化的结果。

Fry 表示,“这些可能是持久的记忆,比如‘我是素食主义者’,也可能是上下文相关的,比如‘接下来几天我要去纽约’。如果你说‘我四天后要去纽约’,它会记住这个事情以及这一点的细微差别。”他补充道。

为了帮助开发 ChatGPT 的网络搜索,OpenAI 表示,利用了与路透社、《大西洋月刊》 、《世界报》、《金融时报》、康泰纳仕集团和《时代》杂志等新闻机构的合作伙伴关系。然而,其结果不仅包括来自这些出版商的信息,还包括不主动阻止其搜索爬虫的任何其他在线来源的信息。

莱顿大学研究信息检索的自然语言处理教授 Suzan Verberne 表示,“ChatGPT 现在能够从这些信誉良好的在线资源检索信息并根据这些信息生成答案,这是一个积极的发展,它还允许用户提出后续问题。”

但是,尽管该工具的网络搜索和交叉检查来源的能力得到了增强,但它仍然无法避免人工智能语言模型持续存在的编造或出错的倾向。

当《麻省理工科技评论》测试新的搜索功能并询问度假目的地想法时,ChatGPT 推荐了“豪华欧洲目的地”,比如日本、迪拜、加勒比群岛、巴厘岛、塞舌尔和泰国。它提供了英国报纸《泰晤士报》的一篇文章作为来源,其中将这些地点以及欧洲的地点列为豪华度假选择。

“特别是当你询问不真实的事实或从未发生过的事件时,引擎可能仍然会尝试制定一个不一定正确、看似合理的响应。”Verberne 说。如果没有充分过滤其来源,那么错误信息也可能从互联网渗透到 ChatGPT 的答案中。

哈佛大学伯克曼克莱因中心研究员、曾负责稳定性人工智能公共政策的 Benjamin Brooks 在《麻省理工科技评论》发表的一篇专栏文章中指出 ,另一个风险是,当前通过人工智能搜索访问网络的推动将扰乱互联网的数字经济。

Brooks 写道:“通过在一个无所不知的聊天机器人背后保护网络,人工智能搜索可能会剥夺创作者生存所需的访问量和‘眼球’。”

原文链接:

https://www.technologyreview.com/2024/10/31/1106472/chatgpt-now-lets-you-search-the-internet/

0 阅读:0