摘要

1) 一句话总结 实测表明,OpenAI的SearchGPT虽然具备界面简洁和信息源权威的优点,但在中文语义理解、实时数据准确性及模型幻觉方面仍存在明显不足,整体表现瑕瑜互见。

2) 关键要点

  • 产品界面与定位:SearchGPT界面极度简洁,主页仅有巨大搜索框,并提供“设为默认搜索引擎”的按钮,意图挑战传统搜索引擎。
  • 实时数据测试:在查询特定时间点(8月2日0点)的奥运奖牌数时,SearchGPT首次给出了正确的21枚,但经追问和更改时间条件后发现其并未真正理解时间线,首次正确纯属巧合。
  • 竞品对比:在同等实时问题下,Perplexity(答6枚)、秘塔AI搜索(答19枚)均回答错误,360AI搜索虽答错但明确提示了数据截止时间,未产生幻觉。
  • 逻辑与常识测试翻车:在询问“中国经济特区有哪些”(错答5个)和“9.11和9.8谁更大”时,SearchGPT均回答错误,且未调用左侧已检索到的参考链接,仅依赖模型内部知识作答。
  • 语言与信息源偏好:用中文询问iOS 18功能时,系统直接输出英文回答;在检索LLM Agent论文时,引用了科技媒体文章而非arXiv等直接学术源。
  • 核心优势:界面体验好、抓取的信息源多为权威媒体或官方、回答直接无废话、支持追问,且具备较丰富的卡片生态(主要为国外生态)。
  • 后续计划:作者正在构建包含实时性、准确性、语义理解、中国特色数据、来源多样性等维度的AI搜索全面评测体系。

3) 风险/不足(基于原文明确指出)

  • 准确性与过度自信风险:有时会搜到正确信息但不调用,过度相信模型内部知识从而导致事实性错误(如数字大小比较)。
  • 幻觉风险:在被要求提供明确信息源和引用段落时,会出现“已读乱回”的幻觉现象。
  • 时间维度缺陷:对时间维度的信息理解和实时数据抓取能力存在明显不足。
  • 中文适配不足:部分情况下对中文语义理解能力不够,且存在中文提问却强制回复英文的情况。
  • 功能生态单一:相比其他AI搜索,缺乏脑图、PPT生成等丰富的扩展功能体验。

正文

盼星星,盼月亮。

终于盼到了OpenAI的AI搜索SearchGPT的体验资格了。

一周期,SearchGPT在跳票了将近3个月之后,终于被正式官宣了。

我也是在看到的第一时间,申请了内测资格。

OpenAI说,会在大概一周的时间里,逐步开放给大家。

于是,我也在苦苦的等了一周以后,终于,发现自己。

还是没等到。

毕竟我特娘的,在OpenAI的各种内测里,永远是最后一批。

但是,那首Rap怎么唱的来着,XX就是兄弟多?。。。我虽然没拿到,但是我的好朋友 @毅恒 拿到资格了呀,在知道消息的第一时间,我就去恬不知耻的找他借号了。

他也很痛快,直接给我发了一串字母。

唯有感动。

在拿到号的那一瞬间,我就沐浴更衣,登上了他的号,进入了那个期待已久的, SearchGPT。

网址在此:https://chatgpt.com/search,如果没有排队的朋友,也可以第一时间去排队一下。

一进来,就是一个极度简洁的巨大的搜索框。

右上角有个小彩蛋,一个小按钮。

翻译过来的意思就是, 设为默认搜索引擎 。

这明晃晃的,就是要抢Google的饭碗嘛。

我们在搜索框里,随便输入一个问题。

“2024年巴黎奥运会,截止北京时间2024年8月2日0点,中国队的奖牌数量?”

这个对于实时性要求极高,对数据溯源的要求也极高,如果你去拆关键词,搜很多的新闻报告,大概率就会错,你必须理解这个问题,真的去巴黎官网搜,去央视奖牌榜,或者一些三方的实时更新的榜单搜,才可能会对。

我先把这个问题的正确答案公布出来, 截止到8月2号0点,总奖牌数是 21枚 ,11金7银3铜,奖牌榜第一。

奖牌榜上实时数据虽然是22枚,但是有一铜其实是0点以后拿的,所以不算,正确答案是21枚。

我们先看一下其他AI搜索产品的情况。

Perplexity,直接躺平,6枚,咋地,你跟我这虚空吞金牌呢?

秘塔AI搜索,抓了8月1号早上8点38的新闻,然后非常确凿的说是19枚。

浓眉大眼的360AI搜索,也答错了,但是哥们好在知道自己没抓到最新数据,知道只抓到1号早上9点的数据,所以抱歉了,虽然答错,但是没有出现幻觉。

最后,我们再来看看 SearchGPT。

直接从奥运会官网抓的数据,完美正确。

而点进去参考链接,我才赫然发现,人官网明明写的是: 22枚。

我在这两个网页所有地方,都没有看到一个21这个数字。

我都懵逼了,我真的不知道, SearchGPT是如何如何判断时间,避开数字陷阱,得到了这个神乎其神的回答。

于是,我就追问了他一下: “ 你的这个21枚数据,是从哪得来的,请给我明确的信息源,和引用段落 ”

而 SearchGPT,居然开始,已读乱回。

我心里隐隐有一种,不好的预感。

于是,我就把问题改了一下,改成了 “2024年巴黎奥运会,截止北京时间2024年8月2日1点,中国队的奖牌数量?”

这道题的答案,想必朋友们都知道了,是22枚。

而看到SearchGPT回答的那一刻,我心中千万只草泥马翻腾而过。

此时, SearchGPT被Perplexity附身。

我又换了一种问法,我再问: “2024年巴黎奥运会,截止目前最新时间,中国队的奖牌数量是多少?”

19枚…终于跟秘塔AI搜索同源了,答案质量上,还不如360AI搜索,人家至少还会反思。

所以这个小实验发现,8月2号0点那个21枚出神入化的精准回答,根本不是 SearchGPT多牛逼,而是单纯的。

瞎猫碰到死耗子,纯种的巧合。

心中瞬间对 SearchGPT完成了祛魅。

当然,这个问题,毕竟是难倒所有AI搜索的杀手锏,大家都躺,你 SearchGPT躺了也不算啥。

也不能这一个问题,就一棒子把SearchGPT打死不是。

我又问了其他一些问题。

比如 “ 中国经济特区有哪些 ”, SearchGPT又G了。

答案明明是7个,却只给我回答了5个。

又比如经典问题, “9.11和9.8谁更大”

直接原地翻车。

不是哥们,你左边明明有这么多的链接,你就不能参考一下吗,非一个不用,直接用自己的模型能力进行回答。。。

然后我又问: “ 苹果iOS18最新的AI功能有什么 ”, 不是哥们,我用中文问问题的,咱就是说,咱能翻译一下再给我回答吗。。。

比如我又问: “24年有关LLM Agent的论文”。

咱就是说,搜论文其实完全可以学一下人家,咱去arxiv来搜嘛,咱没必要引用机器之心的文章你说对不= =

再问: “ 给我推荐现在中国比较著名的精品咖啡 ”

行吧,你推荐了瑞星,我们就是好兄弟。

整体而言,说句实在话,SearchGPT这玩意。

都不是瑕不掩瑜,是有点瑕瑜互见,甚至瑜不掩瑕的意思。

翻下了X,发现拿到资格的,对 SearchGPT评价也不是很高。

如果硬要我对SearchGPT这玩意做个总结的话,我可能会这么评价:

优点:

界面简洁,用户体验舒适; 抓取的信息来源质量较高,基本是权威媒体或官方信息源; 回答得直接,废话少; 卡片生态做的挺丰富的,但是大部分都是国外的; 可以追问;

缺点:

有些时候只能回复英文答案; 一些情况下对中文语义理解能力不够; 准确性着实一般,有时候搜到了东西但是不调用,相信自己的模型内部知识。 在时间维度上的信息理解和信息抓取能力存在不足,不过这是通病了; 用户体验不够丰富,没有脑图、ppt之类的(maybe也算是简洁的优点?)

当然,为了大概了解几个主流的原生AI搜索产品的一些能力,我们也跟AI视频、AI绘图、AI PPT等等一样,会做一个全面的评测。

测试的维度包括:实时性、准确性、语义理解、中国特色数据、来源多样性。当然这是我自己瞎总结的野鸡维度,仅给我自己做参考用。

不过表格没做完。

所以,后面做完了,我会再单独写一期。

AI搜索产品的全面评测。

希望可以给大家带来一些帮助。

关联主题