跳过内容
AlgoLink领取 $100 免费额度

实验

在 ChatGPT 中排名:五个实验,无需公式

关于如何在 ChatGPT 中排名的疑问每天都在出现,而自信的答案往往廉价。这些实验只需花费几个小时,却能让你获得自己的数据。

白色卡片上矗立着五个设计各异的小型木制桥梁,代表多样化的实验

先做一个坦白。我们无法告诉你如何在 ChatGPT 中排名,因为 OpenAI 尚未公布其搜索选择来源的机制,且 ChatGPT 的回答在每次运行中都会有所不同。

你能做的是观察。ChatGPT 搜索于 2024 年 10 月 31 日推出,它会显示链接来源,因此每次回答都会留下痕迹。Perplexity 和带有网页搜索功能的 Claude 也是如此,这让你可以在相同的提示词下比较不同的引擎。

每次运行都是一个样本,而非最终定论。使用相同的措辞,尽可能使用无痕会话,并添加日期列。如果没有这种纪律,无论收集多少截图,结果都只是轶事。保持样本量小到足以完成,但又大到具有意义。将计划写在一页纸上。

不要向助手发送大量提示词以夸大任何计数,也不要发布截图作为趋势的证据。这条规则不是可选的。整洁的电子表格比一文件夹图片更能说服人。

五个实验

01

实验 1:基线日志

选择 20 个你的客户常问的问题。在 ChatGPT、Perplexity 和 Google 中分别运行每个问题,并记录所有引用的域名。这是后续所有实验的控制基准。

02

实验 2:措辞敏感性

将五个问题分别用三种方式改写。计算保留下来的引用域名数量。低重叠率表明单个提示词的截图意义不大。

03

实验 3:更改一个页面

重写一个页面,使答案能在两句话内呈现,同时保留一个类似的页面不作改动,并在重新索引后重新运行日志。只更改一项内容,否则你将一无所获。

04

实验 4:邻域检查

列出某一主题下的引用域名,并获取它们的引用域名数量。看看你的网站是否与它们相似。操作示例 展示了具体调用方法。

05

实验 5:提及搜索

搜索那些描述你的品牌但未链接到你的网站的地方。请求添加链接或更清晰的描述,然后观察八周内提及情况的变化。

保持可比性的日志格式

纯 CSV 格式即可。以下行是用于说明的虚构数据,不包含真实结果。

csv
date,engine,prompt_id,cited_domain,position,ours
2026-10-05,chatgpt_search,q07,example-a.com,1,no
2026-10-05,chatgpt_search,q07,example-b.org,2,no
2026-10-05,perplexity,q07,example-a.com,1,no
2026-10-12,chatgpt_search,q07,example-b.org,1,no

在信任结果之前

  • 每次运行使用完全相同的提示词
  • 记录日期,并注明引擎的产品名称
  • 在比较之前,至少进行四周的运行
  • 每次只更改一个页面
  • 保留一个控制页面不作改动
  • 在索引刷新后获取链接数据,而不是之前
蜿蜒花园小径模型上不同间隔放置的石制标记,展示频率与单次出现的关系

如何解读返回结果

相隔一小时,相同的提示词可能会引用不同的页面。预期会有噪音,并预期答案文本会变化,而来源保持不变。

单次出现证明力很小。以频率为判断标准。如果你的域名在一个问题的四周运行中出现了六次,这是一个值得记录的模式。如果只出现一次,那只是一个恰好让你感到欣慰的巧合。

Google AI Overviews、ChatGPT 搜索、Perplexity 和 Claude 各有其检索方式,因此在一个引擎中的胜利对另一个引擎的参考意义有限。分别比较引擎。术语表 解释了它们之间基础机制的差异。

在开始之前规划好时间。实验一需要半天时间。其他实验主要是等待:重新索引可能需要几天或几周,且过程中的任何环节都无法通过付费来加速。

为什么相同的提示词会产生漂移

在将变化记录到日志之前,列出运行之间发生变化的因素。大多数漂移源于设置而非搜索引擎本身。

措辞和会话

对提示词的小幅修改可能会改变来源。末尾的问题、同义词或额外的子句可能会引入不同的页面。登录状态的会话可能携带历史记录,而干净的浏览器则没有。

将确切的提示词写入日志,而不是 paraphrase(意译)。在尝试比较两个月的运行之前,意译看起来无伤大雅。在开始之前告诉同事你的提示词集,以便列表不能为了迎合结果而随意编辑。

一天中的时间和产品变化

相同的提示词在几小时后可能会返回不同的来源。模型、检索系统及其输入都在不断变化,且供应商不会宣布每一次变化。带日期的日志是区分漂移和变化的唯一方法。一次看似异常的运行值得在同一天重复,因为单个异常小时并不能证明什么。

当你得知产品变化时,在日志中记录下来。带时间线的记录 有助于你将模式与发布匹配,尽管发布日期只是一个线索。

引擎、国家和账户

每个引擎都有各自的检索路径,每个国家或账户类型也是如此。比较时要同类相比,并记录运行所使用的地点。记录你控制了哪些变量。

来自一个地区的结果并不适用于所有地区。在任何报告中都要说明这一点,并在相关数据旁注明。如果一个引擎在笔记本电脑上测试,而另一个在手机上测试,那么有两个变量发生了变化,因此在系列测试中应保持设备固定。

什么算作真正的变化

只有当变化明显超出你通常会看到的波动时,它才是真实的。这听起来显而易见,但许多日志跳过了基线,将每一次摆动都读作结果。

将变动与噪音进行比较

在称其为变化之前,先衡量答案在自然状态下的波动幅度。如果基线波动很大,微小的改进就会变得不可见。

将基线的波动范围与你希望看到的变动幅度进行比较。如果变动小于波动,诚实的标签是“无显著变化”。记录开始当天基线的样子,包括你保留的任何异常结果。这些记录可以防止后续比较发生静默偏移。

频率优于单张截图

截图捕捉的是一个瞬间,而模式需要多个数据点。计算你的域名出现的运行次数,然后除以该提示词的总运行次数。

报告分数,而不是截图,并说明其背后的运行次数。读者可以据此自行判断样本的有效性。

测试时人们常犯的错误

  • 仅使用一个提示词进行测试

    一个提示词只是一个样本。使用一组相关的提示词,这样单个异常答案就不会决定结果。

  • 同时更改两项内容

    如果你在同一周内重写了一个页面并更改了其链接,你就无法确定是哪个变化导致了来源的变化。

  • 仅阅读答案文本

    句子可能是每次新生成的。引用的链接是稳定的部分,因此请记录这些链接。

  • 在一周表现良好后就停止

    早期的胜利可能会消退或无法重复。在得出结论之前,计划至少进行四次运行。

零结果的含义

如果没有任何变化,你学到了真实的东西:你的更改不是杠杆,或者噪音大于效应。无论如何都要记录下来。这将避免你重复犯错。

木工bench上的木尺和堆叠的积木代表保持预算的诚实

保持预算的诚实

实验往往在时间上失败,而不是在资金上。适合你每周的计划比雄心勃勃但在一开始就停滞的计划更容易坚持。

多少次运行才足够

四周运行是底线,而非目标。八次运行对于大多数问题能提供更清晰的模式,尽管合适的数量取决于答案的波动程度。

计算提示词的数量,而不是小时数。20 个提示词运行四次会产生 80 行数据,这已经比一下午的粗略浏览要多得多。

时间花在哪里

大部分工作集中在第一个下午,即构建提示词集和日志时。之后就是重复工作,而重复工作很容易被跳过。在完成当前任务之前,将下一次运行安排到日历中。这里有一个粗略的规则:在第一次运行之前决定运行次数,不要因为早期结果看起来不错而延长系列。

也为撰写报告预留预算。一份简短的说明,包含样本、日期和限制,比运行本身更难写。

关于实验的问题

我可以花钱进入 ChatGPT 的答案吗?

据我们所知,外部没有这种方式起作用。广告和付费展示与在答案中获得的引用不同,本页面也不销售这两者。明智的做法是运行日志,看看哪些来源实际出现。

我需要 API 密钥来运行这些实验吗?

不需要。基线和日志只需要浏览器和电子表格。操作示例 使用免费调用来获取概览和 DR 查询,批量 DR 检查每次调用成本为一个积分。

站点更改需要多长时间才能显示出来?

诚实的回答是这因情况而异。重新索引可能需要几天或几周,且只有在该期间持续运行相同的提示词,日志才会显示效果。在你认为测试结束后,继续运行日志,因为后期效应往往是第二次观察时才发现的。

我应该发布我的发现吗?

你可以。发布方法、日期和零结果以及数字,以便读者判断样本。在查看结果之前先写出方法。AI Overviews 来源表 展示了标注每个声明的相同习惯。