Tag: 可靠性评级

  • AI可见性:如何区分真实增长与测量噪声

    AI可见性:如何区分真实增长与测量噪声

    AI可见性数据不稳定:生成模型每次都会给出不同的答案,因此单次测量可能会产生误导。IQRush 的一项新研究提出了一个停止规则,用于确定何时评级变得可靠。在本文中,我们将探讨如何区分真实增长与测量噪声,以及这对营销人员的实际意义。

    为什么单次AI可见性测量不可靠

    SearchGPTGeminiPerplexity 等搜索引擎在每个答案中都引入了随机性。同一个查询可能会返回不同的来源——这是架构的特点。研究表明,例如,在测试 SearchGPT 关于跑步装备的主题时,Tom’s Guide 获得了约 9.5% 的引用,而 Runner’s World 获得了约 6.0%。3.5 个百分点的差异在误差范围内,因此断言 Tom’s Guide 优越是不正确的。

    需要多少数据才能获得可靠的排名

    答案由两个必须同时满足的条件组成。第一:顺序必须停止变化。在收集到足够多的答案后,顶级网站开始清晰地脱颖而出。第二:顶级网站之间的差异必须超过测量误差。如果竞争对手过于接近,排名并不能反映真实的优势。

    在针对不同平台和主题的 30 项测试中,满足这两个条件所需的答案数量从 33 到 94 不等(仅考虑带有引用的答案)。在 30 个案例中的三个案例中,即使在 125 个查询之后也未能实现这一点——所有这些都发生在 SearchGPT 上,那里的顶级网站过于相似。

    对营销人员的实际意义

    Rand Fishkin (SparkToro) 建议:在花费金钱跟踪 AI 可见性之前,请确保提供商“展示其数学”。IQRush 的研究提供了一个简单的停止规则,以免依赖直觉。如果在内容更新后,您看到引用增长了 3 个百分点,这可能是自然变异。多次测量前后指标——单次测量与噪声无法区分。

    AI可见性:如何区分真实增长与测量噪声

    不同平台——不同的数据要求

    Gemini 在一个答案中引用相同的网站,因此许多引用提供的新信息很少。SearchGPT 每个答案提供的引用较少,但分布更广——每个答案包含更多独立数据。两个平台上相同数量的答案并不能提供相同的信心:足以用于 Gemini 的预算可能会让您在 SearchGPT 上一无所知。

    当数据不足时:学会停止

    在 30 项测试中的三项中,顶级网站未能清晰地分离。在这种情况下,正确的决定是避免发布排名。一个能够说“数据不足”的跟踪器比每次查询都输出自信排名的跟踪器更有价值。

    只有领导者值得信赖:在足够多的答案下,他们会与中游和下游拉开距离。但即使对于前 10 名,典型的误差也约为五个位置,而每五个位置中的一个则超过 10 个。不要发布列表顶部以外的精确位置。

    研究的局限性

    这是一份预印本,基于对三个平台进行的 30 项测试,使用了 ChatGPT 生成的问题,而不是真实的用户查询。精确的数字不能应用于您自己的主题——将它们视为问题的一种形式,而不是数值表。在一项测试中,125 个问题只产生了 104 个有用的答案(17% 的损失),因此实际查询数量应该更多。

    AI可见性:如何区分真实增长与测量噪声

    该方法经过内部验证:早期排名与最终排名进行比较,而不是与外部基准进行比较。然而,圣加仑大学的一个独立团队(Julius Schulte、Malte Bleker、Philipp Kaufmann)在 4 月份发布了基于其数据集的类似结果,证实了单次读取不可靠。

    AI可见性的未来:从精确数字到范围

    AI可见性报告正朝着带有误差的格式发展,就像广告和网络分析一样。虽然 Search Console 不会报告哪些点击来自 AI,但任务落在您身上:多次运行检查并报告范围,而不是仪表板上的单个数字。

    常见问题

    需要多少次查询AI搜索才能获得稳定的数据?

    根据平台和主题,需要 33 到 94 个带有引用的答案。没有通用的阈值。

    可以信任AI可见性仪表板吗?

    只有当它们显示误差和多次测量时。没有上下文的纯数字是一个危险信号。

    AI可见性:如何区分真实增长与测量噪声

    如果内容更新后引用增长了3%怎么办?

    在前后进行多次测量。如果差异持续存在,那就是真实增长。如果不是,那就是噪声。

    哪些平台需要更多数据?

    SearchGPT——因为每个答案的引用数量较少,但每个答案的独立性更大。Gemini——相反,提供了许多引用,但它们经常重复相同的网站。

    结论

    主要结论:AI可见性不是一个固定的指标,而是一个范围。使用停止规则,多次检查,如果顶级网站没有分离,则不要发布排名。只有这样,您才能获得可以依赖的数据。立即开始实施这些原则,以使您的 AI 可见性报告可靠且有助于决策。