衡量与复核
AI 可见度怎么测:问题集、采样与误差
先说结论
AI 可见度通常不是平台提供的全量日志,而是:在一组预先定义的问题中,多次观察品牌、页面和来源如何出现。
因此,结果好不好,首先取决于问题集是否代表真实业务,以及采样方法是否可重复。
没有固定问题集的“随手问几句”,不是监测;没有公开分母的百分比,也不是可信指标。
零基础读者:像抽样检查一批产品
你无法查看全世界用户对所有 AI 的全部提问,只能抽取一批有代表性的问题反复检查。抽样不是造假;隐藏抽样方式,才会让数字失去意义。
例如,10 个问题里品牌出现 5 次,可见率是 50%。但如果这 10 个都是品牌词问题,结果会被严重高估。问题集必须同时包含:
- 品牌词与非品牌词;
- 认知、比较、价格、限制和购买问题;
- 核心市场的语言与地区;
- 真正影响用户决策的场景。
第一步:建立问题库
建议采用以下字段:
prompt_id,topic,intent,brand_type,language,region,prompt,commercial_value,version
P001,AI建站,比较,非品牌,zh-CN,CN,适合独立创业者的AI建站工具有哪些,3,v1
P002,代码导出,限制,非品牌,zh-CN,CN,哪些AI建站工具支持导出完整代码,3,v1
P003,品牌事实,价格,品牌,zh-CN,CN,Example AI免费版可以导出代码吗,3,v1每次修改问题集都创建新版本。否则本月可见率上涨,可能只是你删掉了难题。
第二步:记录运行环境
最小记录单位应是:
问题 × 平台/模型 × 地区 × 日期 × 重复次数同时保存:
- 是否登录;
- 是否启用联网或搜索;
- 新对话还是连续对话;
- 界面或 API;
- 原始答案;
- 引用 URL;
- 运行失败与无法解析的样本。
第三步:定义指标
品牌可见率
品牌可见率 = 提及品牌的有效运行数 ÷ 总有效运行数 × 100%URL 引用率
URL 引用率 = 引用己方 URL 的有效运行数 ÷ 总有效运行数 × 100%答案准确率
答案准确率 = 经人工核验准确的品牌陈述数 ÷ 已核验陈述总数 × 100%竞争声量份额
竞争声量份额 = 己方品牌提及数 ÷ 竞争集合全部品牌提及数 × 100%这四项不能互相替代:品牌可能被频繁提及,却没有链接;也可能被链接,但产品价格被说错。
第四步:处理随机性
同一个问题重复询问,答案可能变化。原因包括模型更新、搜索结果变化、地区、时间、对话上下文和生成随机性。
最低限度应做到:
- 相同问题在相同环境下重复运行;
- 每个平台单独计算;
- 保存有效样本数,而非只写百分比;
- 用多周期趋势判断,不因一次答案改战略;
- 平台、模型或问题集改变后重新建立基线。
实际例子
有 20 个非品牌问题,在两个平台各运行 3 次:
总运行数 = 20 × 2 × 3 = 120其中 6 次运行失败,114 次有效;品牌出现 34 次,己方 URL 被引用 18 次,人工核验的 40 条品牌陈述中 32 条准确。
品牌可见率 = 34 ÷ 114 = 29.8%
URL 引用率 = 18 ÷ 114 = 15.8%
答案准确率 = 32 ÷ 40 = 80%正确结论是:“在本问题集、两个指定平台和本轮环境中,品牌可见率约 29.8%。”错误结论是:“我们占据了全网 AI 市场的 29.8%。”
可复制的采样报告
## AI 可见度采样报告
- 问题集版本:
- 日期范围:
- 平台/模型:
- 地区与语言:
- 每题重复次数:
- 总运行数:
- 有效运行数:
- 失败运行数:
| 指标 | 分子 | 分母 | 结果 |
|---|---:|---:|---:|
| 品牌可见率 | | | |
| URL 引用率 | | | |
| 答案准确率 | | | |
| 竞争声量份额 | | | |
### 样本限制
-
### 重要变化
-
### 建议动作
1.
2.完成清单
- 问题来自真实业务场景
- 品牌词与非品牌词分开
- 已保存问题集版本
- 平台、地区和运行次数可复现
- 失败样本没有被悄悄删除
- 百分比同时披露分子与分母
- 重要答案经过人工核验
本文读者产出
一套版本化的问题库和一份可复现的 AI 可见度采样报告。
最后更新于