对应视频:AI幻觉是什么,怎么才能避免

防幻觉清单

查看全部资料目录 →

怎么用:把这份清单打印出来贴在工位上。用 AI 之前看第二部分写提示词,用完之后按第三部分核验,凡是第一部分列出的信息,一律人工核对再用。

先说清楚:什么是 AI 幻觉

AI 幻觉,白话说就是:AI 一本正经地胡说八道。它不知道答案时,不会说「我不知道」,而是编一个听起来很像真的答案。

为什么会这样?AI 本质上是在「接话」,根据前面的字猜下一个最像的字。它追求的是「像」,不是「对」。所以:

**幻觉没法完全消灭,只能减少 + 拦截。**下面三部分就是干这个的。

第一部分:这些信息必须人工核验

对照下面这张表,AI 输出里只要出现这些内容,一律人工核对后才能用:

# 信息类型 为什么容易错 怎么核验
1 数字(金额、比例、日期、数量) AI 算数和记数都不可靠 回到原始表格或计算器重算
2 法律法规、政策条款 容易编条款号、过时条款 去政府官网或正式文件原文查
3 人名、公司名、职务 容易张冠李戴 查官网、营业执照信息或问本人
4 引用、出处、书名、网址 很常见的编造重灾区 逐个点开或搜索确认真实存在
5 产品参数、价格 可能用了过时或别家的信息 对照自家最新产品手册、价格表
6 对客户的承诺(交期、折扣、保修) 一旦发出去就有责任 必须由负责人确认
7 医疗、财务、安全相关建议 出错代价大 交给专业人员判断
8 「最新」「目前」类信息 AI 的知识有截止时间 查最新公开信息

第二部分:写提示词时减少幻觉的 6 个办法

办法 在提示词里怎么写(直接复制)
1. 给资料,让它只看资料答 「只根据我下面提供的资料回答,资料里没有的,直接说『资料中没有』。」
2. 允许它说不知道 「不确定的地方请标注『不确定』,不要猜。」
3. 要求标出处 「每个结论后面用括号注明来自资料的第几段。」
4. 不让它算复杂的数 「涉及计算的,请列出算式,不要只给结果。」
5. 缩小范围 「只回答关于【某产品】的问题,其他问题回复『这个问题请联系人工』。」
6. 让它先问再答 「如果信息不足以回答,先列出你需要我补充的信息。」

一段可直接用的「防幻觉开头」

请严格遵守以下规则:

  1. 只根据我提供的资料回答,资料里没有的内容不要补充。
  2. 不确定的地方标注「不确定」。
  3. 所有数字列出来源或算式。
  4. 不要编造任何人名、公司名、网址、法规条款。
  5. 信息不够就先问我。

资料如下:【贴资料】 我的问题是:【  】

第三部分:核验流程模板

按风险分三级处理

风险等级 典型场景 核验要求
低 内部头脑风暴、起草大纲、改写润色 自己看一遍,觉得通顺合理即可
中 发给同事的方案、内部报告、对外宣传文案 按第一部分表格逐项核对数字和事实
高 合同、报价、对客户的承诺、财务数据、法规解读 核对 + 第二个人复核 + 负责人签字

核验记录表(中高风险内容填写)

日期 内容用途 风险等级 发现的问题 核验人 复核人
【 】 【例:给某客户的报价说明】 【高】 【例:折扣比例写错】 【 】 【 】
【 】 【 】 【 】 【 】 【 】 【 】
【 】 【 】 【 】 【 】 【 】 【 】

这张表记上一个月,你就知道 AI 在你公司最常错在哪类信息上,下次提示词就重点防那一类。

发出去之前的最后 5 问

给老板的三条规矩


用完之后:照着做完还卡在哪一步,评论区或私信告诉我,我帮你看。

出品:帅厂长|增长飞轮AI · 帮企业用 AI 搭一套自己会转的增长系统