AI 方法

让 AI 少瞎编
团队使用 AI 的 5 条基础规则(附设置模板)

AI 会编造数据、捏造来源,这就是常说的 AI 幻觉。本文给出一套可以直接写进 AI 工具「个性化 / 规则」设置里的 5 条长期规则,并说明团队层面如何制定 AI 结果核查规范,降低 AI 幻觉带来的风险。

不一书 · · 4 分钟阅读
一句话回答 减少 AI 幻觉最简单有效的办法,是在 AI 工具的「个性化 / 规则 / 自定义指令」设置里写下长期规则:不确定就说不知道,不许猜;数字、日期、价格、政策标出来源并提示核实;说人话;先结论后理由;需求不清先提问。团队层面再配一份核查规范,明确哪些内容必须由人复核。

用 AI 写过材料的人,大多遇到过这样的情况:AI 给出了一个很具体的数据、一条看起来很权威的政策条文,你差点就直接用了,查了一下才发现,根本不存在。

这就是 AI 幻觉。对个人来说是麻烦,对企业和单位来说可能是风险:一份对外发出的材料里有一个编造的数据,损失的是信誉。

好消息是,有一个大部分人从来没打开过的设置,可以明显改善这个问题。

一个被忽略的设置:「个性化」或「规则」

大部分 AI 工具都有一个长期设置,名字可能叫个性化、自定义指令、规则或记忆。你在里面写下的内容,相当于给 AI 立了长期的规矩:

  • 提示词管的是这一次对话;
  • 这个设置管的是以后所有的对话。

所以,「不要编」这类提醒,在这里一次写好就行,不用每次提问都说。

5 条基础规则

规则一:不确定就说不知道,不许猜,不许编

这一条能挡掉一大半的胡编。AI 默认倾向于「给出一个答案」,你要明确告诉它:承认不知道比编一个答案更好。

规则二:数字、日期、价格、政策,标出来源,提示核实

凡是涉及具体数字、日期,以及价格、法规政策的内容,让 AI 说明哪些有可靠来源,哪些是推测,哪些需要你自己核实。这样你一眼就知道该重点查哪里。

规则三:说人话

不要用那些看起来很高级、实际上什么都没说的词。空话套话不仅浪费阅读时间,还会掩盖 AI 其实没有回答问题的事实。

规则四:先结论,再理由

很多 AI 回答铺垫半天,最后找不到结论。要求它第一句就给结论,再展开理由,读起来效率高得多,也更容易判断它说得对不对。

规则五:需求没说清楚,先问我

这是我认为最有价值的一条。很多糟糕的回答,根源是需求本身模糊。让 AI 在信息不足时先提问、确认清楚再动手,结果会贴合得多。

可以直接复制的设置模板

把下面这段内容粘贴到你常用 AI 工具的个性化或规则设置里,再根据自己的工作习惯修改:

请在所有对话中遵守以下规则:
1. 不确定或查不到的信息,直接说「不确定」或「不知道」,不要猜测,不要编造。
2. 涉及数字、日期、价格、法规政策、人名机构名时,标明哪些有可靠来源(尽量给出来源),哪些是推测,哪些需要我自行核实。
3. 用简洁、具体的中文表达,不使用空泛的套话和堆砌的修饰词。
4. 先给结论,再说理由;内容较长时先给要点概览。
5. 如果我的需求不清楚、缺少关键信息,先向我提问确认,不要急于给出完整答案。

团队层面:再加一份核查规范

个人设置能降低出错概率,但团队使用 AI,还需要一份明确的规范,回答三个问题:

哪些内容必须人工核查? 对外发布的材料、涉及数据和金额的内容、法律法规与合同条款、医疗与健康相关信息、涉及具体人名和机构的表述。

哪些信息不能输入公有云 AI? 客户个人信息、未公开的财务数据、商业合同、涉密和内部敏感材料。需要使用时,先脱敏,或使用企业版、私有化部署的模型。

出错了怎么办? 明确「谁使用、谁负责」:AI 是工具,最终对内容负责的是使用它的人。发现 AI 编造内容时,记录下来并在团队内分享,帮助大家形成判断力。

我在企业 AI 内训和政府与院校 AI 培训中,都会帮单位写好这样一份 AI 使用规范,作为培训交付的一部分。

写在最后

AI 幻觉不会消失,但可以被管理。个人用设置减少胡编,团队用规范兜住风险,两者结合,AI 才能放心地用进日常工作。

常见问题

什么是 AI 幻觉?

AI 幻觉是指大模型生成了看起来合理、但实际上错误或无中生有的内容,比如编造数据、捏造文献、虚构政策条文。它是大模型的固有特性,只能降低,无法完全消除。

AI 工具里的「个性化」或「规则」设置在哪里?

大部分桌面版和网页版 AI 工具都有类似设置,名称可能是个性化、自定义指令、规则或记忆。在这里写下的内容会作用于之后的所有对话,不用每次重复。

写了这些规则,AI 就不会出错了吗?

不会。规则能明显减少 AI 胡编和含糊其辞,但涉及数字、法规、医疗、财务等关键信息时,仍然必须由人核实。规则的作用是让 AI 主动标出风险点,方便你核查。

#AI幻觉#AI使用规范#提示词#团队AI

聊聊你的团队
可以怎样用好 AI

初次沟通不收费,也不需要准备完整方案。告诉我你的行业、团队规模,以及最想解决的那件事。

联系合作