AI 的回答读起来通顺、自信,但这和正确是两回事。它是在生成「看起来合理的文字」,并不会自动去查证。养成核查的习惯,才能放心地使用它。
哪些内容最容易出错
- 具体的数字和日期:年份、金额、比例、版本号。
- 人名、职务和机构名称。
- 法规、标准的条文编号。
- 论文、书籍和网页链接:它可能给出一个格式完美、但根本不存在的出处。
- 小众、冷门或很新的话题:训练资料里本来就少,或者发生在资料截止日期之后。
- 多步推理和计算:每一步看似合理,累积起来可能出错。
- 代码里的接口和参数:不同版本之间差异很大,它可能混用。
一分钟核查流程
- 先分类。这句话是可验证的事实、一种观点,还是一条建议?只有事实需要逐条查证,观点和建议则要看是否合理、是否适合你的情况。
- 要依据,并亲自打开。让它列出来源,然后自己点开看。链接打不开、内容对不上,就说明这条不可信。
- 交叉验证。用官方文档、权威机构或教材核对,至少找到一个独立于这次对话的来源。
- 重新计算数字。自己算一遍,检查单位、小数点和时间范围。
- 让代码接受检验。在隔离的环境里运行,写几个测试,认真读报错信息。不要把没运行过的代码直接放进生产环境。
- 换个方式再问。换一种问法,或者换一个模型,甚至让它「反驳你刚才的回答」。多个独立回答一致,可信度会高一些,但仍不等于正确。
可以直接用的追问句式
「你上面的回答里,哪几点你最不确定?」
「请把事实性陈述和你的推测分开列出来。」
「如果你没有把握,请直接说不知道,不要猜。」
这些追问不能保证答案正确,但能帮你把核查的重点缩小到最需要的地方。
高风险场景要格外谨慎
涉及医疗、法律、财务和人身安全的决定,不要仅凭 AI 的回答行动。可以用它帮你整理问题、理解术语、准备要咨询的清单,最终的判断请交给有资质的专业人士。
核查也是学习
在核查的过程中,你会接触到原始资料和不同的观点,这本身就是很好的学习。把 AI 当作一个反应很快、但需要你复核的助手,而不是权威,你会用得更好,也更安全。想了解怎样借助它学习,可以接着读用 AI 辅助自学:一套可以重复的方法。