用AI用得越多,越发现一个真相:AI说得越顺溜,越要警惕它在编。AI幻觉不是小概率事件,尤其在工程这种“错一个字可能出事故”的领域,把AI的话当真之前,必须先问一句:你的依据在哪?
有次让AI帮我写一份吊装方案的风险分析,它洋洋洒洒列了八条风险,看起来专业得很。我拿规范一核对——好家伙,有一条“风速超过五级禁止吊装”是合理的,但另一条引用的“吊装作业半径与起重量的对应表”,数据和规范完全对不上。
还有一次让AI总结某份合同的风险点,它写“甲方逾期付款超过30日,乙方有权解除合同”——我翻遍合同原文,根本没这条。AI不是故意骗我,它是根据见过的相似合同“合理想象”出来的,这就是幻觉。
认知:AI的输出是“基于概率的联想”,不是“基于事实的检索”。它分不清“我见过这个”和“我编了这个”。
现在我跟AI提要求,固定加一句话:“每一条结论都要注明出处,引用规范要给出条文号,引用合同要给出条款位置,拿不准的明确说不知道。”具体做法:
实践下来,我的分工是这样的:
心得:防AI幻觉的本质,不是“不信AI”,是“给AI装上溯源机制”。**让AI的每一个结论都有来处,幻觉就无处藏身。**
用AI快两年,我的态度从“惊艳”变成了“敬畏”。AI是效率放大器,但放大的前提是“源”要对——你把规范、图纸、合同这些一手资料喂给它,让它基于原文工作,它才是你的好帮手;你让它凭记忆“发挥”,它就会给你编出一个漂亮的坑。
工程人用AI,最值钱的一句话就是:先给依据,再下结论。对AI如此,对人也如此。