Waymo“AI幻觉”大翻车：碾猫闯警匪现场，无人车“学坏”的背后是人类失守了方向盘？

引言

当AI开始做梦，轮子就会脱轨。

2025年11月，Waymo无人车在旧金山连番上演迷惑行为大赏碾死邻居宠猫、闯进洛杉矶警匪对峙现场、在隧道里绕圈37圈像跳Z字舞。

官方解释轻描淡写：AI幻觉导致动作偏差，但事故率仍低于人类。可问题是，当一辆车载着乘客径直驶向荷枪实弹的嫌犯车辆，15秒的停留足以让子弹穿透车身。硅谷引以为傲的安全神话第一次被撕开裂缝：不是被对手击败，而是被自己的算法脑洞吓醒。

今天，无人车来也（公众号：无人车来也）就拆解这场AI学坏现场：幻觉到底是什么？为何无法根治？人类还能不能夺回最终拍板权？

（参考阅读请点击：《谷歌Waymo：因自动驾驶出租车19次违规超越校车遭调查，提交自愿软件召回》）

一、AI幻觉开上路：从聊天错别字到方向盘抽筋

幻觉一词源自大模型AI把不存在的事实说得头头是道。

放到无人车里，就是把塑料袋当成纸箱，把警灯闪烁当成圣诞装饰，然后做出与之匹配的驾驶决策。

Waymo 10月27日官方博客坦承：为应对旧金山拥堵，他们把驾驶风格从绅士调成了激进，结果新模型在隧道口把临时施工牌误判为可变道指示，于是连续37圈画Z字，像在跑赛道。

更离谱的是洛杉矶警匪现场：一排警车+持枪警员，Waymo却把封锁线识别成临时停车带，减速后大摇大摆从嫌犯车边驶过，15秒停留被网友戏称自带观众席。

AI幻觉的可怕不在于错，而在于错得自信，并把乘客瞬间拖入高风险漩涡。

二、动物尸体与大数据：14起碰撞背后的长尾黑洞

据美国国家公路交通安全管理局（NHTSA）数据，2021年以来Waymo已卷入14起动物碰撞事件，包括猫、狗、浣熊。

看似数量不多，但对比其运营里程约1.1亿英里（截至2025Q3），每千万英里1.3起；

而全美人类司机每年撞死约100万只动物，换算后每千万英里约70起。

单看表格，Waymo赢了；

放到长尾场景，却可能是样本盲区猫狗体积太小、行动随机，训练集里缺位，模型就把它们当成可压扁的纸片。

于是，邻居口中备受喜爱的猫惨死轮下。

更尴尬的是责任认定：Waymo赔钱了事，却辩称人类撞得更多。

当技术用统计数字为个体悲剧开脱，社会情绪自然反弹。

三、激进风格=把礼貌调成路怒？参数旋钮的蝴蝶效应

Waymo产品负责人承认：为缓解拥堵，团队把侵略性参数上调。

看似只是代码里01的改动，结果却像蝴蝶振翅

变道间隙从3秒压到1.8秒，后车被迫急刹；

礼让行人距离从2米缩到0.8米，行人手推车被撞概率提升；

警灯识别阈值提高，把红蓝爆闪当成低优先级灯光。

AI没有常识，它只懂概率。

当工程师把效率权重调高，安全权重相对下降，机器自然选择更快而非更对。

人类驾驶员尚能靠经验踩刹车，AI却把不确定翻译成可通过，直至悲剧发生。

Waymo的风格旋钮给行业敲响警钟：算法不是调音台，任何微小增益都可能在真实世界被指数级放大。

四、幻觉Bug，是先天缺陷：学术界为何说无法根除

学界普遍共识：幻觉是大模型的原罪。

训练目标下一个词概率最大决定了AI天生会脑补。

放到视觉-动作模型，就是把传感器噪点当成有效目标，把罕见场景当成已知模式。

Waymo用Transformer做BEV（鸟瞰视角）融合，参数高达38MB，黑盒决策连工程师也无法全部分析。

更致命的是分布外问题：警匪对峙、动物窜出、隧道施工在训练集里极少出现，模型只能类比，一旦类比错误，就是车祸。

研究表明，把幻觉率压到0.1%，需要10倍于现行的真实数据，成本高达数百亿美元。

换言之，幻觉可被稀释，却难以消除。

五、夺回方向盘：远程接管、法规护栏与人类

veto 权 Waymo已建立RMCC（远程监控中心），1人可管25辆车，但前述警匪现场仍靠警方对讲机呼叫才远程刹停。

15秒真空期说明：人机比例再优，也无法覆盖黑天鹅。

行业开始三管齐下：

强制veto权：欧盟新规要求L4车辆必须保留紧急制动物理键，乘客0.2秒可切断自动驾驶；

场景围栏：隧道、学校、警备区列入高敏感ODD，限速20km/h并强制人类接管；

保险兜底：伦敦劳合社推出AI幻觉险，每公里0.03美元，为长尾事故托底。

技术层面，多模型冗余+可解释AI正成为主流：

视觉、激光、毫米波各自独立推理，投票决策；

同时输出决策热力图，让人类看到AI到底看见了什么。

Waymo计划2026年在车内屏幕实时显示感知置信度，乘客可一键要求远程人工复核把黑盒变白盒，让幻觉无处遁形。

当Waymo把事故率更低挂嘴边时，别忘了：人类司机撞人是犯错，AI撞人却是系统性错误。前者可被法律、保险、道德约束；

后者一旦算法放行，就是规模化复制。

碾猫、闯警匪现场、绕圈37圈，不是洋萝卜故意使坏，而是提醒我们：再先进的神经网络，也会在长尾里跌倒。

总之，无人车来也（公众号：无人车来也）

真正的安全，不是让AI更像人，而是给机器装上人类 veto的紧箍在概率与伦理之间，留一只随时可以踩下的刹车。

毕竟，道路不是实验室，生命没有下一次训练轮次。

#无人车来也#无人驾驶#自动驾驶#无人车

原文标题:Waymo“AI幻觉”大翻车：碾猫闯警匪现场，无人车“学坏”的背后是人类失守了方向盘？

打赏 点赞