深夜高速,没有路灯,风像刀。
驾驶员嫌顶棚那盏阅读灯晃眼,说了句关掉所有阅读灯。
语音助手听得很认真,执行得很彻底:不止阅读灯,连前大灯也一起熄了。
世界瞬间断电,车里的人眼睛还残留着灯后的白光残影,就在这半秒的愣神里,黑暗给了路沿一个机会,砰的一声,幸运的是没有人命。
更富戏剧性的是,当司机本能地让车机“把灯打开”,那位AI还不忘端水卖萌:暂时还不会。
技术的幽默,拿命在玩。
涉事车是领克Z20。
事发后,官方很快回应,说是语音误操作,随即通过OTA把“行驶状态下语音关闭大灯”的口子封了。
速度不慢,态度不坏。
但这事儿的尴尬不在补救,而在于它根本不该发生。
夜间行车,大灯不是装饰,是呼吸。
任何把它“误判为可随意关闭”的逻辑,都在拿第一性原理开玩笑。
一些车主后来复测,发现正常说关大灯,车辆在行驶时确实不会执行,这是对的;但一旦说关所有灯,系统就“知趣”地把所有光源一起熄灭。
更离谱的是那句关所有阅读灯,两个关键字叠加到了一起,“所有”这个词像一把万能钥匙,打开了不该开的门。
你要说这是Bug?
确实像Bug,但更像是架构设计里对安全边界的想象力不足。
我们得承认,这几年造车圈深信“屏幕即一切”,把物理按键当成原罪。
换挡上屏,雨刷上屏,灯光上屏,再配一位能说会逗的语音管家,至此,驾驶舱好像被装修成了移动客厅。
结果呢?
大家都在“做大做全”的路上狂奔,有人把“防呆”机制做在了位移上——车停着可以,车动了不行;有人把逻辑做在了语义上——关大灯不行,关全部也不行;也有人把最关键的边界直接漏了。
把语音交互当王,安全机制当妃,这就属于认知失衡。
传统派会说:你不会拉拨杆吗?
不会打双闪吗?
这话看似有道理,实则失了分寸。
绝大多数人在高速黑场里被突袭,脑子是先空白的,靠肌肉记忆救命。
问题恰恰在于,肌肉记忆被“智能化”换掉了。
你习惯对着车说话,关键时刻却要你立刻改用手去找一个被藏在二级菜单或迷你拨杆里的功能,这就像你在地震时才被告知逃生通道在工具箱后面。
把责任甩给驾驶员的“临场反应”,是最轻松也最没水平的甩锅。
从工程角度,大灯属于典型的安全相关件。
在ISO 26262的语境里,哪怕你把“单侧失效”评成ASIL B,但在无路灯高速、且车速不低的情景下,“双侧同时熄灭”对后果的放大是指数级的,趋向ASIL D——最高等级。
ASIL的意义很朴素:它决定了系统设计里,谁能下命令,命令如何被校验,什么时候必须一票否决。
语音属于舒适性系统,安全相关件属于命门系统。
舒适性系统越级干预命门系统,原则上不允许。
即便误指令产生,也应在网关层被拦下,比如车速大于零,或者环境光传感器判定极暗,就直接封死关灯路径,且有独立硬件路径兜底。
安全就是要多道门、重重复复、烦到让人嫌慢,但一旦真出事,这种“烦”就是活路。
有人说,电车新技术多,难免有坑。
话没错,但不能拿“新”做借口。
哪怕不谈电驱、电池、高压系统的独有风险,仅仅就人机交互这一块,汽车行业一百多年的沉淀不是摆设。
刘慈欣说未来属于AI没问题,可在方向盘后面,未来首先属于确定性。
“可能有用”的炫技功能和“必须可靠”的生命线,两者永远不是一个优先级。
更何况行业外的人也在警示,连大佬都承认,电车的安全体系还没被实践反复校验,隐患比内燃机时代更复杂。
既然如此,边界意识就要比以往更强,而不是更松。
这次事件还有一个细思极恐的点:AI的拟人化。
它可以迟疑、可以卖萌、可以体谅你的情绪,但它不可以在生死一线搞幽默。
人机之间的情感化表达一旦侵入关键链路,代价太大。
人类对语言的宽容远大于对机械反应的宽容,你可以怼一个客服,但你不能接受刹车延时0.5秒。
同理,开灯这事,系统必须做到零拖延、零戏剧、零误解。
欧洲那边已经看出来了,从2026年起,想拿五星,核心功能没物理操控不行。
灯光、雨刷、转向灯这种“半闭眼也能摸到”的件,必须给一个笨但稳的按钮、拨杆或者旋钮。
这不是复古,是现代性回潮——把交互从“酷”拉回“活着”。
有的创新是好创新,比如冗余带来的可靠提升;有的创新纯粹是为了发布会上的尖叫。
后者短期给你带流量,长期会给行业带麻烦。
那该怎么办?
第一,建立“负面清单”,明确语音永远不可直接控制哪些部件,包含大灯、转向、制动、驻车、电池高压上电等;第二,所有跨域控制必须走安全网关,由网关结合车辆状态做二次校验,条件不满足就硬拦;第三,黑场、高速、雨雪等特殊工况下,舒适性系统的权限统一降级,必须“少做事”;第四,物理冗余不可省,且要做到“盲操友好”,触感明确、位置固定、操作路径短;第五,语音系统要在极端环境里“学会闭嘴”,别在危机处理时加台词,更别加彩蛋;第六,把OTA当救火但别当设计。
补丁可以堵洞,架构才是地基。
从流程上,开发阶段的HARA和FMEA不能流于表格化,测试里要有“人为偏差”和“语义歧义”场景,让“所有”“全部”“一键”等高危词汇在各种口音、噪音、多人对话中来回折磨。
把Bug挡在量产前,不要把高速公路当实验室。
安全节奏是严苛的,且很无趣,但它让所有无聊的人都能活着到达目的地,这就够了。
消费者也不必被吓出心理阴影。
该用AUTO的大灯就用AUTO,该练的肌肉记忆要练,把灯光拨杆、双闪、雨刷位置,为自己和家人做一次盲操作练习,免得关键时刻只会对空气喊话。
与此同时,遇到“反人类设计”,大胆反馈与维权,市场会把坏创新筛掉。
智能化当然是方向,但它不是宗教。
车的本质是一台运输工具,智能是锦上添花,不是换血。
它应该躲在幕后,让驾驶变得更轻松、更安全,而不是上台抢戏。
真正的高级感不是屏幕越做越大、指令越说越花,而是在极端时刻,它什么都不说,悄悄把你从危险里拽回来。
愿每一次升级,先问一句:坏了会怎样?
如果答案让人心里发凉,那就不要上线。
让车像车,光像光,按键像按键,人像人。
剩下的幽默,等到了服务区再讲。
全部评论 (0)