一段“车展不雅视频”在网上疯传,品牌股价应声下跌,公众怒斥乱象。但真相是:人是假的,车是真的,视频是AI造的。广州警方一纸通报揭穿迷局——所谓低俗现场从未发生,幕后黑手竟是一个想炫耀技术的普通人。他被行政拘留十日,代价不大,警钟却响。
这起小鹏汽车被造谣事件,从爆发到破案,不到两周。企业迅速辟谣,报警维权;警方精准溯源,依法处置;平台下架内容,切断传播。链条看似完整,但真正令人警醒的是:制造这场风波的技术,早已飞入寻常百姓家。一个非专业人士,仅用公开工具,就能生成足以乱真的虚假视频。而这样的“创作”,正明码标价,在电商平台、社交群组中自由流通。
AI换脸、语音克隆、数字人生成——这些曾属实验室的技术,如今在淘宝上标价9.9元。输入一张照片、一段声音,半小时内就能产出一段“某人出丑”的视频。有人用它恶搞亲友,有人用它蹭流量,更有人已将其用于诈骗与敲诈。技术没有原罪,但当它成为作恶的杠杆,社会必须亮出底线。李某被拘,不是因为技术高超,而是因为打破了公共秩序的红线。
有人会说,他只是“玩一下”,没想造成多大影响。可网络不是试验场。一条虚假视频,足以让企业声誉受损、股价震荡,足以引发群体焦虑、误导公众认知。法律早已明确:散布谣言,无论动机如何,只要造成社会危害,就必须担责。《治安管理处罚法》第二十五条为此类行为划出红线,而近年多起判例更显示,若涉及牟利或大规模传播,已可触碰刑法。上海三人用AI批量伪造“医院院长死亡”谣言获刑,便是前车之鉴。
更深层的挑战在于,我们是否准备好应对AI谣言的常态化。过去,谣言止于智者;今天,眼见也不再为实。当真实与虚构的界限被技术抹平,仅靠事后追责远远不够。平台必须前置防线,用AI识别AI,对合成内容打上可追溯的数字水印;立法需进一步细化,明确生成、传播、使用AI虚假内容的法律责任;公众也需提升媒介素养,对“爆款视频”多一分审慎。
这场闹剧落幕了,但它的回声才刚开始。十日拘留,惩戒的是一个人,警示的是一代人。技术奔涌向前,法治与伦理的堤坝必须筑得更快、更牢。否则,下一次被伪造的,可能就不只是车展,而是新闻、证词,甚至真相本身。
全部评论 (0)