中东冲突引爆AI假视频产业？有人以此起号牟利，播放量暴增引担忧...

“地域冲突”和“AI进化”两个当下最火的议题相互碰撞，诞生出了最唬人也最细思极恐的把戏——AI生成的虚假战争视频。

虚假视频引发了不少恐慌。而那些AI视频的发布者则是隐藏在幕后，借着平台的流量盈利机制，利用人们的恐慌心理赚得盆满钵满...

在这波虚假视频浪潮中，观看量突破几百万、几千万的片段有很多。

其中一段视频显示，导弹袭击了以色列特拉维夫市，背景中传来巨大的爆炸声。

另一段播放量几千万的视频中能看到，迪拜的哈利法塔摩天大楼着火，一群人似乎正朝着大楼跑去。

当地居民本来就对无人机和导弹袭击感到担忧，这种视频无疑加剧了民众的恐慌。

还有一种视频会利用卫星图像来造假，制造一种“官方发布”的权威感。

比如下面这组对比图，左边是真实图像，是2025年2月拍摄的美国驻巴林海军基地的卫星图，图片可在网上公开获取。

右边则是经过AI处理的造假图，显示基地已经被炸。

除了假视频，虚假照片也开始传播，甚至有AI生成的图像显示，救援人员正在打捞被炸重要人物的遗体...

要验证这种消息的真实性虽然并不复杂，但很少有人上网的时候会特意去验证眼前每一条消息到底是真是假。

而且现实情况是，大多数人对消息的真假确实不敏感...

外媒报道中就提到，即使AI生成的图像质量很低，或者带有明显的AI视频水印，也能经常看到它们被大量分享。

更进一步，是类似“狼来了”的故事。如果这种视频越来越多，大家会对网上看到的信息产生不信任感，“记录真实”这件事儿也会变得更加困难：

“如果人们不信任专业机构、经过事实核查的信息或证据，就极有可能导致崩溃、社会不和、两极分化、机构分裂。人们的决策不再基于证据，而是基于感觉和情绪。”

此外，AI生图、生视频能力的进步，也加剧了假消息的传播。

比如下面这组对比图，如今的AI已经可以很轻松地靠左边这样一张图片，生成右边的这种爆炸视频。

这意味着每个能够操作AI工具的人，都能动动手指加入创作，很短的时间内就能批量产出一堆类似的虚假视频。

要不要拿着假视频去哄骗网友，只在创作者的一念之间。

一旦决定了用这种手段牟利，骗流量起号就变得轻而易举。甚至发布者的初衷都不是牟利，而是达到某些不可告人的秘密...

比如X平台在这次风波中就发现，有一名巴基斯坦男子管理着31个账号，轮流发布AI战争视频。

类似国内的批量起号“养蛊”，一旦其中的一条或者几条视频火了，创作者就能拿到流量分成。

有些网友会在评论里艾特X平台自带的AI（Grok），让Grok帮忙判断视频的真实性。

但...Grok在AI视频识别上的能力有限，在很多情况下，Grok竟然会坚称AI生成的假视频是真实的事件现场。

更抽象的是，Grok还会引用一些最近的新闻媒体报道，来“证明”AI视频的真实性。

这种斩钉截铁的语气很容易让人觉得，视频里的景象确确实实在地球上发生着。

好消息是，在AI泛滥的年代依然有“老艺术家”坚持传统辟谣手艺。

比如下面这段所谓的“导弹袭击城市”的视频，有博主经过核实取证，发现是拍摄于阿尔及利亚的烟花庆祝视频。

目前X平台已经宣布，如果创作者发布未经标注的AI生成的战争冲突视频，将暂时中止发布者的流量盈利计划。情节严重者还会给出封号90天甚至永久封禁的处罚。

但这也只能解得了近渴，改变不了AI虚假内容充斥外网的局面。

而如果想从审核角度解决问题，要付出的人力成本恐怕难以想象。

（X平台目前会在AI视频下面加这样的标注来提醒）

去年AI崛起时，我们还在担心“AI幻觉”会编造出大量的虚假消息，污染互联网的语料库，降低我们获取信息的效率。

如今，AI极低成本的创作，已经让每一个普通人有了随手制作出真假难辨视频的渠道。

AI的发展速度以天计，人类的各种监管手段和规定、政策却不能紧随其后迅速更新。想想都细思极恐。

这个过程中最让人难受的莫过于，这次是AI假视频通过地域冲突来营造心理恐慌，下一次可能就骗到你我身边最熟悉、最日常的领域了...

到时候能不能一眼分辨出来，还真说不清...