你依赖的聊天机器人可能没那么可靠！
自美以对伊朗展开军事行动以来，国内外社交媒体平台充斥着大量虚假信息。在本轮战争中，一个尤其值得关注的现象是，谣言经过 AI 工具的加持，制作传播成本变得极低。英国广播公司（BBC）事实核查栏目刊发文章，聚焦此次战争中泛滥的 AI 谣言，分析其成因及传播规律。以下为凤凰网"讲真"全文编译：
有关美国、以色列与伊朗冲突的 AI 生成虚假信息正掀起前所未有的浪潮，越来越多能使用生成式 AI 技术的网络创作者借此牟利。分析发现，大量 AI 生成视频与伪造卫星图像被用于散布关于这场冲突的虚假、误导性言论，这些内容在网络上累计获得了数亿次播放。
专家：AI 极大程度降低虚假内容制作门槛
昆士兰科技大学数字媒体专家蒂莫西・格雷厄姆表示："其规模着实令人震惊，而这场战争让这一问题如今已无法忽视。"谷歌旗下包括视频生成器 Veo 在内的 AI 工具，与 OpenAI 的 Sora 模型、X 内置的 Grok 等，一同出现在越来越多的热门 AI 平台名单中。生成式 AI 专家亨利・阿杰德称："如今可用于制作各类高度逼真 AI 伪造内容的工具数量之多，前所未有。""这些工具从未像现在这样易得、易用且廉价。"
他说："过去需要专业视频制作才能完成的内容，现在用 AI 工具几分钟就能搞定。制作以假乱真的冲突合成画面的门槛几乎已彻底消失。"
美国与以色列于 2 月 28 日开始对伊朗发动打击。作为回应，伊朗对以色列、多个海湾国家以及该地区的美军设施发动了无人机与导弹袭击。许多人通过社交媒体搜索、分享最新信息，试图理清这一周来快速演变的冲突局势。
社交平台 X（原推特）本周宣布，若创作者发布未标注的 AI 生成武装冲突视频，将被暂时暂停其创作者变现计划资格。该计划会为符合条件、帖子获得高播放、点赞、转发与评论量的用户提供平台分成。
牛津互联网研究院专注伊朗问题的研究员玛赫萨・阿里马丹尼称："这是一个值得关注的信号，说明他们已意识到这是个重大问题。" BBC 就是否计划采取类似措施询问了 Facebook 和 Instagram 的母公司 Meta，但均未得到回应。
注意：你依赖的聊天机器人可能没那么可靠！
BBC 核查栏目追踪到一则典型的 AI 生成视频：画面看似显示导弹袭击以色列特拉维夫市，背景伴随着爆炸声。该视频出现在超过 300 条帖子中，在各大社交平台被转发数万次。
部分 X 用户求助平台内置 AI 聊天机器人 Grok 核实视频真伪，但据 BBC 核查观察，Grok 多次错误认定该 AI 生成视频为真实画面。
另一则观看量达数千万次的虚假视频声称显示迪拜哈利法塔起火，人群似乎正朝大楼方向奔逃。在当地居民与游客高度担忧该市遭遇无人机与导弹袭击之际，这段 AI 生成画面在网络上广泛传播。
阿里马丹尼表示："此类虚假视频严重损害人们对网络上经核实信息的信任，也让真实证据的记录变得更加困难。"
BBC 核查栏目发现，本次冲突的一个新特点是 AI 生成卫星图像的出现。我们核实了多段真实视频，显示冲突首日伊朗无人机与导弹袭击了位于巴林的美国海军第五舰队总部。次日，与伊朗官方有关联的《德黑兰时报》在 X 上分享了一张伪造照片，声称该基地遭到严重损毁。
这张假图似乎基于 2025 年 2 月拍摄、已公开的巴林美军基地真实卫星图像修改而成。谷歌 SynthID 水印检测器显示，这张虚假图像是使用谷歌 AI 工具生成或编辑的。尽管两张照片据称相隔一年拍摄，但停在室外的三辆车在真实卫星图与 AI 伪造图中的位置完全一致。
深层困境：平台变现的诱惑难顶
科技政策非营利组织 What To Fix 执行董事维克图瓦尔・里奥表示，这导致网络上 AI 生成内容激增，"因为通往社交媒体的传播链条现在几乎可以完全自动化。"
X 产品负责人周二称，传播此类 AI 生成视频的账号中，99% 都在试图通过发布能引发高互动的内容来"钻变现机制的空子"，以通过平台创作者收益分成计划获利。
该平台并未公布参与该计划的账号数量或创作者可获得的收入金额。但格雷厄姆估计，X 大约会为每百万次有效用户展示支付 8 至 12 美元。他补充道："创作者需在三个月内达到 500 万次自然展示量，并订阅 X 高级会员，才有参与资格。""一旦加入，病毒式传播的 AI 生成内容基本上就是印钞机。他们打造出了终极的虚假信息产业链。"
专家向 BBC 核查栏目表示，尽管多家社交平台称正调整审核与检测系统，以应对 AI 生成内容的传播规模与速度，但该问题并无简单解决方案。格雷厄姆指出："更深层的问题在于，基于互动量的变现模式与真实信息本身存在根本矛盾，而没有任何一家平台完全解决了这一矛盾，或许永远也无法解决。"
顺阳网配资提示：文章来自网络，不代表本站观点。