人工智能生成的虚假战争视频泛滥网络引担忧

美国和以色列发动对伊朗袭击后，部分博主利用生成式人工智能制作虚假战争视频博取公众关注并从中获利。专家说，这是一场前所未有的人工智能生成虚假信息浪潮，问题严重，令人担忧。

美国和以色列 2 月 28 日对伊朗发动袭击后，许多人到社交媒体搜索、分享最新信息，一些博主则借此机会用虚假战争视频牟利。

其中一个有代表性的视频显示，导弹击中以色列特拉维夫，发出巨大爆炸声。该视频被超过 300 个帖子引用，在社交媒体平台上累计转发数万次。

英国一项调查显示，社交媒体平台 X 的一些用户向平台自带的 " 格罗克 " 人工智能聊天机器人求证该视频真伪，但 " 格罗克 " 多次坚持认为该 AI 视频是真实的。

另一段 AI 视频显示迪拜哈利法塔起火，这段视频在当地民众和游客对无人机和导弹袭击高度担忧期间被广泛传播，观看量高达数千万。

另外，AI 生成的卫星图像也大量出现在网络上。

澳大利亚昆士兰理工大学数字媒体专家蒂莫西 · 格雷厄姆说：" 问题的严重性确实令人担忧，这场战争已使人们无法再忽视这一现象 …… 过去，制作视频需要专业知识，而现在只需几分钟就能用 AI 工具完成。制作以假乱真的视频几乎已经没有门槛。"

社交媒体平台 X 方面表示，传播此类 AI 生成视频的账号中 "99%" 是为了赚钱。X 平台不久前宣布，若创作者发布 AI 生成武装冲突视频时未做标明，则将暂时取消其变现计划资格。该计划通过向符合条件的用户支付报酬，奖励其发布获得大量浏览量、点赞、分享和评论的帖子。

牛津互联网研究院伊朗问题专家马赫莎 · 阿里马尔达尼说：" 这类虚假视频严重损害人们对网络信息的信任，使记录真实证据变得更加困难。"

" 目前可用的 AI 工具数量空前，能创作各种高度逼真的虚假内容，" 生成式 AI 专家亨利 · 艾德尔说，" 我们从未见过这些工具如此普及、便捷且廉价。"

专家表示，尽管许多社交媒体公司声称正调整审核检测系统以应对 AI 生成内容的传播规模与速度，但这个问题没有简单的解决方案。

" 更深层问题在于，以互动为导向的变现机制与准确信息之间存在根本性矛盾，目前没有平台能完全化解这个矛盾，或许永远无法化解。" 格雷厄姆说。