7 月 27 日，央视新闻报道，随着 AI 在各个领域的应用越来越广泛，一些不法分子利用 AI 技术制造虚假信息，严重扰乱社会秩序。

报道提到，日前一条游船在湖北宜昌江段侧翻多人落水的新闻引发关注，经过当地公安等部门的调查核实，这是一条利用 AI 技术炮制的假新闻。

假新闻称，7 月 19 日在湖北宜昌长江段，一艘名为「三峡观光 6 号」的三层观光游船，突然发生「左倾」，10 秒内倒扣江中，30 名游客坠江。为了博人眼球，假新闻还称「有人看到船身倾斜，有人跳江」，并搭配了经过 AI 处理的虚假图片。

据悉，湖北省公安厅、宜昌市公安局两级公安机关与网络安全部门紧密配合，很快锁定假新闻发布者，他为提升账号关注度使用某 AI 工具编造了这条谣言，目前已被公安机关依法作出行政处罚。

无独有偶，云南大理漾濞县公安局近期也查处了一起利用 AI 编造交通事故的网络谣言案。据悉，有人在网络上发布多段交通事故现场人员伤亡的视频，并标注事发地点为大理州。而据交管部门核实，大理州辖区内并未发生类似交通事故。对此，可以初步判定相关视频为 AI 生成的虚假视频。

后据视频发布者赵某某供述，为了博眼球、吸粉引流，采用 AI 工具制作了这些视频，并发布到个人视频号上。

警方提示：如今 AI 技术在视频制作中的应用日益广泛，通过 AI 可以轻松生成逼真的虚假视频，普通人很难辨别真伪。一旦被不法分子利用，会带来巨大的风险。在亟须加强监管的同时，也需要提高人民群众的辨别力。