6 月 3 日消息，随着人工智能技术近年来的迅猛发展，一些不法分子为博取流量、吸引关注，利用 AI 工具编造虚假信息，严重破坏网络生态，扰乱社会秩序。山西网警今日集中曝光数起近期查处的利用 AI 技术制造传播网络谣言的典型案例。
为博流量虚构“工厂爆炸”场景，企业员工被依法查处
近日，大同网安部门在工作中发现，有网民在某平台发布视频称：“山西大同一车间内发生爆炸，现场只有一名工人受伤，伤者面部烧伤面积 100%”，引发网民关注。经查，涉事企业并未发生任何安全事故，相关内容系该企业员工赵某某通过 AI 工具生成的虚假文案和虚假视频，在互联网平台发布后，引发网民关注，造成不良影响。目前，公安机关已依法对赵某某作出行政处罚。
AI 生成“高速车祸”谣言，编造“2 死 6 重伤”被依法查处
近日，长治网安部门在工作中发现，网民赵某在某网络平台发布题为“长治人速看！长晋高速大客车侧翻致 2 死 6 重伤，道路结冰预警生效，这些行车规则必须记牢！”的贴文，配发多张所谓“事故现场图”，引发网民转发。经查，长晋高速未发生此类交通事故，文中所述内容纯属虚构。赵某承认其为吸引粉丝关注，利用 AI 工具生成重大事故不实信息并发布。目前，公安机关已依法对赵某作出行政处罚。
利用 AI 伪造“演唱会现场火灾”，为博流量被依法查处
近日，晋城网安部门在工作中发现，某平台网民发布一段视频内容，视频显示为某体育场内疑似发生火灾，并配文称“太原红灯笼体育场突发火情”，该视频迅速引发网民关注与转发，造成不良社会影响。经查，网民张某某在未核实事件真实性、无任何事实依据的情况下，利用 AI 工具擅自编造“太原红灯笼体育场突发火情”的虚假信息。目前，公安机关已依法对张某某作出行政处罚。
AI 生成虚假文章，发布“五台县车祸”谣言被依法查处
近日，忻州网安部门在工作中发现，某平台网民发布文章《4 月 29 日突发惨烈车祸：大货车侧翻致 3 死，现场画面曝光》，文中明确提及“山西忻州五台县”，并附有 AI 生成的事故图片，引发网民广泛关注。经查，五台县近期未发生此类交通事故。发布者田某某交代，其在某 APP 看到类似标题后，复制链接至 AI 写作平台生成文章并直接发布。目前，公安机关已依法对田某某作出行政处罚。
提醒：当前，利用 AI 生成虚假图文、音视频已成为网络谣言传播的新趋势。此类信息仿真度高、传播速度快、误导性强，极易引发社会恐慌。面对 AI 炮制的不实信息多存疑心，审慎甄别，不信谣不传谣。
