近日，多地出現(xiàn)利用人工智能生成虛假視頻散播網(wǎng)絡謠言的事件。央視新聞報道指出，即使標注“由AI生成”，發(fā)布者仍因擾亂公共秩序受到行政處罰。今年3月，重慶市南岸區(qū)委網(wǎng)信辦發(fā)現(xiàn)一段立交橋倒塌的虛假視頻，該視頻上線12小時獲得大量點贊、轉發(fā)和留言。經(jīng)核實，南岸區(qū)近期并未發(fā)生此類事故。視頻中的車輛文字、車牌及行人反應存在異常，確認為AI生成。發(fā)布者雖標注“內(nèi)容由AI生成”，但仍被行政拘留6日。重慶市互聯(lián)網(wǎng)違法和不良信息舉報中心表示，根據(jù)治安管理處罰法，網(wǎng)民不得故意散布謠言、謊報險情、擾亂公共秩序；標注AI生成不能作為造謠傳謠的免責條款。

類似案例在重慶涪陵區(qū)和四川武勝縣也有發(fā)生。涪陵區(qū)網(wǎng)民蔣某發(fā)布虛假房屋倒塌視頻后主動刪除，警方對其進行批評教育。四川武勝縣網(wǎng)安大隊發(fā)現(xiàn)兩段AI合成視頻，發(fā)布者楊某為博取流量，發(fā)布虛假視頻，被行政處罰。重慶數(shù)據(jù)顯示，2025年重慶互聯(lián)網(wǎng)辟謠平臺辟謠內(nèi)容中，AI生成信息占比近20%。專家分析，AI造謠頻發(fā)的原因在于制作門檻低、視覺沖擊強、溯源難度大。目前網(wǎng)民常用的AI生成視頻軟件可免費生成5至10秒的事故類視頻，災難謠言成為網(wǎng)絡謠言的重災區(qū)。根據(jù)《生成式人工智能服務管理暫行辦法》，使用AI服務不得生成虛假有害信息。專家同時提醒用戶，不得首發(fā)上傳AI生成的虛假信息視頻，轉發(fā)前應核實信息真實性。