29
2025
-
10
央視法治在線丨?AI造謠 “移花接木” 起底無底線博流量網(wǎng)絡(luò)亂象
作者:
綜合辦


近日,公安部公布了10起打擊整治網(wǎng)絡(luò)謠言典型案例。這些案例涉及的網(wǎng)絡(luò)謠言,不僅損害公眾的權(quán)益,也擾亂正常的社會公共秩序。其中四川德陽的案件,是有人移花接木,借用真實的場景,虛構(gòu)案發(fā)地點等信息制造假新聞。迷惑性強,在當(dāng)?shù)匾l(fā)了熱議。
造謠“液化氣罐車爆炸”
還有“現(xiàn)場”照片
今年8月11日,一個名叫“忽如一夜春風(fēng)來文章”的網(wǎng)民在今日頭條上,發(fā)布了一篇《氣罐車起火爆炸:目擊者驚險撤離背后的安全警示與行業(yè)反思》的文章。

聲稱2025年8月10日,四川省德陽市旌陽區(qū)東湖街道大地村境內(nèi),一輛運載液化氣罐的貨車在行駛途中突發(fā)起火爆炸。這篇文章不僅對爆炸現(xiàn)場進行了詳細描述,還附有一張貨車燃燒、群眾撤離的圖片。在文章后半部分還分析了事故造成的損失、相關(guān)部門的救援措施等,并稱“由于事發(fā)路段狹窄,消防通道被私家車占用,導(dǎo)致救援設(shè)備進場延誤10分鐘”。乍一看,非常真實,文章內(nèi)容也引起了網(wǎng)民的關(guān)注和討論。

德陽市公安局網(wǎng)安支隊四大隊副大隊長 王周木:網(wǎng)民的文章中,液化氣罐連環(huán)爆炸,產(chǎn)生了巨大火球,波及周邊村民等這些令人驚悚的語言,引起了很多人的關(guān)注、轉(zhuǎn)發(fā)、評論,在社會上引起了巨大的恐慌,我們支隊立即派人進行核實核查。
民警來到事發(fā)地點周邊,進行了走訪。村民們說,他們并不知道有文章中所說的爆炸,而且村里只有一條通往鄰近鄉(xiāng)鎮(zhèn)的鄉(xiāng)道,平日里過往車輛并不多,液化氣罐貨車更是少見。

德陽市公安局旌陽區(qū)分局網(wǎng)安大隊副指導(dǎo)員 魏驥:我們通過實地走訪大地村當(dāng)?shù)厝罕?,并向轄區(qū)交通、應(yīng)急、消防等相關(guān)部門核實,確認大地村未發(fā)生氣罐車爆炸事件。
用其他視頻移花接木利用AI編造謠言
民警進一步調(diào)查發(fā)現(xiàn),發(fā)布這篇文章的網(wǎng)民,并不是德陽本地人,而是外地的李某。他在平臺發(fā)布的信息中配圖截取于8月10日,青蘭高速山西省臨汾段佛兒崖隧道口一輛罐車起火發(fā)生爆炸的視頻,文字信息則是李某借助AI工具編造的。

德陽市公安局網(wǎng)安支隊四大隊副大隊長 王周木:我們在互聯(lián)網(wǎng)上開展核實,確實是被網(wǎng)民李某移花接木而成,這是徹徹底底的謠言。他(李某)這樣發(fā)文章是為了吸粉、博眼球、博流量。
查清真相后,德陽警方及時對外辟謠,并按案件管轄權(quán)限移交給了李某居住地公安部門,依法對李某進行了查處。
進入云南玉溪城區(qū)要收費?謠言!
除了事故、災(zāi)難等內(nèi)容,還有一些造謠者,編造公共政策進行發(fā)布,也帶來了不小的影響。
前段時間,某短視頻平臺一段視頻稱“為了響應(yīng)國家號召,即日起玉溪市政府決定:凡是進入城區(qū)的必須繳納200元的城鎮(zhèn)維護費用,該費用可以在5年內(nèi)隨意出入玉溪城區(qū)。500元可以一輩子隨意出入玉溪。”
該視頻一經(jīng)發(fā)布,迅速引發(fā)大量網(wǎng)民的關(guān)注和討論。一些網(wǎng)友質(zhì)疑“什么時候開始要交進城費了”。玉溪市公安局紅塔分局網(wǎng)安大隊立即進行了核查。

玉溪市公安局紅塔分局網(wǎng)安大隊副大隊長 王朝安:當(dāng)時我們就覺得不真實,我們第一時間跟相關(guān)部門進行咨詢信息是否真實。得到答復(fù)是謠言后,我們及時對這個賬號開展工作。發(fā)現(xiàn)發(fā)布此謠言信息的是李某某,我們組織警力,趕到嫌疑人居住地將其查獲。

民警告訴記者,玉溪雖然是旅游熱門城市,但是只有部分特定的景區(qū)需要購票進入,大多數(shù)古街區(qū)都不需要收費,這類進城收費的消息站不住腳。而且這種涉及公共政策類的消息,也會由政府部門向全社會公布。那么李某某為什么要編造這樣一則謠言呢?
原來,李某某在上網(wǎng)時發(fā)現(xiàn),涉及旅游景點、古城相關(guān)收費的話題熱度比較高,就動起了歪腦筋。
由于李某某在網(wǎng)絡(luò)上發(fā)布的虛假信息,引發(fā)大量網(wǎng)民關(guān)注和討論,對往來人員和當(dāng)?shù)厝罕娨l(fā)誤導(dǎo),造成不良社會影響。目前,公安機關(guān)依法給予李某某行政處罰。相關(guān)違規(guī)視頻也已刪除。
造謠“開學(xué)第一天學(xué)校塌了”
男子被拘7日
近日,山東威海警方迅速偵破一起網(wǎng)絡(luò)造謠案件,以法治力量守護網(wǎng)絡(luò)清朗與社會安寧。
2025年9月1日,一段“威海經(jīng)開區(qū)實驗小學(xué)倒塌”的虛假視頻在網(wǎng)絡(luò)上快速傳播,畫面搭配“開學(xué)第一天學(xué)校塌了”等極具誤導(dǎo)性的文字,相關(guān)話題短時間內(nèi)被大量轉(zhuǎn)發(fā)評論,造成了惡劣的社會影響。

威海市公安局經(jīng)濟技術(shù)開發(fā)區(qū)分局皇冠派出所民警 楊寧:這條視頻后來迅速傳播,引發(fā)了學(xué)生家長和廣大市民的擔(dān)憂和恐慌,造成了比較惡劣的社會影響。
接到通報后,威海市公安機關(guān)立即啟動核查程序,迅速確認該視頻為虛假信息。威海市公安局經(jīng)濟技術(shù)開發(fā)區(qū)分局皇冠派出所民警迅速開展工作,最終鎖定謠言發(fā)布者為劉某元。

威海市公安局經(jīng)濟技術(shù)開發(fā)區(qū)分局皇冠派出所民警 楊寧:經(jīng)查,劉某元為了博取眼球、蹭“開學(xué)”熱點,故意篡改事實、捏造并傳播了學(xué)校倒塌的謠言。他的行為嚴重擾亂了社會的公共秩序,觸犯了《中華人民共和國治安管理處罰法》第二十五條第一項之規(guī)定。公安機關(guān)依法對劉某元處以行政拘留七日的處罰。
謠言借公眾對校園安全的關(guān)切興風(fēng)作浪,既觸碰法律底線,更透支社會信任。此案的查處,彰顯了警方打擊網(wǎng)絡(luò)謠言的堅定決心。

威海市公安局經(jīng)濟技術(shù)開發(fā)區(qū)分局皇冠派出所民警 楊寧:這起案件也警示我們,網(wǎng)絡(luò)不是法外之地。任何為了個人目的,肆意編造、傳播謠言,引發(fā)社會恐慌的行為,都必將受到法律的嚴懲。我們將繼續(xù)堅決維護清朗的網(wǎng)絡(luò)空間,保障人民群眾的安寧與社會大局的穩(wěn)定。
網(wǎng)傳“懷化一女子從28樓墜落”?
假的!
同樣是假新聞,某網(wǎng)絡(luò)平臺上出現(xiàn)的一條“懷化35歲女子從28樓跳下”的視頻,顯得更加真實。其中不僅有時間、地點、事件、人物等新聞要素,而且還有事件發(fā)生時的所謂現(xiàn)場畫面。那這樣一則謠言究竟是如何制造出來的呢?
湖南懷化網(wǎng)警在日常巡查中發(fā)現(xiàn),一條“懷化35歲女子從28樓跳下”的視頻在網(wǎng)絡(luò)傳播,視頻的配文中還標注了高空墜亡事件、家庭悲劇等標簽,該視頻一經(jīng)發(fā)布迅速引發(fā)熱議,先后獲得數(shù)萬次轉(zhuǎn)發(fā)。然而,懷化警方在調(diào)查中卻發(fā)現(xiàn)了諸多疑點,首先,從該視頻中的建筑物外立面可以看出,所謂事發(fā)地并不是懷化市;另外,視頻中主播的聲畫錯位情況非常明顯。
懷化市會同縣公安局網(wǎng)絡(luò)安全大隊民警 閆宏輝:經(jīng)懷化市公安局核實,當(dāng)日沒有發(fā)生類似視頻墜樓警情,我大隊接到線索后立即開展調(diào)查,快速鎖定發(fā)布視頻嫌疑人員。
利用AI“悲劇模板”
輸入關(guān)鍵詞生成畫面
據(jù)禹某向警方供述,為了快速提升自己賬號的關(guān)注度,她通過在某AI平臺輸入“高空墜樓、家庭悲劇”等關(guān)鍵詞生成視頻片段,并經(jīng)過二次剪輯后發(fā)布到網(wǎng)上。警方調(diào)查發(fā)現(xiàn),在禹某使用的這個AI平臺上,關(guān)于“悲劇模板”的使用率非常大,每月的下載量超過10萬次。

禹某:我當(dāng)時看到別人用AI做視頻漲粉很快,就想跟風(fēng)試試。平臺里有現(xiàn)成的悲劇模板,輸入關(guān)鍵詞就能生成畫面。我不知道隨便發(fā)這種視頻會違法,更沒想到會給那么多人帶來恐慌。
截至警方查處時,禹某發(fā)布的虛假視頻已經(jīng)引發(fā)大量關(guān)注,嚴重擾亂了社會正常秩序。懷化警方依法對禹某作出了相應(yīng)的行政處罰。
散布網(wǎng)絡(luò)謠言
將受到法律追究
為了博眼球、賺流量,散布這些涉及事故災(zāi)害、公共政策的謠言,不僅會造成一定的社會恐慌,擾亂公共秩序,還有可能會對政府公信力等造成沖擊。網(wǎng)絡(luò)不是法外之地,散布網(wǎng)絡(luò)謠言必然要受到法律的追究。
中國人民大學(xué)法學(xué)院副院長 丁曉東:根據(jù)我們國家的治安管理處罰法,如果公民散布謠言,以故意的方式擾亂社會秩序,根據(jù)情節(jié)的嚴重程度,可能會受到拘留和罰款的相關(guān)法律追究。如果公民散布謠言的情節(jié)嚴重,觸及了刑法的相關(guān)規(guī)定,公民還需要承擔(dān)相應(yīng)的刑事法律責(zé)任。
專家表示,隨著互聯(lián)網(wǎng)發(fā)展,個性化推薦算法不斷升級,謠言一旦傳播開來,很有可能會對公共秩序造成嚴重擾亂。

中國人民大學(xué)法學(xué)院副院長 丁曉東:現(xiàn)在隨著互聯(lián)網(wǎng),特別是社交網(wǎng)絡(luò)的傳播,我們的公共秩序和以前已經(jīng)非常不同了。網(wǎng)絡(luò)謠言在現(xiàn)在的互聯(lián)網(wǎng)和算法時代,信息的傳播非常容易導(dǎo)致不同的群體去選擇性地相信某個謠言。有可能形成群體極化,或者一些觀點上的嚴重對立。
專家:
治理網(wǎng)絡(luò)謠言需要多方合力
如何更好地治理網(wǎng)絡(luò)謠言?專家表示,需要多方共治,從政府部門,到平臺企業(yè),再到公民個人,都要參與到治理中來。
北京航空航天大學(xué)法學(xué)院副教授 趙精武:因為政策類謠言往往具有顯著性特征,平臺應(yīng)當(dāng)針對涉及監(jiān)管機構(gòu)、國家政策的網(wǎng)絡(luò)信息內(nèi)容設(shè)置更為嚴格的內(nèi)容審查與應(yīng)急處置流程。在事前階段,預(yù)防政策類、警情類謠言的廣泛傳播。相對應(yīng)地,政府部門需要針對網(wǎng)絡(luò)上傳播的政策類謠言、警情類謠言及時予以辟謠和澄清,平臺也應(yīng)當(dāng)配合監(jiān)管部門,利用算法推薦服務(wù)增加有關(guān)辟謠信息的推送比例,以真實信息覆蓋虛假信息。
中國人民大學(xué)法學(xué)院副院長 丁曉東:對于一些嚴重違反社會秩序的謠言,公安機關(guān)應(yīng)當(dāng)及時進行處置,依法對相關(guān)的造謠者、傳謠者進行處罰。另一方面,政府的其他部門一定要在謠言治理當(dāng)中切實履行自己的主體責(zé)任,很多時候,謠言的產(chǎn)生可能都是由于缺乏正確的、權(quán)威的信息來源,所以導(dǎo)致了謠言的大范圍傳播。在這種情況下,我們的政府部門如果能夠及時發(fā)布有關(guān)權(quán)威的、理性的、準確的信息,就能夠起到澄清謠言,引導(dǎo)輿論的作用,從而達到塑造良好的網(wǎng)絡(luò)生態(tài)的效果。
來源:公安部網(wǎng)安局
上一頁
上一頁
新修改的環(huán)境保護稅法擴大揮發(fā)性有機物征稅范圍
2025-10-31
喜報——子公司高分子獲評浙涂協(xié)四十周年標準化先進企業(yè)
2025-10-31
央視法治在線丨?AI造謠 “移花接木” 起底無底線博流量網(wǎng)絡(luò)亂象
2025-10-29
2025-10-20
10項重點任務(wù)!新一輪石化化工行業(yè)穩(wěn)增長工作方案發(fā)布
2025-09-27