新華社濟南2月2日電?題：“數(shù)字泔水”污染加劇，怎么管？

新華社“新華視點”記者 邵魯文

2025年底，韋氏詞典編輯出版商美國韋氏出版公司將英文單詞“slop”（現(xiàn)常譯作“泔水”）評選為2025年度熱詞，并將其定義為“通常由人工智能（AI）批量生成的低質(zhì)量數(shù)字內(nèi)容”。這讓“數(shù)字泔水”這一概念逐漸走進公眾視野。

AI生成的爽文、“魔改”動畫、虛假視頻肆意傳播……AI技術(shù)在給我們帶來諸多便利的同時，也造成大量劣質(zhì)、無用的信息在網(wǎng)上泛濫，加劇了網(wǎng)絡(luò)生態(tài)“污染”。

粗暴爽文與“魔改”視頻數(shù)量激增

濟南市民常朔近期發(fā)現(xiàn)，上初二的兒子經(jīng)常在網(wǎng)上看AI生成的各類爽文，比如主人公在校園以暴制暴替同學(xué)“復(fù)仇”，或不愛學(xué)習(xí)最后卻能高分“碾壓”別人。“這類爽文語言浮夸，很多價值觀有問題，卻讓人很上癮。”常朔向記者表示。

記者通過搜索引擎檢索“校園復(fù)仇”“校園逆襲”等關(guān)鍵詞，大量爽文隨即出現(xiàn)。在一些網(wǎng)絡(luò)社群中，有不少青少年索要這類文章的“資源”。在一些低劣文章的結(jié)尾，還留有AI生成的說明。

出版行業(yè)從業(yè)者林菁菁說，與此前流行的網(wǎng)絡(luò)文學(xué)相比，近兩年出現(xiàn)的AI爽文寫作門檻低，只需輸入故事大綱、人物等指令，在大模型中加以訓(xùn)練，就能生成相應(yīng)文章。這類內(nèi)容主要靠主人公逆襲、反派崩潰跪地求饒等夸張劇情吸引眼球，實則是批量生成、粗制濫造。

不少學(xué)生家長認為，青少年時期是價值觀形成的關(guān)鍵時期，AI生成的很多文章渲染“暴力沖突”“物質(zhì)攀比”等畸形觀念，可能催生偏激心態(tài)與二元對立思維。

記者發(fā)現(xiàn)，“數(shù)字泔水”不止限于文字類的低劣內(nèi)容，AI技術(shù)近年來還被濫用于視頻“魔改”傳統(tǒng)文化經(jīng)典，造成認知差異。

雖然此前相關(guān)部門對AI“魔改”視頻進行了規(guī)范，但在短視頻平臺上，仍有不少傳統(tǒng)文化經(jīng)典被改得面目全非。例如將《西游記》中人物與西方元素、暴力內(nèi)容詭異組合，或?qū)ⅰ度龂萘x》中不少打斗場面改成“激光大戰(zhàn)”。

北京交通大學(xué)語言與傳播學(xué)院教授張梓軒說，這種戲謔和解構(gòu)不僅會傳播錯誤認知，還會割裂文化傳承，削弱年輕一代的文化認同與歷史敬意，讓孩子與嚴肅閱讀的距離越來越遠。

隨著如“泔水”一樣無用、低劣的信息侵蝕互聯(lián)網(wǎng)生態(tài)，不少人受到潛移默化的影響。首都師范大學(xué)教育政策與法律研究院副院長蔡海龍說，AI生成的垃圾內(nèi)容普遍存在同質(zhì)化、套路化問題，對青少年來說，這種內(nèi)容若長期接觸過多，大腦就會變得懶惰，進而影響人們的思考、創(chuàng)造能力。

揭垃圾信息背后的生產(chǎn)邏輯

目前，人工智能批量炮制出的邏輯混亂、空洞無物的低質(zhì)數(shù)字內(nèi)容已滲透至網(wǎng)絡(luò)的各領(lǐng)域中。為何這類信息會越來越多？

——技術(shù)濫用，制造大量垃圾信息。“29.9元買爽劇制作教程，有專門生成給孩子看的關(guān)鍵詞。”這是記者在一家電商平臺咨詢時客服所說的。該店鋪客服還說：“個把星期就能學(xué)會。”記者看到，電商平臺上“AI短視頻制作教程”很多，有的已售出上千份。視頻制作行業(yè)從業(yè)者高森說，AI技術(shù)在視頻剪輯等領(lǐng)域應(yīng)用很正常，但用來制作低劣、“魔改”類內(nèi)容就偏離了方向。“教程售賣者只考慮謀利，不管購買者拿來做什么，這導(dǎo)致低質(zhì)量、無意義的AI生成內(nèi)容越來越多。”

受訪專家表示，AI技術(shù)的廣泛使用，大幅降低了“數(shù)字泔水”生產(chǎn)門檻。同時，一些低質(zhì)內(nèi)容又被用于AI訓(xùn)練數(shù)據(jù)庫，進一步污染了數(shù)字生態(tài)，形成了“泔水投喂泔水”的惡性循環(huán)。

——“流量貪婪”，滋生灰色產(chǎn)業(yè)鏈條。部分內(nèi)容生產(chǎn)者為賺快錢，在短視頻或社交平臺量產(chǎn)吸引眼球的內(nèi)容收割流量。例如，短視頻平臺中屢次出現(xiàn)給珠峰裝電梯、給黃河設(shè)護欄的惡搞視頻。西藏自治區(qū)網(wǎng)信部門2026年1月發(fā)布的“2025年度西藏網(wǎng)絡(luò)辟謠十大典型案例”中，對部分自媒體通過AI生成編造“珠峰電梯建成測試”“游客乘坐電梯登頂”等信息進行了辟謠。

記者調(diào)查發(fā)現(xiàn)，一些所謂的MCN機構(gòu)會專門分析部分用戶的瀏覽偏好，通過AI工具生成低俗小說、“魔改”動畫、虛假視頻等內(nèi)容，再通過旗下的大量“僵尸賬號”發(fā)布，用獵奇博眼球、以數(shù)量換流量。

——算法之困，難以走出的“信息繭房”。“低質(zhì)內(nèi)容能夠廣泛傳播，也與平臺算法機制密切相關(guān)。”有業(yè)內(nèi)人士透露，一些平臺以點擊量、完播率為核心考核指標，低質(zhì)內(nèi)容只要有短時長、強刺激的特點，就更容易獲得高數(shù)據(jù)反饋。算法則會根據(jù)用戶點擊記錄持續(xù)強化推薦，形成“用戶點擊—算法推薦—更多點擊”的循環(huán)，使人長期接觸同類內(nèi)容，這讓“數(shù)字泔水”對人的“包圍感”越來越強烈。

蔡海龍說，以AI“魔改”視頻為例，它們通常具有節(jié)奏快、刺激強、好理解等特點，契合青少年群體碎片化的媒介使用習(xí)慣。有的人可能只是出于好奇點擊了一個怪異視頻，此后算法就會大量推送同類內(nèi)容，迅速將其困于“信息繭房”，不斷加深其沉浸與依賴。

應(yīng)對生成式AI挑戰(zhàn)需系統(tǒng)治理

中國互聯(lián)網(wǎng)絡(luò)信息中心發(fā)布的《生成式人工智能應(yīng)用發(fā)展報告(2025)》顯示，截至2025年6月，我國生成式人工智能用戶規(guī)模達5.15億人。隨著人工智能走進人們生活，如何抵制“數(shù)字泔水”般的無用信息，無論對平臺還是網(wǎng)民都是考驗。

近兩年，關(guān)于生成式AI的監(jiān)管法律規(guī)章正逐漸完善。國家互聯(lián)網(wǎng)信息辦公室等四部門聯(lián)合發(fā)布的《人工智能生成合成內(nèi)容標識辦法》已于2025年9月1日施行。根據(jù)該辦法，所有利用生成式人工智能技術(shù)產(chǎn)生的文本、圖片、音頻、視頻等內(nèi)容，必須進行顯著標識，以幫助公眾區(qū)分虛擬信息與現(xiàn)實信息。2026年1月1日，新修改的《中華人民共和國網(wǎng)絡(luò)安全法》施行，其中進一步明確了AI內(nèi)容監(jiān)管與平臺主體責(zé)任。

山東大學(xué)哲學(xué)與社會發(fā)展學(xué)院教師王元超說，在監(jiān)管陸續(xù)完善的基礎(chǔ)上，相關(guān)網(wǎng)絡(luò)平臺也要進一步規(guī)范自身行為，對于AI生成的視頻，在顯著位置標注，并過濾有害、垃圾信息。同時，平臺應(yīng)進一步優(yōu)化推薦算法，避免過度向老年人、未成年人等群體大量推送AI生成的低質(zhì)內(nèi)容。對于違反法律法規(guī)、有違公序良俗的內(nèi)容，應(yīng)加強自查并配合監(jiān)管部門堅決防范、打擊。

針對“數(shù)字泔水”對青少年的沖擊，受訪專家認為，學(xué)校和家庭應(yīng)積極引導(dǎo)未成年人多讀紙質(zhì)書，養(yǎng)成學(xué)歷史、讀經(jīng)典的良好習(xí)慣；學(xué)校、媒體和網(wǎng)絡(luò)平臺要多提供適合學(xué)生群體的優(yōu)質(zhì)歷史文化讀物與影視作品，為孩子們營造一片豐饒的“數(shù)字凈土”。

山東煙臺毓璜頂醫(yī)院兒童保健門診副主任醫(yī)師葛靜靜說，未成年人過度依賴網(wǎng)絡(luò)，甚至不想出門、不想完成學(xué)業(yè)，容易發(fā)展為網(wǎng)絡(luò)成癮，導(dǎo)致社交障礙、心理問題等一系列嚴重的后果。家庭、學(xué)校應(yīng)重視這一現(xiàn)象，更好履行監(jiān)護、教育職責(zé)，共同營造健康的成長環(huán)境，避免未成年人過度沉迷網(wǎng)絡(luò)。