發布時間： 2025-11-18 15:38 來源：法治日報
中國青少年研究中心2025年對全國7個省份的8500余名未成年人進行的調查顯示，超過六成未成年人使用過AI。有兩成多的未成年人存在“想依賴AI，不想自己思考”的惰性，兩成多傾向于“只和AI聊天，不愿與真人交流”，還有兩成多因為過度使用AI感到焦慮。這些數據暴露出未成年人接觸AI易產生影響獨立思考、抑制真實社交、依賴與沉迷等問題。
| ? |
近年來，我國政府高度重視未成年人網絡安全保護工作，采取了一系列積極舉措，不斷完善政策法規體系。2019年，國家網信辦發布《兒童個人信息網絡保護規定》，對兒童個人信息權益予以重點保護。新修訂的未成年人保護法于2021年6月1日起正式實施，專門創設“網絡保護”專章，進一步強化了對未成年人網絡內容的監管，加強了個人信息保護，并針對網絡沉迷問題制定了專門規定。2024年1月1日，我國第一部專門性的未成年人網絡保護綜合立法《未成年人網絡保護條例》正式施行。該條例旨在為未成年人提供更加安全、有益的網絡空間，確保他們的合法權益得到充分保障，促進其身心健康成長。
有部分AI工具正在探索未成年人保護模式。例如，今年8月26日，字節跳動公司旗下AI工具豆包正式上線未成年人保護模式。家長輸入密碼開啟該模式后，推薦視頻、瀏覽第三方網頁和豆包以外的智能體對話、AI創作功能將被默認關閉，而翻譯、深入研究等功能仍可正常使用。
□ 本報見習記者 于天航
□ 本報記者 張守坤
“通通通通撒呼啦”“哩哩哩辣力辣”……天津市河東區某小學生家長李女士發現，自己的孩子最近總是念叨著這些宛如神秘咒語的詞匯。經了解，李女士才知道，這些看似無意義的音節，實則是幾幅AI生成的動畫形象的名字，“Tung Tung Tung Sahur”(音同“通通通通撒呼啦”)是所謂的“木棒人”，“Lirili larlla”(音同“哩哩哩辣力辣”)是“仙人掌象”，“Tralalerotralala”(音同“特拉辣累嘍特拉拉辣”)是“耐克鞋鯊魚”。諸如此類由AI拼接而成的形象還有很多，它們被孩子們統稱為“外國山海經”或者“AI山海經”。
“孩子仿佛‘著了魔’，口中時不時蹦出來這些詞語，跟他一起玩耍的小朋友們也都如此。這些將毫不相干元素強行拼湊出的怪異形象，為何能在孩子們的圈子里流行起來？”李女士說，“外國山海經”不僅造型詭異，更夾雜不少暴力、血腥詞匯和內容，“孩子或許并不理解其中的含義，但會模仿學習，很容易對他們產生負面影響”。
《法治日報》記者調查發現，近期，“外國山海經”“AI山海經”等AI魔改(指利用AI技術對原作品進行大幅或顛覆性改編的行為)內容在網絡上迅速走紅，甚至滲透到低齡群體中。與此同時，包含血腥暴力、惡搞低俗內容的“邪典動畫”也借助AI技術卷土重來。部分經AI魔改后的內容還被制作成商品，在電商平臺銷量不俗。
“外國山海經”成社交密碼
今年暑假，山東的韓女士在家休息時，6歲的侄子小宇突然問她：“姑姑，中國也有山海經嗎？”這個問題讓韓女士一時語塞——小宇的書包上掛著“耐克鞋鯊魚”掛件，房間里也擺滿了各種造型怪異的玩具。這孩子第一次接觸“山海經”的概念，竟然是通過這些外來的且由AI生成的產物。
韓女士告訴記者，小宇接觸“外國山海經”的主要原因是班級里的流行風潮。“孩子們都在聊這些，他想融入集體，只能主動去了解。”韓女士曾嘗試向侄子介紹真正的《山海經》，但小宇并不感興趣，甚至還說“山海經就是國外的，中國的山海經一點兒也不好看”。
在韓女士看來，短視頻平臺的推波助瀾是導致孩子沉迷其中的重要原因之一。小宇平時喜歡的內容都是短視頻平臺頻繁推薦的。受這些內容的影響，小宇已經出現了明顯的模仿行為，“經常模仿視頻里怪異形象的動作，覺得很帥，還會時不時念叨里面的‘咒語’”。
韓女士說，為了糾正孩子的認知，其父母也曾嘗試限制小宇刷短視頻的時間，刻意引導他觀看優質動畫，耐心講解不良內容的危害，但收效甚微。“我能理解他想融入集體的心情，但眼睜睜看著他被這些內容所影響，我真的很著急。”
李女士注意到，很多由AI生成的圖片和視頻風格詭異，其中不乏“殺死”“燒死”等暴力詞匯，以及“用刀砍人”等危險動作。
記者嘗試發現，“外國山海經”等AI圖片和視頻制作流程十分簡單。在多款常見的AI視頻網站上，用戶只需向AI發送基礎的人物形象圖片，再通過文字描述想要生成的圖片內容，發送指令即可獲得對應的圖片；隨后將生成的圖片作為關鍵幀，補充描述兩個關鍵幀之間的畫面變化細節，便能快速生成一段動態視頻，還可加入音效和背景音樂。
“邪典視頻”卷土重來
廣東的梁先生有個3歲的女兒，他偶爾會讓女兒玩一會兒手機。女兒還不認字，常在短視頻平臺上刷視頻或者動畫片。
然而，他最近發現，女兒頻繁被短視頻平臺推送動畫風格的“邪典視頻”。“這些視頻大多是卡通或3D風格，很吸引小孩子，但是卻暗藏著很多令人不適的畫面。”梁先生舉例說，視頻中存在殘害肢體、角色從高處墜落等血腥場景，甚至有“把自己的眼珠子挖出吃掉”這樣的可怕畫面。
“有些內容成年人看了都覺得不適，更何況3歲的孩子。我很擔心這類視頻會對孩子造成不良影響。”梁先生說。為了屏蔽這類內容，他曾嘗試投訴視頻、點擊“不喜歡”，但相關內容仍會被持續推送給孩子。
浙江省的俞女士也發現，孩子在觀看超級飛俠、奧特曼等正版動畫片后，平臺會自動彈出一批顏色鮮艷卻毫無營養的衍生視頻，其中不乏“奧特曼懷孕”“小豬佩奇打骷髏”等暴力惡搞內容。
俞女士擔憂地說：“我擔心長期接觸這類短視頻，會影響孩子的認知能力和專注力。現在他對篇幅稍長的繪本、書籍已經有了排斥心理，根本沒有耐心看完。”為了減少這些不良視頻對孩子的侵蝕，俞女士不僅向孩子反復強調這類視頻的危害，還盡量下載正版動畫片供孩子觀看。“平臺審核太不到位了，這種惡搞經典動漫角色的視頻應該被嚴格限制。”
有一名曾在某視頻公司任職的受訪者向記者透露，其前公司就在制作這種類型的視頻，旗下幾百個視頻號都在持續推送“邪典動畫”。這類視頻實際是將經典的動漫人物進行二次創作。AI技術的普及大幅降低了制作門檻。使用AI生成的視頻色彩鮮艷，更吸引兒童。“未成年人流量在平臺占很大比重，這類視頻不僅曝光度高，流量表現優異，甚至能獲得平臺支持。這類視頻在創作時為博取關注，內容套路化嚴重：以動漫角色為外殼，填充戀愛情節或暴力沖突、混戰場面。由于兒童的判斷能力有限，容易信以為真。”
這名受訪者還強調，平臺算法助推不良內容形成傳播閉環——“孩子一旦刷到觀看，平臺就會推送更多同類內容。”
另一類“邪典視頻”是對中華優秀傳統文化進行歪曲和污名化的。比如，《紅樓夢》中的人物在進行“魔法戰爭”，《三國演義》兩軍對壘演變成“激光大戰”等，經典作品的核心內涵被徹底顛覆。
有專家指出，AI魔改對經典的傷害早已超越內容層面，它將“低俗獵奇”包裝為“趣味創新”，逐步侵蝕文化傳承與下一代成長的健康土壤，甚至可能在他們心中埋下“經典可隨意解構”“歷史可肆意戲說”的錯誤認知。
AI魔改催生畸形產業鏈
值得注意的是，記者發現，在社交平臺有關帖文和短視頻平臺評論區，有許多用戶公然教學如何用關鍵詞讓AI生成大尺度圖片，其中部分內容涉及未成年人。比如在“×夢”等AI工具上，雖然直接用“未成年人”“兒童”等關鍵詞無法生成敏感照片，但如果替換成其他關鍵詞，即可免費生成包含性暗示等元素的“二次元”風格的兒童軟色情圖片，甚至出現“兒童懷孕”等惡劣內容。
此外，記者調查發現，一些AI魔改內容已經實體化，逐漸“侵入”現實世界。
比如，以“外國山海經”為關鍵詞在電商平臺檢索，有不少形象被印在衣服上或做成盲盒、積木等產品售賣。有些商品標簽直接標注“給孩子的禮物”“兒童玩具”等詞語。還有些商家表示可以制作AI生成手辦定制照片，商品展示圖衣著暴露、動作挑逗，并且未作年齡區分。
“外國山海經”衍生出的相關產品還會引發未成年人之間的“隱性”攀比。韓女士介紹，這種盲盒價格便宜的單價僅一兩元，價格低廉卻在孩子間引發收集熱潮。“孩子們聚在一起玩耍的時候，如果別人有自己沒有，孩子會產生心理落差，甚至遭到排擠。”
記者在多家網購平臺檢索“山海經玩具”發現，這類盲盒產品銷量較高。某店鋪一款包含24盒的盲盒公仔售價僅11.99元，付款人數已超2萬，低廉的價格與可觀的銷量進一步助推其在校園中的流行。
此外，還有一些知名游戲IP推出與“外國山海經”聯名的盲盒、卡牌。有小學教師反映，學生頻繁向家長要錢，只為購買同學手中的“外國山海經”卡牌——這類卡牌已成為小學生群體中的“社交貨幣”。據學校周邊的文具店店主透露，此類卡牌的銷量遠超其他品類。
“希望平臺和相關部門加強監管，我們家長也要負起責任，把不良AI魔改內容隔絕在外，讓技術發揮正確價值。”采訪中，有家長如是說。
治理“AI魔改”，平臺與企業應承擔起“守門人”責任
□ 蔡海龍
近日，一些針對經典文學形象和動畫主角的AI魔改視頻頻繁現身網絡平臺，在部分青少年群體中掀起一輪流量熱潮。這些視頻中的角色，有的外形怪誕低俗、名稱晦澀難懂；有的形象詭異驚悚，充斥暴力與血腥元素；更令人擔憂的是，其中部分內容已被商家快速轉化為線下產品，進入學校周邊文具店，成為熱銷的商品，甚至演變為學生之間的“社交貨幣”。
這些內容荒誕、邏輯混亂的視頻之所以受到青少年追捧，進而發展成為一種流行于學生群體間的亞文化，其原因并非單一的審美降低或被動“投毒”，而是其身心發展階段特質、學業壓力與媒體環境等多重因素共同作用的結果。
首先，青少年處于自我同一性建立的關鍵期，往往伴隨對規則與權威的質疑。此類內容以獵奇與解構的方式，滿足其低風險反抗的心理需求。特別是在學業競爭與成長規訓的雙重壓力下，這類視頻極易成為他們情緒宣泄的出口。
其次，青少年渴望身份認同與群體歸屬感。分享主流視野之外的符號與“暗語”，有助于他們迅速形成亞文化圈層，從而強化其群體歸屬感，這正是AI魔改內容演變為“社交貨幣”的內在邏輯。
AI魔改視頻的流行還與短視頻平臺的推薦算法密切相關。AI魔改作品通常具有節奏快、刺激強、認知負荷低等特點，契合青少年碎片化的媒介使用習慣。青少年可能只是出于好奇點擊了一個怪異視頻，算法就會立刻大量推送同類內容，迅速將其困于信息繭房，不斷加深其沉浸與依賴。
從現實影響來看，AI魔改內容對青少年的危害是多維的，不僅造成審美降級與情感鈍化，還會扭曲其道德和價值觀念，構成一種利用技術優勢對未成年人實施的系統性侵害，違背了“兒童利益最大化”原則。具體而言，它侵犯了以下三項兒童基本權利：
第一，侵犯兒童發展權。根據聯合國《兒童權利公約》，兒童有權獲得促進其全面發展的信息。而AI魔改內容作為數字糟粕，擠占了其接觸優質文化資源的空間，阻礙其安全感、同理心與健康審美的養成，直接妨害兒童心智發展。
第二，侵犯兒童受保護權。這些內容荒誕不經、充斥暴力血腥畫面的魔改作品，不僅對兒童造成直接精神傷害，其背后更隱藏著以流量經濟和黑色產業鏈為核心的商業剝削，實質上是利用兒童辨別能力弱的特點不當牟利。
第三，扭曲兒童參與權。兒童本應有權參與、繼承和發揚有益的文化，并在安全的數字環境中學習成長。而AI魔改內容將其文化參與扭曲為對“賽博垃圾”(借助AI生成的低質量產品)的追捧，污染了其學習與娛樂空間，限制了其開展正常、有益的數字生活的可能。
AI魔改現象是AIGC(人工智能生成內容)浪潮下，對未成年人權利保護提出的一個重大挑戰。要有效治理這一現象，網絡平臺和相關企業應當承擔起作為“守門人”的法定責任。
網絡平臺是AI魔改內容傳播與變現的首要場域，必須承擔起“防火墻”責任。平臺應履行算法與推薦的向善責任，杜絕以流量為導向向未成年人推送低俗、暴力內容，確保算法遵循“兒童利益最大化”原則；要落實內容與模型的清污責任，主動運用技術手段清理存量“賽博垃圾”，并從源頭嚴控AIGC生成不良信息；要強化“青少年模式”的內容凈化功能，確保內容池純凈適齡，徹底屏蔽AI魔改類視頻；還需承擔商業鏈條的防護責任，禁止相關賬號借助此類內容掛載商品或帶貨，同步屏蔽關鍵詞并清理違規商家。唯有如此，方能守護未成年人的網絡安全與身心健康。
相關企業作為內容與產品的源頭，必須承擔起守法與自律的責任。在生產與設計環節必須建立兒童保護機制，主動拒絕生產和設計怪誕、低俗、侵權化產品；線下銷售環節應履行進貨查驗義務，杜絕有害周邊進入校園市場；線上銷售環節則需平臺落實自清責任，依法及時下架違規商品，否則將面臨處罰。
要從根本上治理AI魔改問題，亟須構建一個由政府監管、企業主責、家庭監護、學校教育共同組成的“四位一體”社會共治體系。政府部門應當發揮監管者和執法者的作用，網信部門統籌網絡保護，壓實平臺責任；市場監管部門負責清理線上線下有害周邊產業鏈；新聞出版與廣電部門則通過疏堵結合策略，推動優質內容的生產與傳播。企業和平臺作為第一責任人，必須從被動應付轉向主動防御，利用技術手段清理不良內容，切斷商業變現鏈條，持續優化未成年人模式，為未成年人提供純凈的網絡環境。家庭是未成年人保護的第一道防線，家長應切實履行監護職責，通過陪伴、內容篩選和善用工具，培養孩子的批判性思維與審美能力。學校作為媒介素養教育的主陣地，應開設網絡素養相關課程，并發揮家校協同的橋梁作用。只有政府、企業、家庭、學校四方協同、環環相扣、各盡其責，才能真正織密未成年人的保護網，將AI魔改這類“精神毒品”徹底隔絕在未成年人的成長環境之外。
責任編輯：楊卉松
審 核：董雪婷
統 籌： 張宇
監 制： 曲立偉
圖片版權歸原作者所有，如有侵權請聯系我們，我們立刻刪除。
