人工智能浪潮深刻重塑信息內容的生產與傳播方式，“善用”與“善治”成為時代之問。2026中國網絡媒體論壇主題論壇之一的“善用善治：AI內容規(guī)范發(fā)展”主題論壇近日在河南鄭州舉行。論壇聚焦AI內容規(guī)范發(fā)展，集中展示治理成效，深度交流實踐經驗，共商網絡生態(tài)治理長效之策。

　　《100秒致敬故宮百年守護》借助AI技術還原大量歷史資料，創(chuàng)造了精彩的古今“同框”畫面;《AI創(chuàng)意視頻|哪吒敖丙悟空都來了!神話照進現實有“億”點酷》“腦洞大開”，展現大國重器絲滑“變身”中國神話人物;《一覺醒來，蘇軾來到了2025年》讓宋代詞人蘇軾與2025年的四川浪漫相遇，巧妙展現四川的發(fā)展活力……2025中國正能量網絡傳播AI精品案例，生動展現了AI幫助內容創(chuàng)作者提升效率、拓寬想象空間等作用。

　　同時，人工智能被濫用的風險也隨之凸顯，成為網絡生態(tài)治理的新課題。中國政法大學教授、數據法治研究院院長時建中說：“當技術被濫用，看見不再為憑，聽見不足為信。”深度偽造侵蝕信任基石�，F實中，有的商家未經授權，用AI合成明星、主持人、專業(yè)人士的肖像、聲音，冒充其推薦產品，不僅侵害個人權益，更涉嫌商業(yè)欺詐。

　　AI大模型的價值觀和輸出質量高度依賴訓練數據。北京智譜華章科技股份有限公司首席執(zhí)行官張鵬說，大模型訓練數據中若存在偏見、誤差，可能通過連續(xù)輸出潛移默化地影響受眾認知。中國科學院院士、北京航空航天大學教授、未來區(qū)塊鏈與隱私計算高精尖創(chuàng)新中心主任鄭志明指出，來源不可證、邊界不可控、責任不可歸、過程不可審，是AI內容治理的深層難題。

　　AI技術大幅降低內容生產門檻，導致互聯(lián)網上同質化、低質化信息爆發(fā)式增長，通過算法實現的個性化信息分發(fā)機制可能加劇“信息繭房”效應。無憂傳媒集團有限公司創(chuàng)始人兼首席執(zhí)行官雷彬藝說：“技術越強大，內容生產者越要有敬畏之心，始終堅持正向的價值導向。”

　　2025年11月28日，中共中央政治局就加強網絡生態(tài)治理進行第二十三次集體學習。這對推動網信事業(yè)高質量發(fā)展，加快建設網絡強國具有重大而深遠的意義。頂層設計之下，治理實踐不斷深化。中央網信辦以“清朗”系列專項行動為抓手，針對利用AI技術制作發(fā)布不實信息、色情低俗內容等突出問題強力出擊，推進大模型生成內容規(guī)范管理。

　　與此同時，法治基礎不斷夯實。去年，國家網信辦等4部門聯(lián)合發(fā)布的《人工智能生成合成內容標識辦法》，配套的強制性國家標準《網絡安全技術人工智能生成合成內容標識方法》同時出臺，兩者于2025年9月1日起正式施行。這一套組合拳構建了“源頭標識—分發(fā)審核—傳播核驗—用戶聲明”的協(xié)同治理閉環(huán)，成功將原則性要求轉化為可落地執(zhí)行的治理實踐。信息內容領域法規(guī)制度文件陸續(xù)制定出臺，治理體系愈加完善，治理效能日益彰顯。

　　技術帶來的問題，最終需要依靠技術來解決。鄭志明系統(tǒng)闡述了“可信智能”的技術框架，即通過區(qū)塊鏈技術實現確權、存證、溯源與歸責，通過隱私計算保障高價值數據“可用不可見、可算不可泄”，通過內容治理從“大而全”走向“準而專、穩(wěn)而可控”實現精準智能，將治理嵌入內容生成的“前、中、后”環(huán)節(jié)。

　　眾多企業(yè)探索將AI技術轉化為治理利器。騰訊推出“青禾守護”，通過強化學習等方式將大量樣本注入大模型，讓大模型能更好地實現風險及時篩查，并構建社交與信息流主動防御系統(tǒng);抖音啟動“智盾計劃”，利用大模型技術從熱點、異常流量、特定情緒等全局視角研判網絡暴力風險，實現從被動響應到主動防御的跨越;百度研發(fā)“清流鑒”產品，依托文心大模型，從多模態(tài)智能檢測、內容溯源追蹤、AI+人工協(xié)同驗證3道防線入手，助力公眾識別深度偽造內容與網絡謠言;人民網“天目”智能識別系統(tǒng)，探索“用AI治理AI”的內容風控新模式，檢測深度偽造內容，追蹤合成手段來源。

　　語料筑基與行業(yè)自律，共同構建健康生態(tài)的基石。武漢理工數字傳播工程有限公司創(chuàng)始人、執(zhí)行總裁施其明強調，高質量專業(yè)語料將決定模型能力的上限，成為國際AI競爭格局的分水嶺和重要變量。他建議，以出版業(yè)為切入口，利用其審核嚴格、文本完整、體系完善的優(yōu)勢，構建自主可控、健康有序的中文AI高質量語料供給體系。論壇上，與AI內容發(fā)展相關的52家企業(yè)還集體簽署了《AI生成合成內容自律公約》，齊心協(xié)力守底線、促共治。