“去水印”繞過監(jiān)管 “反標(biāo)識(shí)”生意紅火 AI生成內(nèi)容“持證上崗”為何難落地
2026-01-15 11:17:56
來源：經(jīng)濟(jì)參考報(bào)
分享到
記者從社交平臺(tái)及電商平臺(tái)搜索發(fā)現(xiàn)的AI去水印服務(wù)及工具。制圖 馬莎
針對(duì)AI生成內(nèi)容使用亂象，2025年9月1日《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》施行，明確AI生成內(nèi)容必須添加標(biāo)識(shí)，標(biāo)志著我國(guó)AI生成內(nèi)容邁入“持證上崗”的規(guī)范化時(shí)代。
如今新規(guī)落地已過百日，盡管各大平臺(tái)陸續(xù)上線標(biāo)識(shí)功能并配套相應(yīng)管理措施，但記者調(diào)查發(fā)現(xiàn)，短視頻、圖文筆記、直播間，仍有許多AI內(nèi)容未亮明身份，甚至一些原本顯性的違規(guī)行為逐漸轉(zhuǎn)向暗箱操作，深度偽造技術(shù)與黑灰產(chǎn)結(jié)合愈發(fā)緊密……標(biāo)識(shí)制度在執(zhí)行層面仍面臨重重挑戰(zhàn)。
標(biāo)識(shí)落地顯成效
行業(yè)治理邁新階
家住甘肅省蘭州市的王浩（化名）去年8月在社交平臺(tái)發(fā)布了一條“喜提邁巴赫”的AI合成視頻后，多年未聯(lián)系的“老同學(xué)”打來電話祝賀并向其張口借錢。王浩坦言，這條視頻如果晚發(fā)一個(gè)月，就不會(huì)鬧出這樣的笑話?！皼]有AI標(biāo)識(shí)，很多人當(dāng)真了?！?/p>
“作品由AI生成”“內(nèi)容存在AI成分注意甄別”……自去年9月《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》正式施行以來，AI生成內(nèi)容全面進(jìn)入“持證上崗”的時(shí)代。一方面，針對(duì)可能導(dǎo)致公眾混淆或者誤認(rèn)的內(nèi)容，要求添加顯式標(biāo)識(shí)；另一方面，要求服務(wù)提供者在生成合成內(nèi)容的文件元數(shù)據(jù)中添加隱式標(biāo)識(shí)，為內(nèi)容溯源與責(zé)任認(rèn)定提供技術(shù)保障。
中國(guó)互聯(lián)網(wǎng)絡(luò)信息中心發(fā)布的《生成式人工智能應(yīng)用發(fā)展報(bào)告（2025）》顯示，截至2025年6月，我國(guó)生成式人工智能用戶規(guī)模達(dá)5.15億人，較2024年12月增長(zhǎng)2.66億人，用戶規(guī)模半年翻番。
記者梳理發(fā)現(xiàn)，各大網(wǎng)絡(luò)平臺(tái)均已構(gòu)建起各具特色的AI標(biāo)識(shí)實(shí)施機(jī)制。抖音、今日頭條、快手等內(nèi)容平臺(tái)在發(fā)布界面增設(shè)“AI生成內(nèi)容聲明”選項(xiàng)，用戶勾選后將在作品標(biāo)題下方顯示統(tǒng)一標(biāo)識(shí)。喜馬拉雅等音頻平臺(tái)也采用了“片頭提示+文字標(biāo)注”等形式，對(duì)AI合成語音內(nèi)容進(jìn)行明確標(biāo)識(shí)。
西部一所高校的AI治理團(tuán)隊(duì)2025年四季度做的一項(xiàng)抽樣調(diào)研顯示，AI標(biāo)識(shí)政策落地后，用戶對(duì)未知來源內(nèi)容的“質(zhì)疑意識(shí)”提升了近40%。此外，由于隱式標(biāo)識(shí)能快速鎖定內(nèi)容的生成工具和傳播節(jié)點(diǎn)，該團(tuán)隊(duì)參與的一起跨境AI虛假新聞溯源案例中，追責(zé)周期從過去的平均72小時(shí)縮短至12小時(shí)。
甘肅慧聯(lián)信息科技發(fā)展有限責(zé)任公司總經(jīng)理王雪蓮表示，AI標(biāo)識(shí)政策的實(shí)施，破解了AI內(nèi)容“難識(shí)別、難追溯”的行業(yè)痛點(diǎn)，在政策引導(dǎo)下，從平臺(tái)合規(guī)到用戶認(rèn)知，從技術(shù)研發(fā)到行業(yè)自律都呈現(xiàn)出向好的積極態(tài)勢(shì)。
黑灰產(chǎn)鉆營(yíng)牟利
“反標(biāo)識(shí)”亂象升級(jí)
“但AI偽造仍未根除，技術(shù)更高明，手段更隱蔽，標(biāo)識(shí)治理面臨‘道高一尺魔高一丈’的現(xiàn)實(shí)挑戰(zhàn)?！蓖跹┥徴f。
“AI偽造爛水果騙取‘僅退款’薅羊毛”“一位明星穿梭8個(gè)直播間來回帶貨”……業(yè)內(nèi)人士認(rèn)為，AI偽造已從“一眼假”逐步實(shí)現(xiàn)高擬真段位升級(jí)，且背后已滋生分工明確、收益可觀的完整黑灰產(chǎn)鏈條。
記者在各大電商平臺(tái)和社交媒體上搜索“AI去水印”“無痕除標(biāo)識(shí)”等關(guān)鍵詞發(fā)現(xiàn)，從幾十元的基礎(chǔ)工具到上千元的定制服務(wù)，“明碼標(biāo)價(jià)”的規(guī)避標(biāo)識(shí)“生意”形成黑灰產(chǎn)，各類繞過平臺(tái)檢測(cè)的“反標(biāo)識(shí)”技術(shù)和服務(wù)“隱身術(shù)”持續(xù)迭代升級(jí)。
在某社交平臺(tái)上，一則“AI生圖變現(xiàn)指南”的評(píng)論區(qū)里，一條分享“AI去水印神器”的評(píng)論獲得高贊，點(diǎn)進(jìn)該用戶主頁(yè)，就有明碼標(biāo)價(jià)9.9元、19.9元等不同價(jià)位的去水印工具。記者私信該用戶詢問商品購(gòu)買方法時(shí)，對(duì)方表示要換平臺(tái)加好友下單，且提醒稱“產(chǎn)品屬性特殊，發(fā)貨后不支持退款，若不想使用需自行處理或贈(zèng)予朋友?！?/p>
記者在某電商平臺(tái)搜索相關(guān)產(chǎn)品，一款“萬物皆可去水印”的商品賣家介紹，這款工具能無痕去除98%的AI生成痕跡，尤其是AI視頻的處理。
除不法商家低成本牟利，部分違規(guī)者還利用不同平臺(tái)標(biāo)識(shí)規(guī)則差異，進(jìn)行跨平臺(tái)“零成本”規(guī)避監(jiān)管。
“由于各平臺(tái)的AI識(shí)別技術(shù)水平和標(biāo)識(shí)要求不同，在A平臺(tái)被要求標(biāo)注的內(nèi)容，通過格式轉(zhuǎn)換后在B平臺(tái)發(fā)布就很有可能繞過檢測(cè)?！备拭C省計(jì)算中心副主任沈玉琳說。
記者用一款A(yù)I軟件生成一張礦泉水瓶損壞的圖片，保存至手機(jī)相冊(cè)后裁掉AI標(biāo)識(shí)，再將其發(fā)布到社交平臺(tái)時(shí)，并未被檢測(cè)出AI元素。
沈玉琳認(rèn)為，“反標(biāo)識(shí)”技術(shù)正從單一手段向“多元技術(shù)路線與商業(yè)模式并行”的完整產(chǎn)業(yè)鏈形態(tài)升級(jí)，催生元數(shù)據(jù)“深度清零”、格式多輪轉(zhuǎn)碼、標(biāo)識(shí)“露而不顯”等“升級(jí)版”AI仿造亂象。
甘肅政法大學(xué)民商經(jīng)濟(jì)法學(xué)院副教授盛玉華介紹，AI標(biāo)識(shí)政策落地一百多天以來，主流AI服務(wù)已普遍添加顯式標(biāo)識(shí)，溯源能力增強(qiáng)，但處罰標(biāo)準(zhǔn)模糊、技術(shù)檢測(cè)不足仍制約其成效進(jìn)一步釋放。
“一方面，《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》第十三條僅規(guī)定‘依據(jù)現(xiàn)有法規(guī)處理’，缺乏針對(duì)未標(biāo)識(shí)、惡意篡改標(biāo)識(shí)等行為的具體罰則；另一方面，部分平臺(tái)缺乏隱式標(biāo)識(shí)核驗(yàn)工具，難以有效識(shí)別違規(guī)內(nèi)容?！笔⒂袢A說。
多維協(xié)同筑防線
破解AI治理難題
受訪專家及業(yè)內(nèi)人士呼吁，AI治理需在“標(biāo)識(shí)可見”的基礎(chǔ)上，進(jìn)一步筑牢“可識(shí)別、可追溯、可問責(zé)”的縱深防線，從技術(shù)創(chuàng)新、責(zé)任劃分、協(xié)同治理等多維度發(fā)力，應(yīng)對(duì)技術(shù)演進(jìn)帶來的監(jiān)管挑戰(zhàn)。
——完善“不可篡改、全程可溯”技術(shù)硬屏障。北京師范大學(xué)中國(guó)教育與社會(huì)發(fā)展研究院助理研究員蔣艷雙認(rèn)為，目前大多數(shù)平臺(tái)監(jiān)管技術(shù)仍存薄弱環(huán)節(jié)，未來應(yīng)加快推進(jìn)AI標(biāo)識(shí)技術(shù)的標(biāo)準(zhǔn)化，細(xì)化不同平臺(tái)、不同類型內(nèi)容的標(biāo)識(shí)技術(shù)規(guī)范，避免因技術(shù)差異導(dǎo)致監(jiān)管漏洞。
此外，還需進(jìn)一步強(qiáng)化隱式標(biāo)識(shí)的抗篡改技術(shù)升級(jí)，確保標(biāo)識(shí)信息在文件格式轉(zhuǎn)換、二次編輯等操作后仍能有效識(shí)別，整合不同AI工具的生成痕跡，提升對(duì)各類規(guī)避手段的識(shí)別精準(zhǔn)度。
——厘清“生成、傳播、使用”權(quán)責(zé)邊界。盛玉華等人建議，應(yīng)進(jìn)一步細(xì)化《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》中的主體責(zé)任，明確生成合成內(nèi)容服務(wù)提供者、傳播平臺(tái)、分發(fā)平臺(tái)等不同主體的具體義務(wù)。
同時(shí)，強(qiáng)化對(duì)黑灰產(chǎn)的處罰力度，對(duì)惡意刪除標(biāo)識(shí)、偽造標(biāo)識(shí)、提供規(guī)避標(biāo)識(shí)工具、批量篡改標(biāo)識(shí)等行為從重處罰，可探索建立違規(guī)主體“黑名單”制度，將多次實(shí)施規(guī)避標(biāo)識(shí)行為的個(gè)人和企業(yè)納入黑名單，從利益根源上遏制黑灰產(chǎn)。
——構(gòu)建 “政府、公眾、平臺(tái)”治理閉環(huán)。蘭州大學(xué)信息科學(xué)與工程學(xué)院教授楊裔建議，需進(jìn)一步完善舉報(bào)與監(jiān)督機(jī)制，鼓勵(lì)公眾參與AI內(nèi)容治理，建立健全跨平臺(tái)投訴舉報(bào)聯(lián)動(dòng)機(jī)制，實(shí)現(xiàn)違規(guī)賬號(hào)信息共享，避免違規(guī)主體“換平臺(tái)重來”。
此外，還需持續(xù)強(qiáng)化公眾AI素養(yǎng)科普，普及AI內(nèi)容標(biāo)識(shí)識(shí)別方法、常見造假手段及維權(quán)路徑，引導(dǎo)公眾養(yǎng)成“看標(biāo)識(shí)、辨真?zhèn)巍钡腁I使用習(xí)慣。
“多管齊下、層層設(shè)防，各方形成合力織就一張人人參與的治理大網(wǎng)，引導(dǎo)AI技術(shù)告別野蠻生長(zhǎng)的浮躁，真正成為賦能千行百業(yè)的好工具、好幫手?！笔Y艷雙說。（姜偉超 馬莎）
返回頂部