當前，AI換臉與擬聲技術的濫用已成為數字時代亟待解決的侵權難題。

據媒體報道，2025年8月30日，女臺球運動員王思諾發布視頻稱，自己遭人惡意利用AI人工偽造淫穢視頻并傳播。她鄭重聲明，所有此類視頻及內容均為非法偽造，她已委托律師保全證據啟動法律程序。

AI技術被不法分子用于仿冒名人的現象并非個例。此前已有多名運動員、知名藝人及院士遭遇AI仿冒。據央視新聞2025年3月16日報道，中國工程院院士、天津中醫藥大學名譽校長張伯禮的肖像與聲音就曾被AI技術偽造，用于某美白護膚品推廣視頻。

另據梳理，8月18日，某平臺博主 “我是小助理吖” 發布的17條作品中，均為AI仿冒奧運冠軍全紅嬋聲音帶貨土雞蛋的視頻，其中一條視頻點贊量達1.1萬。

面對技術濫用，9月1日起，國家網信辦、工信部等4部門印發的《人工智能生成合成內容標識辦法》（以下簡稱《標識辦法》）施行。該辦法明確所有AI生成的文字、圖片、視頻等內容都要“亮明身份”。

西南政法大學人工智能法學院教授、博士生導師朱福勇表示，該辦法的出臺，為AI治理提供了關鍵的制度支點，其核心就在于確立了“標識義務”。這相當于給所有AI生成內容上了一張“數字身份證”，讓公眾能夠清晰識別內容的來源和性質。

01 所有AI生成內容須打上標識

人工智能生成合成內容標識包括顯式標識和隱式標識。顯式標識是直接呈現給用戶的標識，通常以文字、聲音、圖形等形式出現。隱式標識則是通過技術手段嵌入到生成內容的文件元數據中，主要用于內容溯源、侵權追蹤等需要確保內容來源可靠性的場景。

《標識辦法》規定，任何組織和個人不得惡意刪除、篡改、偽造、隱匿本辦法規定的生成合成內容標識，不得為他人實施上述惡意行為提供工具或者服務，不得通過不正當標識手段損害他人合法權益。

“這些禁止性規定為市場主體劃定了紅線，觸及紅線將面臨處罰。”同濟大學法學院副教授、上海市人工智能社會治理協同創新中心研究員陳吉棟表示，標識的作用就是找到行為主體，為相關責任的歸屬提供客觀的依據。

此外，《標識辦法》還明確，平臺在服務提供者的內容上架或上線時要進行審核，核驗生成合成內容標識，對未標識或疑似生成內容要添加風險提示，從而在傳播端阻斷虛假信息擴散。

在此項新規落地前后，各社交媒體平臺均制定了相關細則。

8月29日，B站發布公告稱，推出AI生成合成內容標識功能，幫助大家更便捷地區分內容是否涉及AI生成。9月1日，快手發布公告表示，平合已上線AI內容標識并會在內容周邊進行顯著提示。

同日，抖音發布的《關于升級AI內容標識功能的公告》稱，平臺已上線兩項核心功能：一是AI內容標識功能，協助創作者為AI內容添加提示標識，方便用戶辨別；二是AI內容元數據標識讀寫功能，可識別并寫入AI內容的元數據信息，為內容溯源提供技術支撐。此外，若創作者未主動添加標識，平臺將輔助添加標識說明。

02 AI造假原因何在？

實際上，上述生成合成內容未依法標識所造成的侵權行為只是AI造假的一類。朱福勇表示，從類型上看，AI造假已滲透到多個領域。從法律行為的定性角度來看，除卻上述行為，AI造假還可劃分為三類。

第一類是深度偽造類造假，包括偽造人臉、聲音、視頻等。這類行為可能構成對公民肖像權、姓名權、聲音權益的民事侵權。更進一步，如果以此騙取財物，可能構成詐騙罪。

第二類是數據與內容造假，這一造假行為更為隱蔽但影響范圍廣。朱福勇舉例，如不法分子利用AI批量生成虛假評論、刷高店鋪銷量、偽造實驗數據或學術論文等。這類行為首先沖擊的是市場秩序和學術誠信，其法律后果可能包括違反《反不正當競爭法》、《電子商務法》中的禁止虛假宣傳條款，以及各大科研機構與期刊的《學術誠信規范》，構成商業欺詐或學術不端行為。

用AI“批量化”生產謠言已成為一種牟利手段。2024年4月14日，公安部通報了一起MCN機構利用AI造謠的案例，江西男子王某江經營5家MCN機構，運營自媒體賬號842個，組織團隊利用AI工具批量生成虛假消息，單日產量高達4000至7000篇，其中一條最高收入可達700元，日均收入超過1萬元。

“第三類則是身份冒充與社交工程攻擊。這是危害最直接、最具破壞性的一類。”朱福勇表示，不法分子利用AI模仿親友或領導的聲音、形象，通過電話或視頻提出轉賬匯款的要求。由于仿真度極高，受害人極易上當。

“這種行為已遠超出了侵權的范疇，其目的就是非法占有財物，本質上就是傳統的詐騙犯罪，只不過利用了AI這一新型工具，因此應直接以詐騙罪定罪量刑。”朱福勇說。

Ai造假亂象頻現，是否是合成生成技術門檻降低所致？朱福勇表示，AI亂象頻發并非僅因“技術簡單”，而是端到端生態失衡的結果：低成本生成 + 高效分發 + 快速變現 + 相對滯后的統一標識與證據鏈規范。

“該鏈條形成了低門檻、低成本、低風險與快訓練、快生產、快分發以及難溯源、難取證等情況。”朱福勇說。

其中，治理側方面，存在“檢測—標識錯位”問題。朱福勇表示，目前，大多數平臺在AI生成內容自動識別、違規證據固定及跨平臺聯動處理等能力上，遠不及AI生成技術的發展速度。并且，標識體系在統一前存在口徑不一、覆蓋不全與易被二次處理“抹去”等問題，造成發現難、證據弱。

值得一提的是，上述《標識辦法》針對人工智能生成合成標識的技術實現方式給出了更加細致、精準的指引，并配以具體的實現范例。例如視頻內容顯式標識要求，文字提示高度不低于畫面最短邊的5%，持續時間不少于2秒等。

朱福勇指出，隨著上述《標識辦法》實施，顯式+隱式“雙標識”與“傳播端補標/攔截”要求將抬高繞標與復用的難度，配合《互聯網信息服務深度合成管理規定》的實名、審核、辟謠機制、《生成式人工智能服務管理暫行辦法》的數據與個保前置義務、《互聯網信息服務算法推薦管理規定》的反操縱與未成年人保護規則，行業的“灰度空間”將會被持續壓縮。

03 如何監管？

如何既擁抱創新又規避風險是當前AI治理的核心難題。

對此，朱福勇建議，應當通過“分級監管、雙標識硬約束以及責任界定清晰且不過度連帶”的組合策略，在為創新預留空間的同時，實現AI監管的可預期與可追責。

其核心是把比例原則與責任分配落實在可運行的制度上。朱福勇談到，科研與內部測試環節應秉持審慎態度，嚴格履行備案流程。一旦相關成果面向公眾，便進入硬規則軌道，需落實“顯式 + 隱式”雙標識、實名核驗、內容審核以及應急處置等措施。

其次，在生成端要讓用戶能夠清晰看到標識；在存證端要確保監管部門和法院能夠查詢到相關信息；在傳播端則采用“未標不傳/先補標”的網關兜底，同時通過統一元數據與開源校驗實現平臺間互認，降低合規摩擦。

責任劃分方面，朱福勇指出，AI服務提供者負有前置合規責任，需確保合法開展訓練、獲得用戶單獨同意，并做好未成年人保護與糾偏等工作。平臺作為傳播的關鍵環節，負有注意義務閉環責任。平臺要精準識別并及時處置違規內容，做好留痕上報工作，且不得操縱內容呈現或進行“大數據殺熟”。此外，商家在使用數字代言、仿聲等技術時，應完成權利盡調并做好追償約定。用戶方面，其明知違法仍使用AI內容，則需自行承擔相應責任，而平臺在已盡合理注意義務的情況下，不承擔過度連帶責任。

不過，在整治AI生成內容濫用等問題時，也需警惕“誤傷”。目前有網絡用戶反映，自己發布的畫作、文章、視頻等內容均為原創，卻被平臺誤判為“疑似AI合成”，進而面臨作品被限流、下架等問題。

據悉，目前業內在AI低質內容治理方面，占比九成以上的審核工作由機器來完成，機器審核準確率難以達到100%，仍需人工不斷校準。

據北京日報報道，針對這一情況，業內專家建議，未來平臺應完善復核機制，建立便捷、有效的申訴渠道，如有條件，還可在算法識別基礎上引入專家評估機制，綜合判斷內容是否為AI生成。

此外，作為普通用戶又該如何提高識別AI造假的能力？朱福勇建議，用戶應將進入賬號主頁、瀏覽視頻、點擊購買直至完成支付的整個過程進行錄屏，同時妥善留存相關鏈接、交易時間、交易記錄以及聊天記錄等信息。若遭遇詐騙或產生財產損失，用戶可持這些材料，一方面向平臺反映以尋求處理，另一方面通過公共渠道進行維權。

“總之，用戶要記住四句話：沒標識的不買不轉；交易只在平臺內進行；發現可疑情況先舉報再討論；證據要一次性保留完整。”朱福勇表示，如此一來，用戶不僅能保護好自己，也會倒逼平臺將‘默認帶標、未標不傳、去標必罰’的規定真正落實到位。