作為人工智能領域的新實踐，近年來，利用深度學習、虛擬現實等生成合成類算法制作圖像、音頻、視頻、虛擬場景等信息的深度合成技術，已在多個領域大量應用，伴隨著不斷涌現的使用需求，深度合成內容數量和關注度呈現快速增長態勢。但另一方面，惡意使用該技術生成的音視頻，也顯現出了巨大的破壞力，給個人、企業造成了聲譽損害和財產損失，也對社會、國家安全造成威脅。
近日，清華大學人工智能研究院、北京瑞萊智慧科技有限公司、清華大學智媒研究中心、國家工業信息安全發展研究中心、北京市大數據中心聯合發布《深度合成十大趨勢報告（2022）》（以下簡稱“《報告》”），從技術研究、領域應用、發展趨勢等多個方面，全面深入地介紹和研判深度合成技術及應用帶來的機遇與挑戰，并就其發展與治理給出切實可行的建議和措施。
多個領域落地應用，深度合成內容迎爆發式增長
深度合成的圖像、視頻、音頻、文本等內容，例如熱門影視劇片段、話題明星的換臉視頻等等，具有極強的娛樂性與傳播性，伴隨著技術的發展成熟，越來越多的創作者在互聯網上發布和分享深度合成內容，數量逐年高速增長。
數據說明：在10家國內外平臺中（愛奇藝、騰訊視頻、優酷、嗶哩嗶哩、抖音、快手、微博、YouTube、Twitter、TikTok），以“Deepfakes”等10個中英文關鍵詞進行檢索，并通過URL去重后，統計出數據結果。
以視頻為例，《報告》顯示，在國內外主流音視頻網站、社交媒體平臺上，2021年新發布的深度合成視頻的數量較2017年已增長10倍以上。此外，深度合成內容關注度也呈指數級增長，通過對互動數據進行統計，2021年新發布的深度合成視頻的點贊數已超過3億。
數據說明：在10家國內外平臺中（愛奇藝、騰訊視頻、優酷、嗶哩嗶哩、抖音、快手、微博、YouTube、Twitter、TikTok），以“Deepfakes”等10個中英文關鍵詞進行檢索，并通過URL去重后，將具有視頻分類標簽的數據進行統計得到的分析結果
正因為如此，深度合成在影視制作、廣告營銷、社交娛樂等領域發展出多元化的商業應用，例如AI合成主播、虛擬偶像、修復歷史老照片、影視劇本地化配音、“數字復活”已過世演員等。
一些面向公眾開發的合成類產品也陸續推出，《報告》顯示，視頻、語音和文本形式的服務最為普遍，例如支持風格定制的特效視頻制作軟件等風靡網絡；語音方向衍生出了語音導航、有聲讀物、自動新聞播報等應用；文本合成則在新聞報道、詩文創作、聊天問答等方面發揮著重要作用。
風險加劇，技術檢測成重要應對舉措
深度合成激發了新內容創造力的同時，也帶來了新的威脅。隨著技術逐步“平民化”，不法分子可輕易偽造音頻、視頻，實施誣陷、誹謗、詐騙、勒索等違法行為，甚至捏造國家政要言論擾亂社會與政治秩序。
2021年10月，安徽合肥警方曾查獲一起非法利用深度合成技術偽造手機用戶人臉動態視頻破解身份核驗，為黑灰產業提供注冊虛擬手機卡等技術支撐的案件。近年來，類似事件開始更多的進入公眾視野。
深度合成內容模糊了真實和虛假的邊界，將對社會信任、媒體信任、政治信任產生巨大的影響。負面風險不斷加劇，如何有效甄別深度合成內容就成為了關鍵，但隨著合成質量的不斷提升，傳統基于生物特征的鑒別方式越來越難以發揮作用。
數據說明：在arXiv中，論文摘要范圍內以“GAN”等16個關鍵詞進行檢索，統計圖像、視頻、音頻、文本合成領域的論文發表數量
《報告》顯示，目前學術界和產業界均已對反深偽檢測投入了大量研究，Meta（原Facebook）、谷歌、微軟等機構均推出了深度合成視頻認證的方法或產品。
構建多維度治理機制，引導深度合成技術良性發展
深度合成技術的良性發展，離不開多維度治理機制的探索。
《報告》顯示，除了發展深度偽造內容檢測技術以外，近幾年來，針對深度合成技術惡意使用所帶來的挑戰，世界各國紛紛出臺相關法律法規，探索深度合成的治理路徑。國際方面，美國從聯邦和州層面進行專門立法，歐盟將深度合成納入《通用數據保護條例（GDPR）》等現有法律框架規制。此外，德國、新加坡、英國、韓國等國家，均有適用于深度合成技術相關犯罪案件審理的法律法規。
我國也在積極探尋有效的治理機制。2019年11月起先后出臺的《網絡音視頻信息服務管理規定》、《網絡信息內容生態治理規定》、《中華人民共和國民法典》、《互聯網信息服務算法推薦管理規定》，均對生成合成類內容等提出了不同程度的監管要求。今年1月，國家網信辦公布了《互聯網信息服務深度合成管理規定（征求意見稿）》，對深度合成內容的用途、標記、使用范圍以及濫用處罰作出了具體規定。
《報告》也建議，各方應當與時俱進落實好新的規范要求，并在此前提下不斷追求技術突破，不斷開拓深度合成技術應用場景，創立示范標桿，形成對人工智能行業整體的帶動效應，從而促進新技術的持續健康發展。
