4月12日,公安部公布10起打擊整治網絡謠言違法犯罪典型案例,其中4起典型案例涉及使用人工智能(以下簡稱AI)技術編造虛假信息;4月23日,北京互聯網法院一審開庭宣判AI生成聲音人格權侵權案……
近年來,隨著AI技術的快速發展,越來越多的人在工作生活中開始享受到該技術所帶來的全新體驗,但伴隨而來的是,利用或濫用AI技術從事違法犯罪的活動(以下簡稱AI犯罪)日益增多。
對此,政法機關依法履職,持續深挖徹查AI犯罪,不斷擴大辦案戰果,努力提升打擊治理質效,全力維護人民群眾合法權益。
“政法機關立足主責主業,發揮職能作用,全力打擊治理AI犯罪,防范不法分子利用或濫用AI技術侵犯公民權利、危害公共安全,保證AI技術始終沿著正確的軌道向前發展?!笔锥紟煼洞髮W政法學院法律系副教授崔俊杰對《法治日報》記者說。
AI犯罪“花樣”層出不窮
“電腦AI去衣,白菜價?!?
2023年6月,原是北京一家互聯網公司技術員的白某某,在境外的社交媒體上接觸到了“一鍵去衣”的AI技術,便動起了歪心思。
白某某通過境外的網站發布廣告,在某社交軟件上販賣深度偽造淫穢圖片近7000張,獲利一萬多元。目前白某某已被提起公訴。
“一鍵去衣”究竟是怎樣的一種技術?記者了解到,這項技術并不是真的“去衣”,而是在圖片的基礎上,通過AI自行運算使用相關的淫穢圖像素材對圖片進行重繪,和“AI換臉”“AI變聲”一樣,屬于利用AI深度學習、虛擬現實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等信息的技術。
“電詐犯罪團伙能夠通過AI技術‘換臉’‘變聲’,甚至是‘動態換臉’,增加了傳統犯罪活動的危害性,還產生了新型的違法行為,如使用AI‘繪畫’技術生成的繪畫作品可能會對他人著作權造成侵權?!贝蘅〗鼙硎?,當前AI技術已被不法分子使用于網絡釣魚、深度偽造、繞過身份檢查、“越獄”式服務、人肉搜索和
監視五個方面,進一步降低了犯罪的門檻。
5月6日下午,江西省鷹潭市余江區人民法院公開宣判全國首例“AI游戲外掛”案,依法對被告人王某合以提供侵入、非法控制計算機信息系統程序、工具罪判處有期徒刑三年,緩刑五年。宣判后,王某合表示服從判決,不上訴。
經審理查明:王某合通過制作出售“AI外掛”的方式牟利,2022年,其先后聯系萬某至、張某(另案處理)等人編寫“AI外掛”程序。至案發,王某合非法獲利共計629萬余元。
據悉,該程序可對多款游戲的畫面數據進行未授權獲取,對游戲中處理的鼠標數據指令進行未授權修改,造成玩家在玩游戲時,不用操作就可以“自動瞄準”“自動開槍”,干擾了游戲的正常運行環境,屬于破壞性程序。
在崔俊杰看來,AI技術標準化程度低、可定制性強、應用場景廣泛,不法分子作案手法越發多樣,導致AI犯罪不斷衍生升級,如不及時進行打擊治理,會給網絡安全,甚至廣大群眾的生命財產
安全帶來嚴峻挑戰。
從嚴打擊形成有效震懾
為應對挑戰,政法機關采取一系列措施打擊AI犯罪,維護AI技術良好的發展環境,避免其在應用過程中引發失序和失范。
2023年9月,最高人民法院、最高人民檢察院、公安部聯合發布《關于依法懲治網絡暴力違法犯罪的指導意見》,明確對“利用‘深度合成’等生成式人工智能技術發布違法信息”的情形予以從重處罰。
4月23日,全國首例AI生成聲音人格權侵權案在北京互聯網法院一審開庭宣判,法院認定被告方使用原告聲音、開發涉案AI文本轉語音產品未獲得合法授權,構成侵權,賠償原告各項損失25萬元,并書面賠禮道歉。
6月25日,江蘇省張家港市人民檢察院向市人民法院就一起敲詐勒索、詐騙案件提起公訴。據悉,犯罪嫌疑人所在的境內團伙通過虛擬定位、AI技術合成照片等方式,在交友軟件上將自己包裝成在外國的中國女留學生,隨后以談戀愛等名義,向在國外的留學生索取錢財。目前已查實該團伙敲詐勒索、詐騙50余人,涉案金額達100余萬元。
自最高檢去年11月發布《檢察機關打擊治理電信網絡詐騙及其關聯犯罪工作情況(2023年)》后,各地檢察機關按照相關要求,加大對侵犯公民個人信息尤其是非法獲取人臉、聲紋等敏感信息、利用AI等前沿技術偽造人臉、聲紋以及獲取其他信息犯罪的打擊力度。
此外,全國公安機關去年依托“凈網”專項行動組織專項會戰,嚴打泄露身份證照片等圖像信息的犯罪源頭,破獲利用AI技術“換臉”進行詐騙犯罪案件79起,抓獲犯罪嫌疑人515名,有效遏制了該類犯罪勢頭。
政法機關依法打擊AI犯罪,并通過辦理典型案例的方式形成震懾,讓想用AI技術非法獲利的人心生畏懼。
強化治理實現標本兼治
記者了解到,在依法打擊AI犯罪的過程中,政法機關深挖這一違法犯罪的規律特點,堅持以打開路、打防并舉、源頭治理、綜合施策,會同相關部門單位深入推進行業治理、綜合治理,壓實主體責任,強化行業監督,堵住監管漏洞,全力擠壓相關違法犯罪活動空間,加速完善常態化治理機制,切實提高其違法成本。
據悉,為防范和打擊“AI換臉”犯罪,全國公安機關聯合國家重點實驗室等單位,開展人臉識別與活體檢測技術安全測評,覆蓋即時通信、網絡直播、網絡社交、電商平臺、金融支付等重點App,及時發現人臉識別驗證系統存在的風險隱患,通報運營主體升級安全保護措施和人臉識別算法,不給不法分子可乘之機。
與此同時,各地通過多種形式的宣傳教育,幫助群眾更加清晰認識到AI技術被利用或濫用所帶來的法律風險,增強了大家對AI犯罪的防范意識。
今年4月,安徽省合肥市警方通過中央媒體在關于“AI軟件成造謠工具”節目中揭秘謠言制作過程,讓網民更直觀地加深了對AI造謠的認識,起到了較好的宣傳效果。
2024年以來,浙江省杭州市臨平區借助“反詐智能AI宣防外呼系統”,自動識別、分析和預警潛在的詐騙風險,并以電話語音形式向市民發送提醒信息,不僅大幅提升工作效能,也切實提高了市民對詐騙風險的警覺性,降低了詐騙案件的發生率。
“隨著AI技術的快速迭代,對其被不法分子利用或濫用進行防治提出了更高要求。如AI犯罪行為更為隱蔽和復雜,證據收集難度大?!贝蘅〗苷f,因此,如何更好地防治AI犯罪,對內容生成平臺、行業監管部門乃至政法機關等各方都提出了挑戰。
崔俊杰建議,要堅持以科學適度的治理方式和治理手段回應技術發展和社會變遷,針對AI犯罪特點,相關部門需及時推動相關法律的立改廢釋纂,以良法促善治,提高依法治理水平;加大全鏈條打擊力度,強化各部門協同配合,加強大數據法律監督模型應用,善于從中發現重點監督線索和社會治理存在的難點問題,實現精準監督、有效監督,在確保行業良性健康發展的基礎上實現精準治理。