“AI換臉擬聲”亂象頻現如何治理？專家這樣說……

“AI換臉擬聲”亂象頻現 如何治理？

福州法律專家：為人工智能套上法治韁繩

“雷軍回應‘國慶7天被AI雷軍罵了8天’”“靳東兩會建議AI換臉立法”……今年全國兩會期間，“AI換臉擬聲”技術的濫用問題引發代表委員關注，相關話題頻頻登上熱搜，也引發福州市民熱議。

手機應用商店有許多“AI換臉”App（頁面截圖）。

代表委員發聲：

治理“AI換臉擬聲”

近年來，一些不法分子利用“AI換臉擬聲”等高科技手段實施詐騙，令一些演藝界人士、專家學者、知名企業家等公眾人物飽受困擾。

“一些喜歡我作品的觀眾，被AI換臉視頻騙得很慘。這種犯罪性質非常惡劣，希望能建立更好的規則。”在3月5日的政協小組討論上，全國政協委員、中國煤礦文工團團長靳東回應了AI換臉引發的詐騙問題。

同樣深受其擾的，還有全國人大代表、小米集團創始人雷軍。3月4日，雷軍公開了今年兩會的5條建議，其中“加強‘AI換臉擬聲’違法侵權重災區治理”尤為引人關注。他表示，他本人就是“AI換臉擬聲”的受害者。去年國慶長假期間，短視頻平臺上大量“雷軍AI配音”的惡搞視頻涌現，言辭犀利甚至爆粗口，不少網友“被AI雷軍罵了8天”。

雷軍表示，“AI換臉擬聲”濫用成了違法侵權行為的重災區，易引發侵犯肖像權、侵犯公民個人信息罪及詐騙等犯罪行為，甚至造成難以挽回的大規模形象和聲譽損害，帶來社會治理等風險。AI深度合成技術所需素材獲取便利、技術使用門檻低、侵權主體及手段隱蔽性強等特點，給治理帶來較大挑戰。

如何更好把握人工智能發展機遇、更好應對新技術帶來的風險挑戰？雷軍建議，加快單行法立法進程，提升立法位階；強化行業自律共治，壓實平臺企業等各方的責任和義務；加大普法宣傳的廣度和力度，增強民眾的警惕性和鑒別力。

全國人大代表、TCL創始人李東生建議，加快出臺人工智能深度合成內容標識管理規章制度，明確懲罰制度。同時，加強國際合作，有效監管人工智能生成、合成內容。

業內人士剖析：

技術便捷滋生亂象

隨著AI技術的發展，“AI換臉擬聲”操作愈發簡單，只需獲取照片和聲音等個人信息，就能借助技術以假亂真。

11日，記者嘗試使用了某款AI換臉軟件。在上傳一張人物照片并按照提示進行簡單操作后，短短幾分鐘，軟件便生成了一段換臉后的視頻，人物表情和動作雖有些生硬，但整體已具有較高的相似度。

據了解，利用聲音合成功能，同樣能快速生成一段模仿目標人物聲音的音頻。

基于此類技術，不法分子在網絡上制造出各種違法亂象。從假冒名人誘導中老年人轉賬，到偽裝單位領導要求匯款，甚至有線上游戲平臺利用AI技術，將某明星的肖像、聲音及過往視頻片段，合成制作為帶有賭博性質的代言宣傳片。

“GitHub這類知名開源平臺上有大量AI換臉、語音合成的開源代碼與工具，大大降低了技術使用門檻。例如，熱門的開源項目Deep?FaceLab，不法分子只需簡單下載、調試，即便技術水平有限，也能快速搭建起簡易的‘AI換臉擬聲’程序。”福州大學計算機與大數據學院博士生肖博懷告訴記者，一些AI開源代碼和工具降低了技術使用門檻，讓合法的創新探索、創意實踐變得更為便捷，但這也使得惡意利用技術變得輕而易舉，不法分子能夠輕易獲取并運用這些資源，實施違法犯罪行為。

一名深耕互聯網行業多年的資深從業者表示，在當下網絡環境中，用戶注冊各類網絡平臺賬號時風險意識普遍薄弱。不少用戶為圖便捷，隨意填寫真實姓名、身份證號、聯系方式等關鍵個人信息。注冊過程中，對平臺隱私設置選項視而不見，默認全部公開。這些泄露的信息與“AI換臉擬聲”技術相結合，無異于給詐騙分子提供了“作案利器”。

法律專家建言：

為AI套上法治韁繩

近年來，我國《互聯網信息服務深度合成管理規定》《生成式人工智能服務管理暫行辦法》等法律法規已頒布實施，《人工智能生成合成內容標識辦法（征求意見稿）》完成社會意見征集，對人工智能治理進行了有益探索。然而，鑒于技術的迅猛發展，治理的“工具箱”仍需不斷擴容。

福建省司法廳行政立法咨詢顧問專家庫成員、福建三山律師事務所主任洪必景表示，當前對于涉及深度偽造、一鍵換臉等濫用人工智能侵權乃至詐騙行為的相關治理規則還不完善，這也導致利用人工智能侵權的違法成本極低，受害者的維權成本極高。技術的發展離不開制度保障，通過立法明確倫理規范和治理規則，確保人工智能的發展與應用始終符合人類福祉顯得十分迫切和必要。

福建融成律師事務所合伙人齊海緒建議，面對“AI換臉擬聲”等新型詐騙的出現，首先應加快制定相關法律法規，明確“AI換臉擬聲”等技術的應用邊界與違法后果，建立AI生成內容強制標識制度，增強信息透明度。其次，進一步強化互聯網平臺審核責任，要求互聯網企業采用技術手段攔截虛假信息，并建立“先行賠付”機制。再次，應完善法律適用標準，推動建立AI內容追蹤溯源體系，結合《中華人民共和國反電信網絡詐騙法》等現行法規，形成全鏈條治理。（記者 肖遠強）