擬音、換臉，AI詐騙新套路不斷！“眼見不一定為實”如何防范？

日前，小米集團董事長雷軍的AI語音包刷屏了。一些網友用AI克隆雷軍的聲音，或是吐槽不文明行為，或是表達對他人的不滿，言辭尖銳，十分逼真，再次引發公眾對于技術加速迭代的深層次思考。

近年來，人工智能技術加快發展，在帶來創新和便利之際，也一并帶來了侵權、詐騙等違法行為的可能。如何防范AI技術被濫用？AI詐騙上當后怎么辦？近日，記者對此進行了相關采訪。

用10秒就能克隆任何人的聲音

雷軍的聲音是如何被克隆的？近日，記者在某微信公眾號上發現一文章標題，“僅用10秒，用AI克隆任何人的聲音”。順著文章指引，記者注冊了某款AI音頻軟件，發現軟件上有上百種真人聲音模板，其中不少都是公眾人物，部分模板使用次數高達近29萬人次，直接轉發2500多次。

這類“擬音”軟件使用門檻很低。記者隨機選擇了其中一款公眾人物的聲音模板，輸入文本，幾秒鐘內，與文本相對應的聲音內容就被成功克隆出來了，語氣、音色都十分逼真，還能直接下載、轉發。網絡上類似的AI聲音軟件并不少見，不僅如此，還有各類AI換臉軟件和教程層出不窮，覆蓋圖片、視頻等，在手機上就可以操作。

工信部信息顯示，伴隨著人工智能快速發展，合成技術門檻持續降低，逐漸向低算力、小樣本學習方向演進，利用手機終端即可完成，對算力和數據的要求下降明顯。同時，隨著AI大模型的技術加持，正逐步由面部合成向全身、3D合成發展，效果更加逼真。

去年4月，通過微信上的智能AI換臉技術，電信詐騙分子佯裝成福州市某科技公司法人代表郭先生的好友，在10分鐘內騙取郭先生430萬元。最終通過警銀聯動，成功緊急止付涉嫌電信詐騙資金330多萬元。郭先生表示，當時騙子給他打視頻，在視頻中他也確認了面孔和聲音，才放松了戒備。

業內人士表示，如今AI技術正加速向網絡詐騙、虛假信息等領域滲透。如在一些網絡平臺上假冒明星、公眾人物生成視頻圖像，吸引網民。此外，AI技術也可能被用來規模化地實施違法犯罪，如批量、自動維護網絡賬號，發送虛假信息，模擬人工在線聊天等。

“用科技打敗科技”

今年4月，北京互聯網法院宣判全國首例“AI聲音侵權案”，原告獲賠25萬元。法院表示希望通過此類案件裁判，為新業態新技術劃定應用邊界，并亮明兼顧保護人格權益與引導技術向善的司法態度。

目前，我國法律法規也對AI深度偽造作出了一定規制。2022年12月施行的反電信網絡詐騙法加強預防性法律制度構建，加大對違法犯罪人員的處罰，對尚不構成犯罪的人員也要從嚴處罰，沒收違法所得，處違法所得1~10倍罰款或者10萬元以下罰款，由公安機關拘留。

2023年1月施行的《互聯網信息服務深度合成管理規定》也明確，“提供人臉、人聲等生物識別信息編輯功能的，應當提示深度合成服務使用者依法告知被編輯的個人，并取得其單獨同意”“可能導致公眾混淆或者誤認的，應當在生成或者編輯的信息內容的合理位置、區域進行顯著標識”等。

眼下，福州也正試圖“用科技打敗科技”。10月6日，劉某通過一網絡社交平臺接收兼職任務，利用QQ視頻通話和手機號碼對提供兼職者進行詐騙，福州移動AI外呼智能化系統智能篩選出劉某的作案號碼，精準識別GOIP設備，協助公安部門迅速追蹤并精準抓獲嫌疑人。

福州移動相關負責人介紹，AI外呼通過試點提升反詐回呼模型稽核能力，制定回訪研判機制和規則，研判存在詐騙誘導的電話號碼、電子郵件及短信，識別GOIP設備，向警方推送線索，進而助力詐騙窩點精準打擊。截至目前，系統已協助公安機關完成181個重要線索核查，打擊人數170余人次，繳獲設備70余臺。

此外，依托e體+智慧賦能警務實戰平臺，福州公安部門打通刑偵、經偵、網安、合成偵查中心等警種資源共享，建成應用網絡信息攔截系統和警銀聯動預警平臺，對于新型網絡詐騙實行快速響應、快速研判，以及推進快偵、快破、快抓逃、快追贓、快挽損。

牢記“三不一多”謹防受騙

“近年來，電信網絡詐騙類型層出不窮，詐騙手段不斷更新，讓人防不勝防，成為一個極其復雜的社會治理問題，需要社會各界通力合作、齊抓共管、綜合治理。”市公安局臺江分局相關負責人說。

成立福州大數據反詐聯合專班，研發福州市互聯網詐騙防范攔截系統，加大電信網絡詐騙犯罪案件辦案懲治力度，建立不良信用通信用戶名單庫和違法失信懲戒聯動機制……近年來，新型網絡詐騙已引起公檢法及電信、金融監管等多部門的關注，打擊網絡詐騙多元共治的治理模式正在逐步形成。

要扼制AI仿造技術的濫用影響，細致完善的法律規范配套措施必不可少。北京市盈科（福州）律師事務所律師羅錦斌認為，AI仿造技術不僅可能涉嫌侵害他人肖像權和名譽權，甚至可能涉嫌犯罪。民事侵權案件中受害方難以舉證證明其損害結果、侵權行為與損害結果的因果關系等，這種情況下，網絡服務提供者的責任又該如何監管和加強是需要考量的。因此，需要細化法律條款，完善配套措施，才能讓法律條款落到實地。

針對性的反詐宣傳也必不可少，尤其是針對一些老年人、學生等群體。羅錦斌認為，未來AI可根據大數據創造出無比接近真實的“真實”，“要通過持續的宣傳教育改變大眾觀念，讓人知道眼見不一定為實，有圖不一定有真相，提升對網絡信息的辨別力”。

公安部門也再次提醒廣大公眾，各類電信網絡詐騙手法雖然形式多變，但萬變不離其宗，公眾要牢記“三不一多”原則：未知鏈接不點擊，陌生來電不輕信，個人信息不透漏，轉賬匯款多核實。一旦遇到詐騙分子，要及時報警，防止財產損失。（記者 沐方婷）