假如某天，年邁的母親打來微信視頻說買了臺按摩椅要你付款，住校的女兒找你要生活費，多年好友找你借點錢，公司老板要作為財務的你打下款……

在確認了人臉和聲音后，你會不會轉賬、付款？

(資料圖片僅供參考)

隨著人工智能的迅猛發展，詐騙團伙的詐騙手段也越來越科技化，竟然用上了AI技術。

此前有媒體報道過有人用知名男星AI版的聲音差點就行騙成功，當時就有網友說，如果畫面和聲音同時AI化，那豈不是更容易被騙？

如今，網友擔心的事情真的發生了。

5月22日，#AI詐騙正在全國爆發#的話題沖上熱搜第一，引發網友廣泛關注。另據湖北網警巡查執法5月6日消息，AI技術改變詐騙，新騙局來襲后，詐騙成功率竟接近100%。

據平安包頭官微消息，近日，包頭市公安局電信網絡犯罪偵查局發布一起使用智能AI技術進行電信詐騙的案件，福州一科技公司老板10分鐘被騙走430萬元。

4月20日，福州市郭先生突然接到好友的微信視頻，好友告訴郭先生，自己的朋友在外地投標，需要430萬元保證金，且需要公對公賬戶過賬，所以想要借用郭先生公司的賬戶走一下賬。好友向郭先生要了銀行卡號，聲稱已經把錢打到郭先生的賬戶上，還把銀行轉賬底單的截圖通過微信發給了郭先生。

圖源：平安包頭

基于視頻聊天信任的前提下，郭先生沒有核實錢是否到賬，先后分兩筆把430萬元給對方打了過去。錢款轉賬后，郭先生給好友微信發了一條消息，稱事情已經辦妥。但讓他沒想到的是，好友回過來的消息竟然是一個問號。

郭先生撥打好友電話，對方說沒有這回事，他這才意識到竟然遇上了“高端”騙局，對方通過智能AI換臉技術，佯裝成好友對他實施了詐騙。

接到郭先生報警后，警方聯動銀行迅速啟動止付機制，成功止付攔截336.84萬元，但仍有93.16萬元被轉移，目前正在全力追繳中。

近日，有網友點開某直播間，卻發現一當紅女星正在直播帶貨。不過，這些當紅女星并非本人，而是使用了AI實時換臉技術的普通主播，這也引發了網友廣泛熱議。

直播間利用當紅明星的“臉”賣貨，既是因為如今AI換臉技術已經實現了形象實時替換，也是因為讓“明星”代言可以使自己在競爭激烈的直播帶貨大軍中凸顯優勢，增加流量，提高銷量。

某直播間內，一名主播正在進行“換臉”帶貨。

據報道，AI實時換臉全套模型購買價僅需3.5萬元，于是某些商家就樂得通過這種小投入，來獲取大利益。

雖然明星屬于公眾人物，但他們的肖像權、姓名權等合法權益是受法律保護的。所以，直播間利用AI技術換明星臉來帶貨，涉嫌侵害明星的合法權益。被侵權明星有權要求直播間停止侵權、賠償相關損失。

此外，AI技術讓“明星”帶貨具有“以假亂真”的效果，因此涉嫌誤導消費者。有的消費者或許能發現其中破綻，但有的消費者未必會發現其中貓膩，就會誤以為是真正的明星在帶貨，從而增加對該直播間和所售貨品的信任，進而下單購物。因此，這種帶貨方式也是對消費者的一種欺騙和誤導。

那么在當下，AI技術是如何介入新騙局的呢？有什么新的詐騙方式？我們怎么識別AI詐騙呢？

第一種是聲音合成

騙子通過騷擾電話錄音等來提取某人聲音，獲取素材后進行聲音合成，從而可以用偽造的聲音騙過對方。

第二種是AI換臉

因為人臉效果更易取得對方信任，騙子用AI技術換臉，可以偽裝成任何人，再通過視頻方式進行信息確認。

第三種是轉發微信語音

除了AI換臉、合成語音外，還有一些詐騙手段也可謂防不勝防，就在前不久就有騙子通過轉發微信語音的方式行騙。

在盜取微信號后，騙子便向其好友“借錢”，為取得對方的信任，他們會轉發之前的語音，進而騙取錢款。盡管微信沒有語音轉發功能，但他們通過提取語音文件或安裝非官方版本（插件），可實現語音轉發。

圖源：視覺中國

第四種是AI篩選受騙人群

值得一提的是，這些騙局中，騙子不是漫無目的地全面撒網，而是根據所要實施的騙術，通過AI技術篩選受騙人群，別有用心地鎖定特定對象。例如，當進行金融詐騙時，經常搜集投資信息的小伙伴就會成為他們潛在的目標。

雖然AI換臉技術發展很快，但我國相關制度已跟上這種節奏。為了防止用戶利用使用人工智能深度合成技術實施不法行為，國家網信辦、工信部、公安部此前已聯合發布《互聯網信息服務深度合成管理規定》，其中明確指出，深度合成服務提供者提供深度合成服務，可能導致公眾混淆或者誤認的，應當在生成或者編輯的信息內容的合理位置、區域進行顯著標識，向公眾提示深度合成情況。但這些直播間顯然沒有對運用AI技術合成的帶貨“明星”予以顯著標識。

圖源：視覺中國

由此可見，直播間用AI技術換明星臉涉嫌雙重侵權，也違反了相關法律規定，需要引起重視。希望涉嫌侵權的直播間、涉嫌失責的直播平臺不要再心存僥幸，濫用技術。如今這種侵權現象引起輿論關注，或許就是侵權者美夢破滅的開始。當然，除了被侵權明星和消費者要主動維權外，有關部門也可依法予以懲治。

換臉、合成聲音等AI詐騙形式為何如此容易得手？北京市盈科（佛山）律師事務所合伙人陳顯敏律師分析，使用人工智能技術手段模仿真人面容、聲音，冒充親友、熟人、領導等，很容易達到以假亂真的程度，具有極強的迷惑性。與其他類型電信詐騙相比，AI詐騙迷惑性更強，針對性更強，辨識更困難。

北京市京都律師事務所合伙人張小峰律師指出，AI技術可以綜合運用語音、視頻等手段使虛假信息更真實，更難被分辨，甚至需要用專業技術來辨認。此外，AI可以根據大數據和個人信息分析，生成高度定制化的詐騙信息，精準投放給篩選出的對象，別有用心地鎖定詐騙對象實施詐騙。

圖源：視覺中國

面對如此“狡猾”的詐騙形式，我們又該如何防范掉入他人精心設計的“陷阱”呢？山東圣義律師事務所律師宿昊表示，現今，AI技術的應用不僅解放了生產力，便利了我們的生活，也帶來了大量的隱患，犯罪分子利用AI換臉和擬聲技術實施詐騙，讓普通民眾更容易中招。要提高警惕，電話視頻并不可信，遇對方要求求助借款、要求轉賬等行為，一定要多方位確定信息真實性、有條件可以要求面見，或詢問共同熟人，避免讓犯罪分子鉆空子。

張小峰律師建議，大眾要對這種新型詐騙手段提高警惕，不要過度相信語音或視頻等，選擇可信的通信渠道，盡量使用官方網站或其他具有實名認證或安全驗證功能的軟件進行交流，防止對方身份冒用；最后，還應該下載如國家反詐App等防詐騙軟件，輔助識別詐騙信息。

關鍵詞：