“10分鐘被AI換臉騙走430萬元”“AI侵權著名歌手”“AI一鍵脫衣造黃謠”......近期，一系列涉及人工智能（AI）的負面事件在互聯網上持續發酵，引發了群眾的恐慌情緒。在這樣的背景下，有些人開始呼吁全面禁止AI的使用。那么，AI真的這般不堪嗎？全面禁止AI，以上違法行為能悉數解決嗎？

繼此前“10分鐘被AI換臉騙走430萬元”事件引發關注之后，5月22日，又一起AI換臉詐騙發生。這次金額達到132萬，且整個詐騙過程時間更短，只有9秒鐘。與此同時，AI詐騙正在全國爆發的話題沖上熱搜第一，引發網友熱議。

(資料圖片)

5月22日，安徽安慶的何先生接到熟人視頻電話，讓他幫忙轉一筆賬。但9秒之后，對方以“在開會”為由，迅速掛斷了電話，還稱“微信和電話不能說，加一下QQ”。

男子被騙過程

“因為打了視頻電話，又是熟人，我就沒多想，就轉賬了”。事發時，何先生放松了警惕。發現被騙之后，何先生迅速報警，專案民警第一時間凍結相關賬戶，連夜趕赴北京市抓獲3名涉詐嫌疑人，追回何先生被騙的132萬元。

此前，央視曾報道一起金額高達430萬元的AI換臉詐騙，過程與此案基本相似，詐騙分子都運用到了AI換臉以及擬聲技術：4月20日，福建某科技公司法人代表郭先生突然接到“好友”微信視頻，對方稱自己的朋友在外地競標，需要430萬元保證金，郭先生見視頻中的面孔和聲音確實是“好友”，于是放松了警惕，僅在10分鐘之內就向對方轉賬430萬元。在福建、包頭兩地警方、銀行的幫助下，其中300多萬元被攔截，目前仍有90多萬還在追查中。

乍一看，似乎都是AI的“鍋”。但細細想來，這無外乎是一個金額較大，但手法平平無奇的詐騙案件，因為騙子利用了“換臉視頻”而引發了輿論的恐慌情緒。

事實上，AI換臉并非毫無破綻。“AI假臉”的紋理特征存在破綻。例如，偽造后的視頻人物的眼睛或牙齒輪廓細節容易不一致；兩只眼睛瞳孔的顏色不一樣或瞳孔中心反射的細節不一樣；或是很多偽造視頻由于視頻分辨率低于原始視頻分辨率，偽造出來視頻的牙齒邊緣過于整齊等。

另外，“AI假臉”有可能不符合正常人的生理特征，比如，一個健康成年人一般間隔2-10秒眨一次眼，每次眨眼用時0.1-0.4秒，而在偽造視頻中，人的眨眼頻率可能不符合上述規律。通常，人嘴部的運動是最為頻繁且快速的，而AI軟件卻無法真實準確地渲染連續動作。

在視頻時，你可以要求對方用一根手指在面部來回晃動，或者用手掌擋住一部分的臉。因為犯罪分子在訓練AI算法時多使用的為正面照，所以程序無法處理好突然在面前出現的物體，這時面部就會出現扭曲變形。

“孫燕姿”們不會失業

2000年，大街小巷都是孫燕姿。

2023年，大網小網都是“AI孫燕姿”......

近年來，隨著技術的不斷發展，越來越多的人工智能產品逐漸進入我們的生活。在ChatGPT問世，引發全網“下崗”擔憂的幾個月后，與其同屬AIGC技術的AI歌手正在成為樂壇新頂流。

今年4月中旬，AI歌手“AI孫燕姿”橫空出世。到目前，已翻唱60余首歌曲，其中包括粵語、日語、英語、俄語中歌迷們耳熟能詳的歌曲。5月上旬，有音樂播放平臺已上架“AI孫燕姿”的翻唱合輯。還有平臺已經開啟“AI孫燕姿”直播點歌，只需在評論區輸入#+歌曲名，即可聽到“AI孫燕姿”演唱的該版本的歌曲。據悉，“AI孫燕姿”翻唱的一些曲目在網上點擊量破百萬，其所駕馭曲風范圍甚廣。有人開始擔心，AI歌手的出現是否意味著真實歌手將失去市場，像孫燕姿這樣的著名歌手，會因為AI歌手的出現而失業嗎？

從AI換臉、AI繪畫、AI寫論文到如今的AI翻唱，科技的力量讓人驚嘆，但我們也應清楚地認識到，AI歌手的出現并不意味著真實歌手將失去市場。在數字化時代，音樂消費的主體依舊是人類，AI歌手技術上的局限性使得其無法完全替代真實歌手的表演和情感表達。所以，與其擔心AI讓孫燕姿成為失業第一人，我們更應關注的是“AI孫燕姿”帶來的權益保護問題。也許，不是孫燕姿要因為AI而失業，而是AI中的侵權行為要首先該“下崗”才對。

據報道，美國歌手黎安·萊姆斯就公開表示“很樂意大家使用她的聲音”，但她要求分50%版稅。面對這一波勢不可擋的AI浪潮，我們應清楚認識到，AI與音樂產業之間的關系是一種相互促進和共生的關系。AI歌手的出現并不意味著真實歌手將失去市場；相反，AI歌手可以為音樂產業注入新的元素和活力，推動音樂產業的數字化轉型和升級。在保護原創版權的基礎上，我們應該鼓勵AI歌手的發展和創新，為音樂產業帶來更多的可能性。

前不久，某視頻平臺更新規范：在應用生成人工智能技術時，發布者應對人工智能生成內容進行顯著標識，幫助其他用戶區分虛擬與現實。同時禁止利用生成式人工智能技術創作、發布侵權內容，包括但不限于肖像權、知識產權等。

今年4月，國家互聯網信息辦公室發布《生成式人工智能服務管理辦法（征求意見稿）》，提出——

?利用生成式人工智能產品提供聊天和文本、圖像、聲音生成等服務的組織和個人，要承擔該產品生成內容生產者的責任；

?發現、知悉生成的文本、圖片、聲音、視頻等侵害他人肖像權、名譽權、個人隱私、商業秘密，或者不符合辦法要求時，應當采取措施，停止生成，防止危害持續。

這份征求意見稿已經于5月10日結束公開征求意見。我們期待，隨著AI技術越來越深入我們的生活，相關配套管理也不斷完善，各平臺參與者的主體責任也更加明晰。在厘清權益保護的法律邊界基礎上，讓AI在合法的軌道上運行。

AI可以替代很多事情，但唯獨不能替代“背鍋”這件事。AI只是一個工具，它只是根據預設的算法進行計算和推斷，并不能自己主動產生行動。所以，如果出現了問題，應該把責任歸咎于使用AI的人，而不是AI本身。就像一把刀子，如果用來切菜，那么它是有用的；但如果用來殺人，那么它就成為了兇器。同樣地，AI也有它的應用范圍，關鍵在于我們如何正確使用它。

當出現問題時，我們不能把責任完全推給AI或者算法，而應該對AI的使用進行審慎和監管。例如，如果使用AI換臉技術進行詐騙，那么就應該追究犯罪者的責任；如果使用AI制造黃謠，那么就應該追究發布者的責任；如果使用AI侵權著名歌手，那么就應該追究侵權者的責任。

為什么會出現以上問題？其實，問題的根源在于人的行為。因為利益驅動，有些人會不顧他人的權益和安全，只顧一己私欲而不擇手段地使用AI。這種行為本身就是錯誤的，而不是AI本身的問題。

因此，與其說全面禁止AI，倒不如說我們更需要采取措施加強對AI的監管。首先，應該建立起嚴格的AI使用規范，限制AI的使用范圍和目的。其次，應該對AI的開發者和使用者進行教育和培訓，讓他們了解AI的應用范圍和限制。最后，應該建立起健全的法律制度，對違法使用AI的行為進行懲罰。

AI不是元兇，別再讓AI背鍋。只有以正確地看待AI，全面客觀地認識到它的優勢和局限性，并加強對其的監管，才能讓AI真正為人類服務。

關鍵詞：