新型詐騙震撼美國政府 受害者：AI語音能以假亂真(圖)

人工智慧聊天機器人ChatGPT4 (圖片來源:LIONEL BONAVENTURE/AFP via Getty Images)

【看中国2023年6月13日讯】美國一名母親從電話那頭聽到「女兒」啜泣求救聲音，聽起來真的很像女兒的聲音，之後就有一位男子接過電話，他要求支付贖金。其實女孩的聲音是來自於人工智慧（AI）所合成的，綁架當然也是假的。

根據法新社報導指出，專家表示，現今AI最大的危險，即是模糊了真實及虛幻的界線，而讓網路罪犯能以廉價又有效的技術來散播假訊息。

新型詐騙震撼了美國政府，因為歹徒使用了網路上垂手可得、幾可亂真之AI語音複製工具，以假冒家庭成員詐騙親人。

迪斯特法諾（Jennifer DeStefano）住在亞利桑那州，她聽到電話那頭傳來了：「救我，媽，救我。」

當時迪斯特法諾「100%」確定那就是她15歲女兒於滑雪時遇到了麻煩。

4月，迪斯特法諾向當地電視台表示：「問題不是那是誰，那根本就是她的聲音，哭起來就是那樣的聲音。」

在美國等9個國家曾經針對7000人進行民調，結果顯示有1/4的人表示自己曾遇過AI語音的詐騙，或者聽過別人有類似經驗。

5月，該份調查是由美國資安公司邁克菲實驗室（McAfee Labs）在5月份所發布的民調，其中有70%的受訪者表示，並沒有信心能夠「分辨真假語音」。

加州大學柏克萊分校資訊學院的教授法瑞德（Hany Farid）向法新社表示：「由於現今製作高仿真的語音很容易，在網路上幾乎無人可以倖免。這些詐騙正在廣為流行。」

今年初AI新創公司ElevenLabs也坦承自家語音合成工具能夠遭用於「惡意用途」，因為先前就有用戶發布透過了「深偽技術」（Deepfake）所合成的語音，來假冒英國女星艾瑪華森（Emma Watson）來讀希特勒的自傳「我的奮鬥」（Mein Kampf）。

馬斯克等專家呼籲應暫緩開發AI

全球首富、電動車大廠特斯拉(Tesla)的執行長暨創辦人馬斯克(Elon Musk)，以及蘋果公司(Apple)共同創辦人的沃茲尼亞克(Steve Wozniak)等多位名人與上千名AI專家，在3月22日於一封公開信中提出呼籲，應於未來6個月暫緩開發比OpenAI最新發表之GPT-4(Generative Pre-trained Transformer)還要強大的系統，其理由是它會將會對社會和人類帶來潛在風險。

GPT-4為一項自然語言處理模型，一般都認為它除了比稍早所公開而引發熱議的ChatGPT更加聰明之外，且能夠支援圖像辨識與文本輸入，除了在文字功能外，更是一個多模態之工具。

人們擔憂，這類AI開發計畫的「危險競賽」，在沒有約束的情況下，將可能產生負面後果，其中包括散佈不實訊息和威脅人類就業。

現今在AI引起恐慌蔓延之際，義大利是全球首個禁止ChatGPT的國家，其理由是擔憂隱私遭受到侵犯。但擁護AI的聲音也不少，在科技界已有大批人士正在反擊馬斯克等人的言論，其中還不乏科技重量級人士。

歐盟警察機構Europol也呼應針對ChatGPT這類先進AI之倫理和法律憂心。同時警告此類AI潛在之網路釣魚、假訊息和網路犯罪等不當使用。

自從微軟支持的OpenAI於去年推出ChatGPT後，競爭者就忙著推出類似的產品，已經有多家企業準備將這類技術整合至他們的應用程式或者產品之中。

拙劣的深偽假主播 這公司揭出北京資訊戰新手法

美國時間2月7日，社交媒體分析公司Graphika發表了以《深偽直到你辦到：親中國行動者於網路影響力行動中推廣了AI生成之虛構人物影像片段》為題的報告，其揭露出一個名為 《狼新聞》（Wolf News）之虛構新聞媒體，它以AI深偽2個主播，且播報親中國共產黨，以及貶抑美國的相關報導。

報告中指出，去年年底，親中國的機器人帳戶於臉書與推特上發布了《狼新聞》兩名「主播」之報導影片。不過這兩位主播已經處處透露出種種奇怪的蛛絲馬跡。除了他們的聲音相當生硬，而且跟嘴形也無法同步，他們的臉看起來有如素化過的電玩遊戲人物般，發現頭髮看起來不自然地貼於頭上，同時字幕也充滿了錯誤的文法。

深偽技術經過了近10年來發展，已經可以捏造人物說話。人工智能軟件有時候會遭用來歪曲公眾形象，比如去年俄羅斯攻打基輔之時，在社群平台上就出現了深偽烏克蘭的總統澤連斯基（Volodymyr Zelensky）宣布投降之畫面。

長期以來，虛假信息專家一直警告稱，深偽影像將可能會進一步削弱人們於網上辨別真偽之能力，甚至可能遭濫用來引發動盪或者引起政治醜聞。如今這些預測已經成為現實了。

雖然現在抓到的親中國假訊息活動使用的深偽還非常拙劣，只要稍加留意就可以識破，不過各界必須嚴肅來面對「資訊戰的新篇章已然開啟了」。