新型诈骗震撼美国政府 受害者：AI语音能以假乱真(图)

人工智能聊天机器人ChatGPT4 (图片来源:LIONEL BONAVENTURE/AFP via Getty Images)

【看中国2023年6月13日讯】美国一名母亲从电话那头听到“女儿”啜泣求救声音，听起来真的很像女儿的声音，之后就有一位男子接过电话，他要求支付赎金。其实女孩的声音是来自于人工智能（AI）所合成的，绑架当然也是假的。

根据法新社报导指出，专家表示，现今AI最大的危险，即是模糊了真实及虚幻的界线，而让网络罪犯能以廉价又有效的技术来散播假讯息。

新型诈骗震撼了美国政府，因为歹徒使用了网络上垂手可得、几可乱真之AI语音复制工具，以假冒家庭成员诈骗亲人。

迪斯特法诺（Jennifer DeStefano）住在亚利桑那州，她听到电话那头传来了：“救我，妈，救我。”

当时迪斯特法诺“100%”确定那就是她15岁女儿于滑雪时遇到了麻烦。

4月，迪斯特法诺向当地电视台表示：“问题不是那是谁，那根本就是她的声音，哭起来就是那样的声音。”

在美国等9个国家曾经针对7000人进行民调，结果显示有1/4的人表示自己曾遇过AI语音的诈骗，或者听过别人有类似经验。

5月，该份调查是由美国资安公司迈克菲实验室（McAfee Labs）在5月份所发布的民调，其中有70%的受访者表示，并没有信心能够“分辨真假语音”。

加州大学柏克莱分校资讯学院的教授法瑞德（Hany Farid）向法新社表示：“由于现今制作高仿真的语音很容易，在网络上几乎无人可以幸免。这些诈骗正在广为流行。”

今年初AI新创公司ElevenLabs也坦承自家语音合成工具能够遭用于“恶意用途”，因为先前就有用户发布透过了“深伪技术”（Deepfake）所合成的语音，来假冒英国女星艾玛华森（Emma Watson）来读希特勒的自传“我的奋斗”（Mein Kampf）。

马斯克等专家呼吁应暂缓开发AI

全球首富、电动车大厂特斯拉(Tesla)的执行长暨创办人马斯克(Elon Musk)，以及苹果公司(Apple)共同创办人的沃兹尼亚克(Steve Wozniak)等多位名人与上千名AI专家，在3月22日于一封公开信中提出呼吁，应于未来6个月暂缓开发比OpenAI最新发表之GPT-4(Generative Pre-trained Transformer)还要强大的系统，其理由是它会将会对社会和人类带来潜在风险。

GPT-4为一项自然语言处理模型，一般都认为它除了比稍早所公开而引发热议的ChatGPT更加聪明之外，且能够支援图像辨识与文本输入，除了在文字功能外，更是一个多模态之工具。

人们担忧，这类AI开发计划的“危险竞赛”，在没有约束的情况下，将可能产生负面后果，其中包括散布不实讯息和威胁人类就业。

现今在AI引起恐慌蔓延之际，意大利是全球首个禁止ChatGPT的国家，其理由是担忧隐私遭受到侵犯。但拥护AI的声音也不少，在科技界已有大批人士正在反击马斯克等人的言论，其中还不乏科技重量级人士。

欧盟警察机构Europol也呼应针对ChatGPT这类先进AI之伦理和法律忧心。同时警告此类AI潜在之网络钓鱼、假讯息和网络犯罪等不当使用。

自从微软支持的OpenAI于去年推出ChatGPT后，竞争者就忙着推出类似的产品，已经有多家企业准备将这类技术整合至他们的应用程式或者产品之中。

拙劣的深伪假主播 这公司揭出北京资讯战新手法

美国时间2月7日，社交媒体分析公司Graphika发表了以《深伪直到你办到：亲中国行动者于网络影响力行动中推广了AI生成之虚构人物影像片段》为题的报告，其揭露出一个名为 《狼新闻》（Wolf News）之虚构新闻媒体，它以AI深伪2个主播，且播报亲中国共产党，以及贬抑美国的相关报导。

报告中指出，去年年底，亲中国的机器人帐户于脸书与推特上发布了《狼新闻》两名“主播”之报导影片。不过这两位主播已经处处透露出种种奇怪的蛛丝马迹。除了他们的声音相当生硬，而且跟嘴形也无法同步，他们的脸看起来有如素化过的电玩游戏人物般，发现头发看起来不自然地贴于头上，同时字幕也充满了错误的文法。

深伪技术经过了近10年来发展，已经可以捏造人物说话。人工智能软件有时候会遭用来歪曲公众形象，比如去年俄罗斯攻打基辅之时，在社群平台上就出现了深伪乌克兰的总统泽连斯基（Volodymyr Zelensky）宣布投降之画面。

长期以来，虚假信息专家一直警告称，深伪影像将可能会进一步削弱人们于网上辨别真伪之能力，甚至可能遭滥用来引发动荡或者引起政治丑闻。如今这些预测已经成为现实了。

虽然现在抓到的亲中国假讯息活动使用的深伪还非常拙劣，只要稍加留意就可以识破，不过各界必须严肃来面对“资讯战的新篇章已然开启了”。