拙劣的深伪假主播 这公司揭出北京资讯战新手法(图)


这两个主播为AI深伪的,Wolf News也是虚构的媒体。(图片来源:Graphika报告书)

【看中国2023年2月9日讯】最近有使用脸书和推特的朋友们,是否有留意到平台上出现了一些奇怪媒体,且播报奇怪的新闻。据社交媒体分析公司Graphika于稍早公布一份报告中揭露,中国通过了AI深伪(deepfake)之技术创造假主播,并在虚构的新闻媒体上,播报了亲中假讯息,借由社群平台的传播给广泛之阅听人。

美国时间7日,社交媒体分析公司Graphika发表了以《深伪直到你办到:亲中国行动者于网络影响力行动中推广了AI生成之虚构人物影像片段》为题的报告,其揭露出一个名为 《狼新闻》(Wolf News)之虚构新闻媒体,它以AI深伪2个主播,且播报亲中国共产党,以及贬抑美国的相关报导。

报告中指出,去年年底,亲中国的机器人帐户于脸书与推特上发布了《狼新闻》两名“主播”之报导影片。不过这两位主播已经处处透露出种种奇怪的蛛丝马迹。除了他们的声音相当生硬,而且跟嘴形也无法同步,他们的脸看起来有如素化过的电玩游戏人物般,发现头发看起来不自然地贴于头上,同时字幕也充满了错误的文法。

深伪技术经过了近10年来发展,已经可以捏造人物说话。人工智能软件有时候会遭用来歪曲公众形象,比如去年俄罗斯攻打基辅之时,在社群平台上就出现了深伪乌克兰的总统泽连斯基(Volodymyr Zelensky)宣布投降之画面。

长期以来,虚假信息专家一直警告称,深伪影像将可能会进一步削弱人们于网上辨别真伪之能力,甚至可能遭滥用来引发动荡或者引起政治丑闻。如今这些预测已经成为现实了。

虽然现在抓到的亲中国假讯息活动使用的深伪还非常拙劣,只要稍加留意就可以识破,不过各界必须严肃来面对“资讯战的新篇章已然开启了”。

深度伪造影片

深度伪造(deepfake)一词是来自于结合了英文的“deep learning ”(深度学习)与“fake”(伪造)生成之混成词。深伪技术可将现有的图像或者影片叠加至目标图像或者影片上,用来制作能够以假乱真之假媒体。其可以创造出让人信服的影片,其中包括使政治人物与名人于影片中说出及做出实际从未发生的事。

最著名的深度伪造影片,即是2018年美国的前总统奥巴马(Barack Obama)批评了川普(Donald Trump)是一个笨蛋的影片;同年有一个比利时政党亦发布川普发表演说之影片,其内容呼吁比利时应该退出巴黎气候协定。但奥巴马从未拍过此影片,而川普也没有发表过那个演说,以上这两个皆是深度伪造影片。此类误导性之深伪影片,在未来恐怕只会越来越多,如果用在政治宣传中,可以挑动民众的情绪,操弄民心,甚至影响选情及国家安全。

本文留言

相关文章


近期读者推荐