中共用AI深伪科技制造“深伪主播”播报亲中共、贬抑美国的报导。(图片来源:推特)
【看中国2023年9月8日讯】(看中国记者杨天资综合报导)人工智能(AI)无限制的发展带来巨大隐患,据路透社报导,微软(Microsoft)研究人员在9月7日一份新报告披露,中共控制的社交媒体假帐号利用生成式人AI技术操弄有政治色彩的内容,企图煽动和影响美国选民的不安情绪。中共发展深伪科技,也早已引发国际关注。
微软:中共用AI操纵社交媒体 煽动美国选民不安情绪
据路透社报导,微软(Microsoft)研究人员在9月7日一份新报告上指出,他们发现,今年3月以来,据信由中共官方控制的社群媒体假帐号网络,就利用生成式人工智能(AI)技术操弄有政治色彩的内容,企图煽动和影响美国选民的不安情绪;这些社群媒体帐号为疑似中共资讯战行动的一环,其活动和美国司法部所指“(中共)公安部内的一个精英小组”的活动相类似。
微软表示,中共在社交平台假帐号网络的活动,从2023年3月左右开始使用生成AI技术,用英语创造带有政治色彩的内容,并“模仿美国选民”。微软研究人员并未具体指出受影响的社交媒体平台,但报告萤幕截图显示摘自脸书和推特(现为X)的贴文。
微软研究人员表示,比起中国假帐号在先前竞选活动中所使用的笨拙视觉效果,这些生成式AI创造的新内容“更引人注目”;中国假帐号过去视觉效果主要依赖数位绘图、库存照片拼贴和其他手工图形设计。
这份研究报告以一张中国帐号张贴的AI生成影像为例,该影像描绘自由女神像手持突击步枪,并配上说明字幕:“一切都被扔掉了。暴力女神。”
微软发言人表示,被认出来的中国假帐号透过将其公共位置列为美国境内、张贴美国政治口号、分享相关于国内政治议题的标签,试图让自己看起来是美国人。
报导称,此报告凸显社交媒体环境极度令人担忧的,而美国人正准备进入2024年总统大选。美国政府指控俄罗斯以隐蔽社群媒体活动暗地干预2016年大选,并警告中国、俄罗斯和伊朗后续试图影响选民。
中国上百家科技公司申请开发“深度伪造(deepfake)”技术
中共国家互联网信息办公室去年底制定“深度伪造(deepfake)技术使用规则”,据了解,包括华为、阿里巴巴等110家中国科技公司都已提出申请,要求批准他们发展可用于操纵视觉和音频数据的模型。中共发展深伪科技,也早已引发国际关注。
美国OpenAI公司今年推出功能强大的聊天机器人ChatGPT后,立刻爆红,更吸引多家中国科技公司投入开发。包含百度和商汤科技等5家公司8月30日获得政府批准后,已向公众推出AI聊天机器人。
“深度伪造(deepfake)”与聊天机器人不同的是,聊天机器人是根据用户的提示,生成全新的文本、图像和音频。深度伪造则使用AI技术,生成与原始数据几乎无法区分的视觉和音频数据,很容易被用在操纵或提供假讯息。
美国社群媒体分析公司Graphika今年2月7日就谈到,名为 《狼新闻(Wolf News)》的虚构新闻媒体,以AI深度伪造2个新闻主播,播报亲中共、贬抑美国的相关报导,被认为与中国政府有关。
从影片中可看到,自称艾利克斯(Alex)的虚构男主播,批评美国对困扰该国的枪枝暴力不作为;另一段影片中,虚构女主播则强调美中“大国合作”的重要性。
Graphika副总裁史塔布斯(Jack Stubbs)表示,“这是我们首次看到与国家结盟的行动,使用AI生成的虚构人物影片,来创建欺骗性的政治内容。”
AI恐让虚假讯息“进化”
由美国人工智能研究实验室OpenAI推出的聊天机器人ChatGPT在去年问世后,随即掀起热潮,更被视为人工智能重大突破。生成式人工智能(generative AI)发展快速,输出复杂的文章、并配合文本创造图像,虽然加大方便程度,但明年美国、英国、印度、印尼、墨西哥、台湾等多个国家即将举行选举,AI的迅速发展也使得人们担忧,在选举前,虚假讯息宣传活动可能会加剧。
《经济学人》报导认为,AI的确有可能会使虚假讯息“进化”。到了2024年,大型语言模型可能会使得虚假讯息的数量出现变化,而当假讯息数量增为上千倍甚至10万倍,就可能会说服人们做出不同投票决定;另外,在生成式AI的帮助下,虚假讯息的品质也会出现变化,虚假声音、照片、影片被揭穿前,超现实的“深度伪造”(deepfakes)可能影响选民;第三个可能出现的变化则是精准投放(microtargeting),选民可能会被量身打造的大规模宣传淹没,宣传机器人网络可能比现有的虚假讯息运作更难被发现。
错误讯息传播的社群媒体平台及人工智能公司表示正关注风险,美国人工智能研究实验室OpenAI表示,它将监控使用情况,尝试检测政治影响操作。
来源:
看完这篇文章觉得
排序