content

AI技术被用来制作儿童“不实”色情内容 勒索青少年(图)

 2023-07-04 19:49 桌面版 正體 打赏 1

AI
社媒专家提醒家长密切关注孩子的兴趣动向,以便及时给予指导。(图片来源: Adobe stock)

【看中国2023年7月4日讯】(看中国记者程帆编译综合报导)自人工智能机器人ChatGPT问世后,许多人将它作为辅助工作的工具。但也因生成式AI技术可以制作极似真人的影像,被不法份子利用制作色情、甚至儿童色情产品,对青少年进行敲诈。

据福克斯新闻的报导,社交媒体家长控制应用程序Canopy公司的数字安全专家利特文(Yaron Litwin)近日指出,诈骗者将网际网络上撷取的影像加工成非法图片或视频,向受害者进行勒索或骚扰的情况逐渐增多。他提醒家长们密切关注孩子的兴趣动向,以便及时给予指导。

利特文举了一个真实的例子:一位15岁男孩在网络上加入了某健身爱好群组,并向群里分享了一张自己锻练后袒露上身的照片(他认为是无害且安全的)。结果,这张照片被犯罪份子编辑成了裸照,并拿来勒索这位青少年

今年6月6日,美国史丹佛大学(Stanford University)联合《华尔街日报》发布的一份最新调研显示,长期以来,Meta旗下社群媒体Instagram(IG)不仅允许众多恋童癖者在该平台上存在,而且其算法还促进了这些人的活动,使之演变为一个“庞大的”贩卖未成年人性虐待内容的最主要平台。

史丹佛大学网络政策中心(Cyber Policy Center)研究员说,IG将恋童癖们连接起来,通过推荐系统引导他们找到内容卖家或感兴趣的买家。研究人员通过关键词搜索,轻松发现了405个自称是儿童自己管理的账户卖家,公开出售自制未成年人不法视频及图像。

据美国联邦调查局(FBI)透露,最近一段时间,遭受合成影像的受害者普遍呈现上升趋势。有受害者指出,许多影像是从他们的社媒帐号、私讯或视讯聊天中擅自撷取,并被加工成色情影像,藉以用来勒索他们。

FBI表示,一旦假造的图片被上传,很难阻止其在网络上流传。这些图片多数看起来极其逼真,不管成人或儿童都是罪犯下手的目标。

目前,FBI尚未揭示这些伪造的色情图片是用什么手法制成的,但随着AI技术的迅速进步,无疑将令生成的产品越来越让人难以分辨。

除了IG外,2022年主要社媒网站报告称,其平台上涉嫌非法儿童性材料还来自脸书(Facebook)和智能手机应用程序WhatsApp等,他们均是由Meta开发的。

今年3月,多个持有Meta股票的退休金基金和投资基金对Meta提诉,指控其对脸书和Instagram上的人口贩运和儿童性剥削影像内容“视而不见”。

《华尔街日报》称,Meta坦承其执行操作中存在漏洞,并表示已成立一个专门工作小组来解决所提出的问题。

利特文认为,社媒的使用引起了一系列社会问题。由于网络威胁渐多,为了保护孩子,父母对他们在手机上下载智能社交监控应用程序也变得尤其重要。因为您永远不知道孩子们何时会被卷入某些不当行为。


来源:看中国 --版权所有,任何形式转载需看中国授权许可。 严禁建立镜像网站.
本文短网址:


【诚征荣誉会员】溪流能够汇成大海,小善可以成就大爱。我们向全球华人诚意征集万名荣誉会员:每位荣誉会员每年只需支付一份订阅费用,成为《看中国》网站的荣誉会员,就可以助力我们突破审查与封锁,向至少10000位中国大陆同胞奉上独立真实的关键资讯,在危难时刻向他们发出预警,救他们于大瘟疫与其它社会危难之中。

分享到:

看完这篇文章觉得

评论

畅所欲言,各抒己见,理性交流,拒绝谩骂。

留言分页:
分页:


Top
x
我们和我们的合作伙伴在我们的网站上使用Cookie等技术来个性化内容和广告并分析我们的流量。点击下方同意在网络上使用此技术。您要使用我们网站服务就需要接受此条款。 详细隐私条款. 同意