AI技术被用来制作儿童“不实”色情内容 勒索青少年(图)

社媒专家提醒家长密切关注孩子的兴趣动向，以便及时给予指导。（图片来源: Adobe stock）

【看中国2023年7月4日讯】（看中国记者程帆编译综合报导）自人工智能机器人ChatGPT问世后，许多人将它作为辅助工作的工具。但也因生成式AI技术可以制作极似真人的影像，被不法份子利用制作色情、甚至儿童色情产品，对青少年进行敲诈。

据福克斯新闻的报导，社交媒体家长控制应用程序Canopy公司的数字安全专家利特文（Yaron Litwin）近日指出，诈骗者将网际网络上撷取的影像加工成非法图片或视频，向受害者进行勒索或骚扰的情况逐渐增多。他提醒家长们密切关注孩子的兴趣动向，以便及时给予指导。

利特文举了一个真实的例子：一位15岁男孩在网络上加入了某健身爱好群组，并向群里分享了一张自己锻练后袒露上身的照片（他认为是无害且安全的）。结果，这张照片被犯罪份子编辑成了裸照，并拿来勒索这位青少年。

今年6月6日，美国史丹佛大学（Stanford University）联合《华尔街日报》发布的一份最新调研显示，长期以来，Meta旗下社群媒体Instagram（IG）不仅允许众多恋童癖者在该平台上存在，而且其算法还促进了这些人的活动，使之演变为一个“庞大的”贩卖未成年人性虐待内容的最主要平台。

史丹佛大学网络政策中心（Cyber Policy Center）研究员说，IG将恋童癖们连接起来，通过推荐系统引导他们找到内容卖家或感兴趣的买家。研究人员通过关键词搜索，轻松发现了405个自称是儿童自己管理的账户卖家，公开出售自制未成年人不法视频及图像。

据美国联邦调查局（FBI）透露，最近一段时间，遭受合成影像的受害者普遍呈现上升趋势。有受害者指出，许多影像是从他们的社媒帐号、私讯或视讯聊天中擅自撷取，并被加工成色情影像，藉以用来勒索他们。

FBI表示，一旦假造的图片被上传，很难阻止其在网络上流传。这些图片多数看起来极其逼真，不管成人或儿童都是罪犯下手的目标。

目前，FBI尚未揭示这些伪造的色情图片是用什么手法制成的，但随着AI技术的迅速进步，无疑将令生成的产品越来越让人难以分辨。

除了IG外，2022年主要社媒网站报告称，其平台上涉嫌非法儿童性材料还来自脸书（Facebook）和智能手机应用程序WhatsApp等，他们均是由Meta开发的。

今年3月，多个持有Meta股票的退休金基金和投资基金对Meta提诉，指控其对脸书和Instagram上的人口贩运和儿童性剥削影像内容“视而不见”。

《华尔街日报》称，Meta坦承其执行操作中存在漏洞，并表示已成立一个专门工作小组来解决所提出的问题。

利特文认为，社媒的使用引起了一系列社会问题。由于网络威胁渐多，为了保护孩子，父母对他们在手机上下载智能社交监控应用程序也变得尤其重要。因为您永远不知道孩子们何时会被卷入某些不当行为。