华日：Instagram算法向青少年推送有害视讯(图)
社交媒体（图片来源：Matt Cardy/Getty Images)
【看中国2023年11月29日讯】《华尔街日报》最近的测试显示，Instagram的Reels算法对年轻体操运动员、啦啦队队员以及青少年帐户提供大量色情内容，包括儿童的不当镜头，公开的成人色情视频，以及一些美国最大品牌的广告。
儿童保护组织加拿大儿童保护中心也进行了类似的测试，得到了类似的结果。
Instagram的Reels视讯服务旨在向用户展示，系统认为他们感兴趣的主题的短视讯串流，例如体育、时尚或幽默。
《华尔街日报》记者以成年人的身份在新购买的设备上设置了Instagram测试帐户，并跟踪了体操运动员、拉拉队队员和其他年轻影响者。测试显示，仅关注年轻女孩就会触发Instagram开始提供，来自宣传成人性内容的帐户的视频，以及主要消费品牌的广告，例如沃尔玛的一个广告，该广告在一段女性暴露胯部的视频后投放。
拥有Facebook和Instagram的Meta表示，《华尔街日报》的测试产生了一种人造的体验，并不代表数十亿用户所看到的。该公司拒绝评论为什么这些算法会编译显示儿童、性和广告的单独视讯串流。但一位发言人表示，该公司于10月推出了新的品牌安全工具，使广告商可以更好地控制其广告出现的位置，并且Instagram要删除或每月降低400万个涉嫌违反其标准的视频。
《华尔街日报》6月报导称，Meta的算法将大量对恋童癖内容感兴趣的用户社群联系起来。Meta发言人表示，该文发表后成立了特别工作组，扩大了用于检测行为可疑用户的自动化系统，每月关闭数以万计的此类帐户。该公司还加入了一个新的行业联盟，以分享潜在的儿童剥削迹象。
在测试中，一些公司广告旁出现了不当内容，公司包括迪士尼、Match、沃尔玛和Bumble等。《华尔街日报》联系了这些公司后，一些公司表示Meta告诉他们正在调查并将支付公司的品牌安全审计费用。
Match于10月开始逐渐停止了所有Reels广告，并停止在Meta的任何平台上推广其主要品牌。Match发言人萨科(Justine Sacco)表示：“我们不想付费给Meta，来向掠夺者推销我们的品牌，也不想将我们的广告放置在此类内容附近。”
Bumble发言人麦凯（Robbie McKay）表示，该公司“绝不会故意在不当内容旁边做广告”，并且正在暂停在Meta平台上投放广告。
迪士尼品牌管理副总裁Charlie Cain表示，该公司对可接受的广告社群媒体内容，设定了严格限制，并敦促Meta和其他平台改善品牌安全功能。该公司发言人表示，自从《华尔街日报》向迪士尼提交调查结果以来，该公司一直致力于在“Meta最高层”解决这一问题。
为了跟TikTok竞争，Meta创建了Reels。TikTok是北京字节跳动旗下的影片分享平台。这两种产品都会向用户不间断地播放其他人发布的视频，并在其中插入广告赚钱。两家公司的算法都会根据用户过去的观看行为，向用户显示平台计算出的最有可能保持参与度的影片。
Meta现任和前任员工在采访中表示，Instagram算法倾向于聚合整个平台上的儿童色情内容，这在内部是一个问题。他们表示，一旦Instagram将用户归类为对任何特定主题感兴趣，其推荐系统就会经过训练，并向他们推送更多相关内容。
他们表示，为了防止系统向有兴趣的用户推送有害内容，需要对推荐算法进行重大改变。《华尔街日报》查阅的公司文件显示，该公司的安全人员被广泛禁止对平台进行任何，可能减少每日活跃用户数量的更改。
据前员工称，甚至在2020年推出Reels之前，Meta员工就明白该产品会带来安全问题。
据两名前员工称，在推出Reels前不久进行的一项分析中，Meta的安全人员指出了该产品将儿童影片和不当内容连结在一起的风险。Meta的前青年政策负责人Vaishnavi J将安全审查的建议描述为：“要么我们加强内容检测能力，要么我们不推荐任何次要内容”，即任何儿童视频。
当时，TikTok发展迅速，吸引了Instagram年轻用户和针对他们的广告商。因此，Meta当时没有采纳任何一项安全分析建议。
社群媒体平台和数位广告公司经常将不恰当的广告投放描述为不幸的错误。但《华尔街日报》和加拿大儿童保护中心运行的测试帐户表明，Meta的平台似乎针对对性感兴趣的用户进行一些数位行销。
Meta尚未提供解决该问题的时间表，也没有解释未来将如何限制推广涉及儿童的不当内容。
加拿大儿童保护中心通过测试得出结论，Instagram定期提供穿着衣服的儿童的影片和照片，这些儿童也出现在国家失踪和受虐儿童中心的数位数据库中，该数据库中的图像和影片被确认为虐待儿童的性材料。该组织表示，虐待儿童者经常使用女孩的图像在暗网论坛上宣传非法内容并出售。