一段显示一名男孩遭到性侵犯的视频的观看次数超过 120,000 次。 建议用户关注与受剥削儿童相关的内容的推荐引擎。 用户不断发布辱骂性材料,在检测到此类材料时延迟将其删除,并与监管此类材料的组织发生摩擦。
自从 Elon Musk 宣布“消除对儿童的剥削是第一要务”以来 鸣叫 十一月下旬。
在马斯克先生的领导下,Twitter 的安全主管艾拉欧文表示,她一直在迅速采取行动打击网站上普遍存在的儿童性虐待材料—— 就像在大多数技术平台上一样 – 在以前的所有者之下。 公司承诺,“Twitter 2.0”将有所不同。
但《纽约时报》的一篇评论发现,这些通常被称为儿童色情内容的图像一直存在于该平台上,包括当局认为最容易发现和消除的广泛传播的材料。
审查显示,在 Musk 于 10 月下旬掌权后,Twitter 基本上裁掉或解雇了曾遇到过该问题的员工,并且未能阻止当局先前发现的辱骂性图片的传播。 Twitter 也停止为一些被认为是其工作关键的检测软件付费。
根据监督这些论坛的反滥用组织的记录,暗网论坛上的人们一直在讨论 Twitter 如何保持一个平台的地位,他们可以在这个平台上轻松找到资料,同时避免被发现。
“如果你让下水道老鼠进来,”澳大利亚网络安全专员朱莉·英曼·格兰特 (Julie Inman Grant) 说,“你就知道瘟疫即将来临。”
Twitter 表示,这一努力在 1 月份加速,当时它暂停了 404,000 个账户。 “我们最近的做法更加激进,”该公司在一份声明中宣称 一系列推文 周三,称它还打击了搜索剥削性材料的人,自去年 12 月以来成功搜索减少了 99%。
欧文女士在接受采访时说,大部分停权涉及使用该材料或声称出售或分发该材料的帐户,而不是发布该材料的帐户。 她没有质疑平台上仍然公开儿童性虐待内容,并表示“我们绝对知道我们仍然遗漏了一些我们需要能够更好地检测到的东西。”
她补充说,推特正在招聘员工并部署“新机制”来解决这个问题。 “我们一直在不停地努力,”她说。
有线, 美国全国广播公司 和 其他的 详细介绍了 Twitter 在马斯克先生领导下与虐待儿童图像的持续斗争。 周二,伊利诺伊州民主党参议员 Richard J. Durbin, 问司法部 审查 Twitter 在解决问题方面的记录。
为了评估公司声称的进展,时报创建了一个个人 Twitter 帐户并编写了一个自动化计算机程序,可以在不显示实际图像的情况下搜索平台上的内容,查看这些图像是非法的。 材料并不难找。 事实上,推特通过其推荐算法帮助推广它——一种根据用户活动建议要关注的帐户的功能。
在这些推荐中有一个帐户,上面有一张赤膊男孩的头像。 根据加拿大儿童保护中心的说法,照片中的孩子是一名已知的性虐待受害者,该中心通过将其与先前识别图像的数据库进行匹配,帮助识别了时报平台上的剥削材料。
同一个用户关注了其他可疑账户,包括一个“喜欢”男孩性侵犯另一个男孩的视频的账户。 到 1 月 19 日,这段在推特上发布了一个多月的视频获得了超过 122,000 次浏览,近 300 次转发和超过 2,600 次点赞。 在加拿大中心为该公司标记后,推特随后删除了该视频。
在最初的几个小时的搜索中,计算机程序发现了一些以前被认为是滥用的图像——以及提供更多销售的账户。 泰晤士报在没有查看任何图片的情况下标记了这些帖子,并将网址发送到微软和加拿大中心运营的服务。
12 月下旬的一个帐户提供了打折的照片和视频“圣诞包”。 该用户在推特上发布了一张部分模糊的儿童图片,该儿童从大约 8 岁到青春期一直受到虐待。推特在五天后撤下了该帖子,但只是在加拿大中心向该公司发出反复通知之后。
总之,该计算机程序发现 10 名受害者的图像在多个帐户中出现了 150 多次,最近一次是在周四。 随附的推文经常宣传强奸儿童的视频,并包含指向加密平台的链接。
斯坦福互联网观察站主任、Facebook 前安全主管亚历克斯·斯塔莫斯 (Alex Stamos) 发现结果令人震惊。 “考虑到马斯克对儿童安全的关注,令人惊讶的是他们没有做最基本的事情,”他说。
另外,为了证实时报的调查结果,加拿大中心进行了一项测试,以确定一个涉及已知受害者的视频系列在 Twitter 上出现的频率。 分析师发现 40 多个帐户共享了 31 个不同的视频,其中一些被转发并点赞了数千次。 这些视频描述了一名年轻的青少年在几个月的时间里被网上勒索与一名青春期前的儿童发生性行为。
该中心还对其数据库中最露骨的视频进行了更广泛的扫描。 有超过 260 次点击,超过 174,000 次点赞和 63,000 次转发。
他们说,成立于 2006 年的 Twitter 从去年秋天开始使用更全面的工具来扫描儿童性虐待视频,而致力于查找非法照片和视频的工程团队仅在 10 个月前成立。 此外,该公司的信任和安全团队一直人手不足,尽管该公司在去年 4 月开始的广泛招聘冻结期间继续扩大他们,四名前员工表示。
多年来,该公司确实建立了内部工具来查找和删除一些图像,国家中心经常称赞该公司报告的完整性。
最近几个月,该平台的虐待报告系统也出现了问题,该系统允许用户在遇到儿童剥削材料时通知公司。 (推特提供了一个 指导 报告其平台上的滥用内容。)
《纽约时报》使用其研究账户报告了多个声称在 12 月和 1 月出售或交易内容的个人资料。 许多账户仍然活跃,甚至出现在时报自己的账户上,作为推荐关注。 该公司表示需要更多时间来弄清楚为什么会出现此类建议。
为了找到这些材料,Twitter 依赖于名为 Thorn 的反人口贩运组织开发的软件。 据知情人士透露,自马斯克接手以来,Twitter 一直没有向该组织付款,这大概是他为 削减开支. Twitter 也已停止与 Thorn 合作改进技术。 由于其他公司也在使用该软件,因此此次合作在整个行业都带来了好处。
欧文女士拒绝就 Twitter 与特定供应商的业务发表评论。
据在那里工作的人说,推特与国家失踪与受虐儿童中心的关系也受到影响。
该中心的高管约翰·谢汉 (John Shehan) 表示,他对 Twitter 的“高流动率”以及该公司“在信任和安全方面的地位,以及他们致力于从其平台上识别和删除儿童性虐待材料的承诺”感到担忧。
根据该中心的数据,在向马斯克先生的所有权过渡后,Twitter 最初对该中心的性虐待内容通知反应较慢,这种延迟对虐待幸存者来说非常重要,因为每发布一条新帖子,他们都会再次受害。 与其他社交媒体网站一样,推特与该中心有着双向关系。 当网站发现非法内容时,它会通知中心(然后可以通知执法部门)。 当该中心得知 Twitter 上有非法内容时,它会向该网站发出警报,以便删除这些图片和帐户。
去年年底,该公司的响应时间是之前所有权下一年前同期的两倍多,尽管该中心向其发送的警报较少。 2021 年 12 月,Twitter 平均用时 1.6 天回复了 98 条通知; 去年12月,马斯克先生接手公司后,用了3.5天回复了55条。到了1月份,情况有了很大的改善,用了1.3天回复了82条。
在该国提供相同功能的加拿大中心表示,它已经看到长达一周的延误。 在一个例子中,加拿大中心在 1 月 6 日检测到一段视频,描述了一名 8 至 10 岁的裸体女孩受到虐待。该组织表示,在 Twitter 删除该视频之前,它每天都会发出通知大约一周。
此外,Twitter 和美国国家中心似乎不同意 Twitter 有义务报告声称出售非法材料而不直接发布的帐户。
该公司尚未向国家中心报告其已暂停的数十万个账户,因为规则要求他们“高度确信此人正在故意传输”非法图像,而这些账户没有达到该门槛,欧文女士说。
国家中心的 Shehan 先生对规则的这种解释提出异议,并指出科技公司也有法律要求报告用户,即使他们只是声称出售或征集这些材料。 到目前为止,国家中心的数据显示,Twitter 每月发布了大约 8,000 份报告,仅占其已暂停帐户的一小部分。
澳大利亚监管机构英曼·格兰特 (Inman Grant) 女士表示,她一直无法与该公司在当地的代表沟通,因为自马斯克上任以来,她所在机构在澳大利亚的联系人已经辞职或被解雇。 她担心裁员会导致更多剥削性图像的贩运。
“这些本地联系人在解决时间敏感问题方面发挥着至关重要的作用,”曾在 Twitter 和微软担任安全主管的 Inman Grant 女士说。
欧文女士表示,该公司继续与澳大利亚机构保持联系,更广泛地说,她表示相信 Twitter 正在“变得更好”,同时承认未来的挑战。
“我们绝不是在拍拍自己的背说,’伙计,我们已经搞定了,’”欧文女士说。
根据加拿大中心发现的帖子,犯罪者继续在暗网论坛上交换关于如何在 Twitter 上找到这些材料的技巧。
1 月 12 日,一位用户描述了数百个“合法”推特账户,这些账户出售小男孩的视频,这些男孩被诱骗发送自己露骨的录音。 另一位用户将 Twitter 描述为观看各种类型性虐待视频的便捷场所。 “人们分享了这么多,”用户写道。
瑞安麦克 和 张彻 贡献报告。