报告敦促在人工智能变得更糟之前修复在线儿童剥削问题

　　斯坦福互联网观察站的一份新报告发现，26年前设立的打击在线儿童剥削的热线并没有发挥其潜力，需要技术和其他方面的改进来帮助执法部门追捕施虐者并拯救受害者。

　　由于新的人工智能技术有可能使其问题恶化，研究人员称之为“极具价值”的服务必须尽快得到修复。

　　该报告的作者之一、研究员谢尔比·格罗斯曼(Shelby Grossman)表示:“几乎可以肯定的是，在未来几年，CyberTipline将充斥着高度逼真的人工智能内容，这将使执法部门更难识别出需要救助的真实儿童。”

　　这项服务是由国会建立的，作为保护在网上被剥削的儿童的主要防线。根据法律规定，科技公司必须向该系统报告他们在平台上发现的任何儿童性虐待材料，该系统由国家失踪和受剥削儿童中心运营。在收到报告后，NCMEC试图找到发送或接收这些材料的人，以及受害者，如果可能的话。这些报告随后被送到执法部门。

　　虽然CyberTipline报告的数量之多让执法部门不堪重负，但研究人员表示，数量只是该系统的几个核心问题之一。例如，报告称，科技公司发送的许多报告缺乏重要细节，比如关于罪犯身份的足够信息。这使得执法部门很难知道应该优先处理哪些报告。

　　亚历克斯·斯塔莫斯(Alex Stamos)说:“目前整个系统存在重大问题，这些裂缝将成为人工智能生成全新CSAM的世界中的裂缝。”斯塔莫斯是斯坦福大学讲师和网络安全专家。

　　该系统在技术上落后，并受到来自政府和非营利技术平台的持续挑战的困扰:缺乏高技能的工程师，他们在科技行业可以获得高得多的薪水。有时候，这些员工甚至被提交报告的公司挖走了。

　　此外还有法律限制。根据报告，法院的判决导致NCMEC的工作人员在将一些文件发送给执法部门之前停止审查(例如，如果它们不是公开的)。许多执法官员认为，他们需要搜查令才能获取这些图像，这减慢了搜查过程。有时，需要多个搜查令或传票来确定同一罪犯。

　　系统也很容易分心。该报告显示，由于一个在多个平台上传播的表情包，NCMEC最近在一天内达到了100万份报告的里程碑——一些人认为这很有趣，另一些人则出于愤怒而分享。

　　斯塔莫斯说:“那一天实际上促使他们做出了一些改变。“他们花了几周的时间来完成积压的工作”，通过将这些图像更容易地聚集在一起。

　　2023年，CyberTipline收到了3600多万份举报，几乎全部来自在线平台。Facebook、Instagram和谷歌是提交报告数量最多的公司。总人数一直在急剧增加。他们来自像谷歌、亚马逊和meta这样的大公司，也来自较小的公司。

　　去年收到的举报中有近一半是可采取行动的，这意味着NCMEC和执法部门可以跟进。

　　数百份报告涉及同一名罪犯，其中许多包括多张图片或视频。2023年提交的报告中约有92%涉及美国以外的国家，与2008年相比发生了很大变化，当时大多数涉及美国境内的受害者或罪犯

　　有些是假警报。格罗斯曼告诉记者:“当执法部门收到这些他们认为绝对是成年人的报告时，他们会发疯。”“但该系统鼓励平台非常保守或报告潜在的边缘内容，因为如果发现这是CSAM，而他们知道却没有报告，他们可能会受到罚款。”

　　报告中提出的一个相对简单的解决方案是，改进科技平台对报告内容的标注方式，以区分广泛分享的表情包和值得进一步调查的内容。

　　斯坦福大学的研究人员采访了66名与CyberTipLine有关的人员，从执法人员到NCMEC的工作人员，再到在线平台的员工。

　　NCMEC表示，它期待着“在内部和与关键利益相关者探讨这些建议”。

　　“多年来，报告的复杂性和针对儿童的犯罪的严重性不断发展。因此，将新兴的技术解决方案运用到整个网络举报流程中，会让更多的儿童得到保护，让违法者承担责任。”

　　该报告的其他发现包括:

　　- CyberTipline报告表格没有专门的字段来提交与聊天有关的材料，例如性勒索信息。美国联邦调查局最近警告说，针对儿童的性勒索案件“大幅增加”，其中包括经济性勒索，即有人威胁说，除非受害者付钱，否则就公布有损形象的照片。

　　警探们告诉斯坦福大学的研究人员，即使他们提供了详细的书面描述来强调这些犯罪的严重性，他们也很难说服上级优先处理这些犯罪。格罗斯曼说:“当他们读到它时，他们畏缩不前，他们真的不想考虑这个问题。”

　　-许多执法官员表示，由于时间和资源限制，他们无法对所有报告进行全面调查。一个侦探一年可能要负责2000份报告。

　　-在美国以外，特别是在较贫穷的国家，儿童剥削报告面临的挑战尤为严峻。执法机构可能没有可靠的互联网连接，“像样的电脑”，甚至没有汽油让汽车执行搜查令。

　　-美国参议院12月通过的立法将要求网络平台向网络热线报告儿童性交易和网络诱惑，并给予执法部门更多时间调查儿童性剥削。目前，这条热线并没有提供直接的举报涉嫌性交易的方法。

　　虽然一些倡导者提出了更具侵入性的监控法律，以抓捕滥用者，但Facebook和雅虎(Yahoo)前首席安全官斯塔莫斯表示，他们应该先尝试更简单的解决方案。

　　“如果你想把更多恋童癖者关进监狱，就没有必要侵犯用户的隐私。他们就坐在那里，”斯塔莫斯说。“该系统在获取现有信息并将其转化为起诉方面并不是很好。——ap

　　×