微软发布了一个新的工具，用于识别那些在网络聊天中挑逗儿童虐待的儿童掠夺者。基于微软一直在Xbox上使用的技术的Artemis项目，现在将提供给其他具有聊天功能的在线公司。与此同时，多个平台正通过在聊天窗口发起对话，对付以儿童***为目标的儿童掠夺者。

Artemis的工作原理是识别特定的单词和语音模式，并标记可疑的信息供人类主持人审阅。然后主持人通过联系警方或其他执法人员来决定是否将情况升级。如果主持人发现对儿童进行性剥削或虐待儿童图片的请求，将通知国家失踪和受剥削儿童中心采取进一步行动。

“有时我们在站台上大喊大叫— 而且在每个有在线聊天的平台上都存在滥用— 但我们应该赞扬他们建立机制，” 非营利科技组织Thorn的CEO朱莉·科尔多瓦说，该组织致力于防止网上对儿童的***。“如果有人说，‘哦，我们不知道’不受虐待’ 我’我要对他们说，‘好吧，你在找吗？’”

去年12月，《****》发现，网络聊天平台是儿童掠夺者肥沃的“猎场”，他们先与受害者交朋友，然后在网上和场外暗示自己进入儿童生活，以此培养受害者。大多数主要的平台都在处理儿童掠夺者的一些虐待行为，包括微软的xboxlive。《****》指出，2017年，一名男子因通过Xbox Live聊天威胁儿童**和谋杀被判处15年监禁。

据英国《****》报道，网络儿童***的检测和处理政策因公司而异，许多涉案公司都对潜在的隐私侵犯持谨慎态度。2018年，Facebook宣布了一个捕捉掠食者的系统，该系统将观察一个人是否能快速联系到许多孩子，以及他们多久被阻止一次。但Facebook也可以获得比其他平台多得多的用户数据。

Thorn认为，微软的工具很重要，因为它可以供任何使用聊天的公司使用，并有助于为捕食者的检测和监测制定行业标准，有助于未来预防工具的开发。科尔多瓦说，聊天很难监控潜在的虐待儿童行为，因为谈话中可能会有如此多的细微差别。

纽约约翰·杰伊刑事司法学院心理学教授伊丽莎白·杰格利奇（Elizabeth Jeglic）说，儿童掠夺者可以潜伏在在线聊天室里寻找受害者，就像他们在离线时一样，但他们可以更直接地接触到受害者。她写了大量关于保护儿童免受在线***的文章，尤其是，梳洗打扮的通常很微妙的做法。“在30分钟内，他们可能会和一个孩子发生性关系，”她说。“当面接触孩子比较困难，但在网上，捕食者可以进去，试水，如果不管用，就去找下一个受害者。”

科杜亚补充说，它不会停在一个平台上。她说：“他们会尝试隔离孩子，并将跨多个平台跟踪他们，这样他们就可以有多个开发点。”。捕食者可能会向孩子索要照片，然后加大对视频的要求，从而提高性内容的水平。“孩子内疚和恐惧缠身，这就是捕食者横穿平台的原因：他可以说‘哦，我认识你所有的朋友在Facebook上，如果你不给我发视频，我会把第一张照片发给你初中的每个人。’”

微软表示，Artemis的开发已经超过14个月，从2018年11月微软“360跨行业黑客大赛”开始，该大赛由两个儿童保护组织WePROTECT全球联盟和儿童尊严联盟共同赞助。包括Roblox、Kik、Thorn和Meet小组在内的一个团队与微软合作完成了这个项目。由汉尼·法里德领导，他开发了PhotoDNA工具，用于在线检测和报告儿童性剥削的图像。

然而，关于Artemis工具在实践中如何工作的一些细节还不清楚，而且可能会因使用它的平台而异。它’s没有说明Artemis是否会与使用端到端加密的聊天程序合作，或者将采取什么措施来防止主持人中潜在的PTSD。

微软表示，Thorn将负责管理该项目，并处理许可和支持事宜，以便让参与项目的公司加入。

Cordua说，虽然Artemis有一些最初的局限性-它目前只能用英语-这个工具是朝着正确方向迈出的一大步。由于使用该工具的每家公司都可以为自己的受众定制（游戏平台上的聊天与社交应用上的聊天明显不同），因此将有足够的机会调整和完善该工具的工作方式。而且，她说，现在是时候从自我监管的失败做法，转向积极预防儿童美容和虐待。

微软在其博客文章中补充说，Artemis工具“绝非灵丹妙药”，而是朝着检测***者在网上对儿童进行修饰迈出的第一步，微软称之为“重大”问题。

“第一步是我们需要更好地识别发生在哪里，” 科尔多瓦说。“但是，所有拥有任何聊天或视频的公司都应该这么做，否则他们就是同谋，允许在他们的平台上虐待儿童。”