据英国广播公司(BBC)报道,英国达勒姆市的英国警方准备上线一个预测性人工智能系统,该系统将决定一名嫌疑人是否应该被拘留。该系统被称为Hart,代表危害评估风险工具,旨在根据未来犯罪的低、中或高风险对个人进行分类。警方计划在未来几个月内将其投入使用,以测试其在监管专家不依赖系统判断的案件中的有效性。
人工智能评估可以用于许多不同的决定,比如嫌疑人是否应该被关押更长的时间,以及是否应该在指控发出之前或之后设定保释。据英国广播公司报道,哈特的决策是基于2008年至2013年间收集的达勒姆警方数据,并考虑了犯罪历史、当前犯罪的严重性以及嫌疑人是否有逃跑风险等因素。在2013年的初步测试中,犯罪嫌疑人的行为被跟踪两年,哈特的低风险预测准确率为98%,高风险预测准确率为88%。
Hart只是全球执法官员、**和监狱系统使用的众多算法和预测软件工具之一。尽管他们可能会提高警察部门的效率,但奥威尔式的算法刑事司法系统的暗流却得到了令人不安的硬数据的支持。
在ProPublica去年公布的一项彻底调查中,发现这些风险评估工具存在严重缺陷,内在的人类偏见使它们将黑人被告作为未来罪犯的可能性增加了一倍,将白人被告视为低风险独立罪犯的可能性更大。今天的许多算法系统,包括Facebook、Google和其他科技公司使用的算法系统,也同样面临着向系统中注入偏见的风险,因为人类的判断最初是用来**软件的。
达勒姆警方很快向BBC保证,哈特的决定只会在初步和实验性使用期间提供“咨询”。由于该系统将考虑性别和邮政编码等因素,执法部门和学术顾问表示,该系统仍将不完整,永远不应为决策提供全部信息。
据英国广播公司报道,在议会对算法决策进行调查后提交的这份报告的作者写道:“简单地居住在一个给定的邮政编码中对结果没有直接影响,而是必须以数千种不同的方式与所有其他预测因子相结合,才能得出最终的预测结论。”。包括剑桥大学循证警务中心主任劳伦斯·谢尔曼(Lawrence Sherman)教授在内的作者还说,哈特将内置一个审计系统,跟踪其如何得出结论。
...详细说明了为帮助需要帮助的人而采取的步骤。其中包括使用人工智能“检测可能有人表达**想法的帖子或现场视频”,确定合适的第一反应者,然后雇用更多的人“审查**或自残的报告”。 ...
...励积极的互动。Instagram已经在发布欺凌和其他有害内容后使用人工智能来检测这些内容。但现在,Instagram甚至在发布评论之前就将使用人工智能来检测潜在的攻击性评论。 ...
...的Rekognition人脸识别软件将28名美国国会议员确定为警方嫌疑人,假阳性对有色人种的影响不成比例。 ...
... 微软的目标是通过使用人工智能拼写器100来再次检查你的搜索词来解决这个问题。如果你在Google上搜索时输入了错误的内容,你会注意到搜索引擎给你的一点建议,以确保你在寻找正确的内...
如果你很难为某一天制定时间表,为什么不让人工智能为你做呢?微软刚刚发布了一个有趣的“待办事项”应用程序的更新,现在它将尝试预测你白天想要实现的目标。 ...
...uctify的初创公司有一个它声称的解决方案:智能眼镜,它使用人工智能来监视你在看什么,并促使你注意。取决于你的世界观,它是你梦想的产物,或者是一场生产力黑客的噩梦。 这种眼镜被称为Specs,今天在Indiegogo...
美国公民自由联盟(ACLU)对底特律警方提出正式投诉,称这是首个已知的因面部识别技术错误而导致非法逮捕的案例。 非洲裔美国人罗伯特·朱利安·博尔恰克·威廉姆斯(Robert Julian Borchak Williams)因面部识别系统将...
一款名为“咯咯笑”的新社交应用正在将自己打造成一个仅限女孩使用的社交平台。要注册,用户必须**。虽然这听起来不太具侵略性,但该应用程序随后使用“生物测量性别验证软件”来确定此人是否是**。如果这还不够糟糕...
...全。”。“每天,我们的警官都会被告知他们应该注意的嫌疑人;(面部识别)提高了这种战术的有效性。” 此前,英国执法部门对面部识别的使用仅限于小型审判和音乐会、足球比赛等公共活动。这种部署受到广泛批评,一...