**和私人公司正在快速部署人工智能系统，但公众缺乏在这些系统出现故障时追究其责任的工具。这是AI Now发布的一份新报告中的主要结论之一。AI Now是一个研究小组，其成员来自微软和谷歌等科技公司，隶属于纽约大学。

该报告探讨了人工智能和算法系统的社会挑战，研究人员称之为“责任差距”，因为这项技术“跨核心社会领域”集成。他们提出了十项建议，包括呼吁**监管面部识别（微软总裁布拉德·史密斯也在本周倡导这一点）和针对人工智能产品的“广告真实性”法律，这样公司就不能简单地利用这项技术的声誉来销售他们的服务。

大型科技公司发现自己陷入了人工智能的淘金热，他们冲进了从招聘到医疗保健等广泛的市场，销售他们的服务。但是，正如AI现任联合创始人、谷歌开放研究小组负责人梅雷迪斯·惠塔克（Meredith Whittaker）对《边缘》（The Verge）所说，“他们关于利益和效用的许多主张都没有得到公开的科学证据的支持。”

Whittaker举了IBM的Watson系统为例，根据泄露的内部文件，该系统在纪念斯隆·凯特林癌症中心的试验诊断中给出了“不安全和不正确的治疗建议”Whittaker说：“他们的营销部门对[他们的技术]近乎神奇的特性所作的声称从未得到同行评议研究的证实。”。

《AI Now》报告的作者说，这起事件只是2018年**和大型科技公司部署的AI和算法系统的“连锁反应丑闻”之一。其他指控包括Facebook帮助促成缅甸种族灭绝，据透露，作为Maven项目的一部分，谷歌正在帮助军方为无人机构建人工智能工具，以及剑桥分析公司丑闻。

在所有这些案例中，硅谷最有价值的公司都遭到了公众的强烈**和内部的异议。这一年，谷歌员工因公司五角大楼合同而辞职，微软员工向公司施压，要求其停止与移民和海关执法局（ICE）的合作，谷歌、优步、eBay和Airbnb的员工**，**涉及性骚扰的问题。

惠塔克说，这些**活动得到了劳工联盟和AI Now’s own等研究计划的支持，已经成为“一股出乎意料的、令人满意的公众问责力量”

但报告很明确：公众需要更多。当**采用自动决策系统（ADS）时，对公民正义的威胁尤其明显。其中包括用于计算监狱刑期和分配医疗援助的算法。报告作者说，通常情况下，软件被引入这些领域是为了降低成本和提高效率。但这一结果往往导致系统做出无法解释或上诉的决定。

AI Now的报告列举了许多例子，包括患有脑瘫的阿肯色州居民塔米·多布斯（Tammy Dobbs），她在没有任何解释的情况下，将医疗补助计划提供的家庭护理从每周56小时减少到32小时。法律援助成功地起诉了阿肯色州，算法分配系统被判违宪。

惠塔克和人工智能的同事、微软研究员凯特·克劳福德（Kate Crawford）表示，将广告整合到**服务中的速度已经超过了我们审计这些系统的能力。但是，他们说，可以采取具体步骤来纠正这一问题。这些措施包括要求向****服务的技术供应商放弃贸易保密保护，从而使研究人员能够更好地检查他们的算法。

克劳福德说：“你必须能够说，‘你被切断了医疗补助，原因就在这里，’而黑匣子系统是做不到这一点的。”如果我们想让公众承担责任，我们必须能够审计这项技术。”

他们说，另一个需要立即采取行动的领域是面部识别和情感识别。在中国、美国和欧洲，警察部队越来越多地使用前者。例如，亚马逊的Rekognition软件已经由奥兰多和华盛顿县的警方部署，尽管测试表明，该软件在不同种族中的表现可能有所不同。在一项使用Rekognit识别国会议员的测试中，非白人议员的错误率为39%，而白人议员的错误率仅为5%。对于情感识别，公司声称技术可以扫描某人的脸，读取他们的性格甚至意图，AI Now的作者说，公司经常兜售伪科学。

尽管存在这些挑战，惠塔克和克劳福德表示，2018年已经表明，当人工智能的责任和偏见问题暴露出来时，技术员工、立法者和公众愿意采取行动，而不是默许。

关于硅谷最大的公司酝酿的算法丑闻，克劳福德说：“他们的‘快速行动，打破现状’思想已经打破了许多我们非常珍视的东西，现在我们必须开始考虑公众利益。”

惠塔克说：“你所看到的是，人们意识到网络乌托邦式的技术修辞与这些技术在日常生活中的实际应用之间的矛盾。”