IBM秘密使用纽约警察局闭路电视摄像机的镜头来开发监控技术，可以根据年龄和肤色等身体特征搜索个人。这是根据一份来自Intercept的报告，该报告引用了公司机密文件，以及对IBM前研究人员和纽约市警察局官员的采访。

尽管IBM宣传其视频分析软件能够利用年龄和种族等特征搜索个人，但该公司此前并未披露其使用纽约监控录像来开发这项技术。IBM在多大程度上与纽约市警察局合作，以及合作过程中的保密性，是一个令人担忧的例子，科技公司与**合作，在没有公众监督的情况下建立监控系统。

像人工智能这样的新技术增强监视的能力多年来一直令隐私权倡导者担忧。我们不仅知道这些系统可能存在种族偏见（这意味着它们在识别特定肤色的人时容易犯更多错误），而且还没有明确的立法来规范它们的使用。

根据截获的故事，纽约警察局于2007年首先通过微软子公司Vexcel收购了IBM的视频分析软件。该技术开始在纽约市反恐指挥中心进行测试，该中心是下曼哈顿安全倡议的一部分，2010年3月，纽约警察局发言人彼得·唐纳德（Peter Donald）告诉Intercept，该软件当时运行在该中心512台摄像机中的“不到50台”上。

据报道，到2012年，IBM正在“对纽约人的身体和面部进行视频分析软件测试，在他们公开行走时捕获并存档他们的身体数据”。该公司随后利用这些视频片段改进其搜索功能，让运营商建立基于年龄、性别、头发颜色、，面部毛发和肤色。

纽约市警察局表示，它从未实际使用过这些功能，希望避免“出现任何形式的技术种族貌相的暗示”。一位发言人告诉截取者，“虽然向纽约市警察局提供了具有种族或肤色搜索功能的工具，但纽约市警察局明确拒绝了这些工具。”

然而，前IBM研究员Rick Kjeldsen声称这是误导性的。Rick Kjeldsen说，他在2009年至2013年间参与了纽约警察局的项目“如果纽约警察局告诉我们，‘我们不想那样做’，我们就不会探索[搜索功能]，”克耶尔德森对截取说没有一家公司会在没有客户兴趣的地方花钱。”

Kjeldsen说，参与该项目的一些IBM研究人员担心该技术可能被滥用。他补充说，他的主要反对意见之一是没有公开披露如何部署这些潜在的侵入性工具。”“这就是我们需要对话的地方，”克耶尔森说这正是为什么这方面的知识应该变得更广泛，以便我们能够弄清楚这一点。”

纽约市警察局表示，它在2016年停止使用IBM的技术。当Verge联系到IBM时，IBM不会回答具体问题，但它发表声明说，“仍然绝对致力于负责任地推进新技术。”