随着公司和研究人员发现利用机器学习分析实时视频片段的新方法，自动化监控将变得越来越普遍。英国和印度科学家的一个新项目展示了这项技术的一个可能用途：借助配备摄像头的无人机识别人群中的暴力行为。

在一篇题为“天空之眼”的论文中，研究人员描述了他们的系统。它使用一架简单的Parrot AR四轮直升机（售价约200美元）通过移动互联网连接传输视频片段，以进行实时分析。一种使用深度学习训练的算法估计视频中人类的姿势，并将其与研究人员指定为“暴力”的姿势相匹配。在该项目中，只包括五种姿势：勒死、拳打、踢腿、射击和刺伤。

科学家们希望，像他们这样的系统将用于检测公共场所和大型活动中的犯罪。剑桥大学的首席研究员Amarjot Singh告诉他，他是受2017曼彻斯特爆炸案等事件的驱使。Singh说，如果监视摄像机能自动发现可疑行为，比如有人在长时间内离开一个袋子无人看管，那么这样的攻击是可以预防的。

然而，这项研究需要谨慎对待，特别是关于其准确性的声明。辛格和他的同事报告说，他们的系统在识别“暴力”姿势方面的准确率为94%，但他们注意到，画面中出现的人越多，这个数字越低（当观察10个人时，准确率下降到79%）

然而，更重要的是，这些数字并不代表实际使用情况。为了训练和测试他们的人工智能，研究人员录制了志愿者假装互相攻击的视频片段。志愿者之间的距离非常大，并以夸张的动作互相攻击。辛格承认，这并不能完美地反映监控系统在野外的表现，但他表示，他计划在印度即将到来的两个节日中测试无人机：Technozion和Spring Spree，这两个节日都在尼特瓦兰加尔举行。”我们有权在一个月内飞越[技术锡安]，并正在为另一个寻求许可，”辛格说。

在这个领域工作的研究人员经常注意到阶段性测试和真实世界用例之间存在巨大差异。在后者中，视频片段往往模糊，人群更大，人们的行为更微妙，更容易被误解。最后一点特别有说服力，因为辛格和他的同事没有提供系统假阳性率的任何数字——例如，它将非暴力行为识别为暴力行为的频率。比如，想想给某人击掌可能会被误解为一种暴力姿态(辛格否认该系统会犯这种错误，但表示他和他的团队尚未提供支持这一说法的统计数据。）

但即使这个特殊的系统还没有在野外证明自己，它也清楚地说明了当代研究的方向。使用人工智能识别身体姿势是一个常见的问题，像Facebook这样的大型科技公司在这方面发表了重要的研究成果。随着廉价无人机和快速移动互联网的兴起，捕获和传输实时视频片段比以往任何时候都要容易。将这些部件组合在一起创建复杂的监视并不困难。

问题是：这项技术将如何使用，谁将使用它？今年早些时候，一些专家在谈到自动监控时说，这些系统已经成熟，可以被执法和独裁**滥用。

美国公民自由联盟（ACLU）高级政策分析师杰伊·斯坦利（Jay Stanley）表示，这项技术将对公民社会产生寒蝉效应，因为人们理所当然地担心自己会受到不断的监控和分析。”我们希望人们不仅自由，而且感到自由。这意味着他们不必担心未知的、看不见的观众会如何解读或曲解他们的每一个动作和话语，”斯坦利说。

Meredith Whittaker是一位研究人工智能的社会影响的研究人员，他在推特上说，辛格和他的同事的论文表明，该领域存在着“日益严重的道德危机”，科学家们未能对他们正在帮助构建的技术的潜在误用进行研究。惠塔克告诉《边缘》杂志，该论文的研究方法值得商榷，没有足够的时间来研究这项工作的伦理意义，这简直是天方夜谭。

辛格站在边缘为自己的工作辩护。他说，尽管有这些批评，它可能会对世界产生积极影响：制止犯罪和恐怖主义。他建议可能需要制定新的法规，以避免此类技术被滥用，但他承认，对于惠塔克和斯坦利等专家所预测的令人担忧的情景，“没有好的答案”任何东西都可以用来做好事。任何东西都可以用来做坏事，”辛格说。

更新美国东部时间6月6日下午12:20：该报道已更新，包括研究人员的补充评论，并明确无人机将在哪些节日进行测试。

更正美国东部时间6月8日下午3:30：一张照片标题错误地提到了本文顶部的无人机是由DJI**的。实际上是从云南来的。