苹果承诺在不牺牲隐私的情况下提供人工智能

近年来，像深度学习这样的人工智能工具突飞猛进地发展起来，其动力来自两个主要资源：廉价的处理能力，由云提供；一堆堆的用户数据。对于像苹果这样的公司来说，这是一个问题，因为它对用户隐私的要求是前所未有的。它如何在不不断将数据发送到云端的情况下提供深度学习智能？它首先是如何获得这些数据的？...

近年来，像深度学习这样的人工智能工具突飞猛进地发展起来，其动力来自两个主要资源：廉价的处理能力，由云提供；一堆堆的用户数据。对于像苹果这样的公司来说，这是一个问题，因为它对用户隐私的要求是前所未有的。它如何在不不断将数据发送到云端的情况下提供深度学习智能？它首先是如何获得这些数据的？

“我们在您的设备上执行此操作，将您的个人数据置于您的控制之下。”

在今年的WWDC上，该公司承诺它可以摆平这个圈子。新的深度学习功能，比如照片中的面部识别和信息中的对话建议，都被展示出来了，但苹果强调所有的计算都是在你的设备上进行的。”当涉及到对你的数据进行分析时，”苹果的克雷格·费德里吉说我们在你的设备上这样做，让你的个人数据在你的控制之下。

苹果还表示，它将使用一种称为“差异隐私”的技术来梳理用户的数据，同时保持匿名。这包括散列、子分段和噪声注入等技术来对自己的数据进行置乱。这使得理论上很难将信息追溯到单个用户，同时仍然为苹果的计算机科学家提供可行的数据集来训练他们的深度学习工具。

阅读更多：人工智能和深度学习，解释

苹果表示，它甚至还聘请了第三方隐私研究人员（以及差异隐私专家）宾夕法尼亚大学的亚伦·罗斯（Aaron Roth）来评估公司的努力。他给人留下了深刻的印象，并在台上表示，苹果的努力使其成为“当今科技公司中明确的隐私领导者”

问题是：这其中有多少是虚张声势？与谷歌相比，苹果的人工智能有多好？谷歌并没有因为保证用户隐私而受到束缚？深度学习将如何在当地运作？使用本地深度学习的应用程序可能会比较慢（只在**上工作，而不是在服务器机架上工作），它们可能会更大（下载所有这些神经网络模型），平衡这些限制可能意味着它们最终无法像竞争对手那样工作。

不幸的是，虽然我们可以很快判断苹果的设备上的深度学习功能有多好（它对你的照片分类比谷歌好还是差？两个都试一下，隐私模型的成败并不总是那么明显。问题往往会随着时间的推移而出现，尽管苹果这样说，但安全研究人员发现，“匿名化”的数据并不总是匿名的。我们将不得不密切关注公司的业绩——而不仅仅是它的表现——才能找到答案。