蘋果承諾在不犧牲隱私的情況下提供人工智慧

近年來，像深度學習這樣的人工智慧工具突飛猛進地發展起來，其動力來自兩個主要資源：廉價的處理能力，由雲提供；一堆堆的使用者資料。對於像蘋果這樣的公司來說，這是一個問題，因為它對使用者隱私的要求是前所未有的。它如何在不不斷將資料傳送到雲端的情況下提供深度學習智慧？它首先是如何獲得這些資料的？...

近年來，像深度學習這樣的人工智慧工具突飛猛進地發展起來，其動力來自兩個主要資源：廉價的處理能力，由雲提供；一堆堆的使用者資料。對於像蘋果這樣的公司來說，這是一個問題，因為它對使用者隱私的要求是前所未有的。它如何在不不斷將資料傳送到雲端的情況下提供深度學習智慧？它首先是如何獲得這些資料的？

“我們在您的裝置上執行此操作，將您的個人資料置於您的控制之下。”

在今年的WWDC上，該公司承諾它可以擺平這個圈子。新的深度學習功能，比如照片中的面部識別和資訊中的對話建議，都被展示出來了，但蘋果強調所有的計算都是在你的裝置上進行的。”當涉及到對你的資料進行分析時，”蘋果的克雷格·費德里吉說我們在你的裝置上這樣做，讓你的個人資料在你的控制之下。

蘋果還表示，它將使用一種稱為“差異隱私”的技術來梳理使用者的資料，同時保持匿名。這包括雜湊、子分段和噪聲註入等技術來對自己的資料進行置亂。這使得理論上很難將資訊追溯到單個使用者，同時仍然為蘋果的電腦科學家提供可行的資料集來訓練他們的深度學習工具。

閱讀更多：人工智慧和深度學習，解釋

蘋果表示，它甚至還聘請了第三方隱私研究人員（以及差異隱私專家）賓夕法尼亞大學的亞倫·羅斯（Aaron Roth）來評估公司的努力。他給人留下了深刻的印象，併在臺上表示，蘋果的努力使其成為“當今科技公司中明確的隱私領導者”

問題是：這其中有多少是虛張聲勢？與谷歌相比，蘋果的人工智慧有多好？谷歌並沒有因為保證使用者隱私而受到束縛？深度學習將如何在當地運作？使用本地深度學習的應用程式可能會比較慢（只在**上工作，而不是在伺服器機架上工作），它們可能會更大（下載所有這些神經網路模型），平衡這些限制可能意味著它們最終無法像競爭對手那樣工作。

不幸的是，雖然我們可以很快判斷蘋果的裝置上的深度學習功能有多好（它對你的照片分類比谷歌好還是差？兩個都試一下，隱私模型的成敗並不總是那麼明顯。問題往往會隨著時間的推移而出現，儘管蘋果這樣說，但安全研究人員發現，“匿名化”的資料並不總是匿名的。我們將不得不密切關註公司的業績——而不僅僅是它的表現——才能找到答案。