Facebook难以赢得我们的信任的一个原因是，在个人层面上，公司里没有人能告诉我们为什么我们在新闻提要中看到了我们所看到的。该公司可以笼统地谈论feed的内容——主要是来自朋友和家人的帖子，根据Facebook认为你与他们的亲密程度进行排名——但作为一名工程师，他们无法解释为什么这些帖子会按照他们的顺序出现。

几年前，我采访了克里斯·考克斯（Chris Cox），他是整个公司的产品负责人，问了一些我一直想知道的关于我的feed的问题。有时，我会在离开一个小时左右后打开Facebook，新闻提要会显示我已经看到的一两篇帖子。这是想让我添加评论吗？Facebook是否认为在我第二次看到它后，我更有可能分享它？不，考克斯说。那只是一个错误。

有两个原因使我无法摆脱这段对话。首先，我们谈论Facebook主要是从它的力量的角度，这个bug很好地提醒我们，新闻提要和其他任何软件一样，只是一个有缺陷的软件。第二，这是我能记得的唯一一次听到关于我自己的新闻提要内容的明确消息。

本周，当我阅读风险投资家弗雷德·威尔逊（Fred Wilson）关于“可解释性”的帖子时，我又想起了这段对话。威尔逊开始在谷歌搜索栏下方的内容提要中看到一大堆关于肯德里克·拉马尔的内容，并想知道为什么。

这让他找到了一家名为B***ai的人工智能初创公司，该公司试图构建能够最终向用户解释其决策的系统。盆景写道：

Explainability is about trust. It’s important to know why our self-driving car decided to slam on the breaks, or maybe in the future why the IRS auto-audit bots decide it’s your turn. Good or bad decision, it’s important to have visibility into how they were made, so that we can bring the human expectation more in line with how the algorithm actually behaves.

Wilson思考了这可能最终如何在消费品中体现出来：

What I want on my phone, on my computer, in Alexa, and everywhere that machine learning touches me, is a “why” button I can push (or speak) to know why I got that recommendation. I want to know what source data was used to make the recommendation, and I’d also like to know what algorithms were used to produce confidence in it.

是时候在Facebook上开始一场关于可解释性的对话了。为什么你的新闻提要上出现了那篇极具党派色彩的文章？为什么你看到的每一篇关于早餐的帖子都是来自一个随机的熟人，而不是你大学室友的新生儿？为什么在我和一个朋友在现实生活中谈论这个广告几分钟后，我就在我的feed中看到了这个广告？

回答“为什么”这个问题对Facebook来说是一个巨大的技术挑战。但是解决这个问题对于建立用户的信任有很大的帮助。随着该公司继续鼓吹其在人工智能领域的工作，可解释性应该是谈话的一个重要部分。