谷歌今天将推出其第二代Tensor处理器单元，这是一个云计算硬件和软件系统，支撑着谷歌一些最雄心勃勃、影响最深远的技术。首席执行官sundarpichai今天上午在公司I/O开发者大会的主题演讲中宣布了这一消息。

第一个TPU，作为一种专用于机器学习的专用芯片，去年被展示出来，是由Apple的人工智能系统用来作为其预测和决策技能的基础。每次有人向谷歌的搜索引擎输入一个查询时，谷歌也会使用TPUs的计算能力。最近，这项技术已经被应用到机器学习模型中，用于改进Google Translate、Google Photos和其他可以利用新的人工智能训练技术的软件。

通常，这项工作是使用商用GPU完成的，通常来自Nvidia-Facebook使用Nvidia GPU作为其Big Basin AI培训服务器的一部分。但在过去几年中，谷歌选择了自行构建部分硬件，并为自己的软件进行优化。

从这个意义上说，最初的TPU是专门为与Google的TensorFlow协同工作而设计的，TensorFlow是许多用于机器学习的开源软件库之一。然而，由于谷歌的进步和软硬件的整合，TensorFlow已经成为构建人工智能软件的领先平台之一。这种优化，再加上谷歌大脑（googlebrain）及其DeepMind子公司的内部人才，是谷歌在更广泛的人工智能领域保持领先地位的部分原因。

现在，谷歌表示，第二个版本的TPU系统已经全面投入使用，并正在其Google计算引擎中部署，其他公司和研究人员可以利用这个平台来获取类似于亚马逊AWS和微软Azure的计算资源。谷歌当然会使用这个系统本身，但它也将新的TPU视为其他公司可以利用的无与伦比的资源。

为此，该公司开发了一种方法，将64个TPU组装成TPU Pods，有效地将一个Google服务器机架变成了一台计算能力为11.5petaflops的超级计算机。谷歌人工智能和机器学习的首席科学家李飞（音译）说，即使靠自己的力量，第二代tpu也能够“提供令人震惊的180万亿次运算能力，而且是为推动当今机器学习的那种数字运算而构建的”。

谷歌大脑团队的高级研究员杰夫•迪恩（jeffdean）表示，这给谷歌带来了超越竞争对手产品的优势，即实验的速度和自由度迪恩在本周的新闻发布会上对一群记者说：“我们新的大规模翻译模式需要一整天的时间，才能在32个世界上最好的商用GPU上进行训练。”而TPU吊舱的八分之一可以在一个下午完成这项工作。”

除了速度，第二代TPU还将允许谷歌的服务器同时进行推理和训练。以前的TPU只能进行推断——例如，依靠Google云实时处理数据以产生结果。另一方面，训练是人工智能算法的发展过程，这需要额外的资源。

机器学习，作为现代人工智能研究的基石，有效地意味着输入数十万个例子的算法，以允许学习以一种从未明确编程过的方式执行任务。这表现在许多不同的消费产品上，比如Google Translate几乎能瞬间将英语句子转换成汉语句子，或者AlphaGo能以超人的熟练程度玩深奥的象棋般的棋盘游戏。

这一切都归结为在大量数据上训练神经网络，并将其转化为一个可行的算法——这需要计算能力。这些训练系统，在更一般的意义上，通过大量的数字运算来改进人工智能软件。因此，硬件功能越强大，获得结果的速度就越快。”如果我们能把每个实验的时间从几周减少到几天或几小时，这就提高了每个做机器学习的人更快地迭代和做更多实验的能力，”迪恩说。

因为这种新型的TPU现在能够同时进行推理和训练，研究人员可以比以前更快地部署更通用的人工智能实验——只要软件是使用TensorFlow构建的。谷歌还重申了其对开源模式的承诺，向同意公布研究结果甚至可能开放代码的研究人员提供TPU资源。该公司将该项目称为TensorFlow研究云，并将免费提供对1000个TPU集群的访问。