Facebook的工程师们开发了一种新的方法来帮助他们识别和防止有害的行为，比如用户散布垃圾邮件、欺骗他人、买卖武器和毒品。他们现在可以通过在并行版本的Facebook上发布人工智能机器人来模拟坏人的行为。然后，研究人员可以在模拟中研究机器人的行为，并用新的方法来阻止它们。

这个模拟器名为WW，发音为“Dub Dub”，基于Facebook的真实代码库。该公司在今年早些时候发表了一篇关于WW的论文（之所以称之为“模拟器”，是因为它是WWW（万维网）的截断版本），但在最近的一次圆桌会议上分享了更多关于这项工作的信息。

这项研究由Facebook工程师马克•哈曼（markharman）和该公司位于伦敦的人工智能部门牵头。哈曼在接受记者采访时说，WW是一种非常灵活的工具，可以用来限制网站上各种各样的有害行为，他举了一个例子，利用这种模拟来开发针对骗子的新防御措施。

在现实生活中，骗子通常通过搜索用户的友谊团体来寻找潜在的标记来开始他们的工作。为了在WW中对这种行为进行建模，Facebook工程师们创建了一组“无辜”机器人作为目标，并培训了一些“坏”机器人，他们探索网络试图找到它们。工程师们随后尝试了不同的方法来阻止坏机器人，引入各种限制，比如限制机器人每分钟发送的私人消息和帖子的数量，看看这是如何影响他们的行为的。

哈曼将这项工作与城市规划师在繁忙道路上试图减少超速行驶的工作进行了比较。在这种情况下，工程师在模拟器中模拟交通流，然后在某些街道上试验引入减速带之类的东西，看看它们有什么效果。WW模拟允许Facebook做同样的事情，但与Facebook用户。

哈曼说：“我们将‘减速带’应用到我们的机器人可以执行的动作和观察中，如此快速地探索我们可以对产品做出的可能改变，以抑制有害行为而不伤害正常行为。”。“我们可以将其扩展到数万或数十万个机器人，因此，并行地搜索许多不同的可能的[…]约束向量。”

在机器学习中，模拟你想学习的行为已经足够普遍了，但是WW项目是值得注意的，因为模拟是基于真实版本的Facebook。Facebook称其方法为“基于网络的模拟”

哈曼说：“与传统的模拟不同，在网络模拟中，一切都是模拟的，而动作和观察实际上是通过真实的基础设施进行的，因此更加真实。”。

不过，他强调说，尽管使用了真实的基础设施，但机器人无法以任何方式与用户交互。他说：“通过构造，它们实际上不能与其他机器人以外的任何东西进行交互。”。

值得注意的是，这个模拟并不是Facebook的视觉复制品。不要想象科学家们研究机器人行为的方式和你在Facebook群组中观察人们相互交流的方式一样。WW不会通过Facebook的GUI生成结果，而是将所有交互记录为数字数据。把它看作是看足球比赛（真正的Facebook）和简单地阅读比赛统计数据（WW）之间的区别。

目前，WW也处于研究阶段，该公司使用机器人进行的模拟都没有导致Facebook在现实生活中发生变化。哈曼说，他的小组仍在进行测试，以检查模拟是否与现实生活中的行为相匹配，具有足够高的保真度，以证明现实生活中的变化是合理的。但他认为，这项工作将导致在年底前修改Facebook的代码。

当然，模拟器也有局限性。例如，WW不能模拟用户意图，也不能模拟复杂的行为。Facebook表示，机器人可以搜索、请求好友、留言、发帖和发送消息，但这些行为的实际内容（比如对话内容）并不是模拟的。

哈曼说，世界大战的力量，不过，是它的能力运作在一个巨大的规模。它让Facebook运行数千次模拟，在不影响用户的情况下检查网站的各种细微变化，并从中发现新的行为模式。他说：“我认为，来自大数据的统计能力仍然没有得到充分的重视。”。

这项工作的一个更令人兴奋的方面是，WW有可能通过机器人的行动发现Facebook架构中的新弱点。机器人可以通过各种方式训练。有时，他们被明确地指示如何行动；有时，他们被要求模仿现实生活中的行为；有时，他们只是被赋予一定的目标，让他们自己决定自己的行动。在后一种情况下（一种被称为无监督机器学习的方法），当机器人找到工程师无法预测的方法来达到他们的目标时，意外的行为就会发生。

“目前，主要的重点是训练机器人模仿我们知道的在平台上发生的事情。但在理论和实践上，机器人可以做我们以前从未见过的事情，”哈曼说。“这其实是我们想要的，因为我们最终想要超越不良行为，而不是继续追赶。”

哈曼说，该组织已经看到了机器人的一些意想不到的行为，但拒绝透露任何细节。他说他不想给骗子任何线索。