人工智能和机器学习产生了我们今天在技术工业中看到的许多进步。但是机器是如何被赋予学习能力的呢？此外，我们这样做的方式是如何导致意想不到的后果的？

下面是我们关于机器学习算法如何工作的快速解释，以及一些机器学习出错的例子。

什么是机器学习算法(machine learning algorithms)？

机器学习是计算机科学的一个分支，它致力于赋予人工智能学习任务的能力。这包括开发没有程序员显式地编写人工智能来做这些事情的能力。相反，人工智能能够利用数据来自学。

程序员通过机器学习算法来实现这一点。这些算法是人工智能学习行为所基于的模型。算法，结合训练数据集，使人工智能学习。

算法通常提供人工智能可以用来解决问题的模型。例如，学习如何识别猫和狗的图片。人工智能将算法建立的模型应用到一个包含猫和狗图像的数据集。随着时间的推移，人工智能将学习如何更准确、更容易地识别猫和狗，而无需人工输入。

机器学习改进了搜索引擎、智能家居设备、在线服务和自主机器等技术。这是Netflix如何知道你更喜欢哪部电影，以及音乐流媒体服务如何推荐播放列表。

但是，虽然机器学习可以让我们的生活更轻松，也可能会有一些意想不到的后果。

机器学习出错7次

1谷歌图片搜索结果的不幸

谷歌搜索使得浏览网络变得简单多了。引擎的算法在生成结果时考虑了很多因素，比如关键字和跳出率。但是该算法也从用户流量中学习，这会给搜索结果的质量带来问题。

这一点在图像结果中最为明显。由于接收高流量的页面更有可能显示其图像，因此吸引大量用户（包括clickbait）的故事通常会被优先考虑。

例如，“南非棚户区难民营”的图片搜索结果就引起了争议，因为它被发现以南非白人为主。尽管有统计数据显示，住在棚屋等非正规住房中的绝大多数人是南非黑人。

谷歌算法中使用的因素也意味着互联网用户可以操纵结果。例如，一个由用户发起的活动影响了谷歌的图片搜索结果，以至于搜索“**”这个词会显示美国总统唐纳德·特朗普的图片。

2微软机器人变成了纳粹

相信Twitter会破坏一个善意的机器学习聊天机器人。这就是微软现在臭名昭著的chatbottay发布后一天内发生的事情。

泰模仿了一个十几岁女孩的语言模式，并通过与其他推特用户的互动学习。然而，当她开始分享纳粹言论和种族诽谤时，她成为最臭名昭著的人工智能失误之一。结果发现，巨魔们用人工智能的机器学习来对付它，用充满偏见的交互充斥着它。

不久之后，微软将泰伊永久下线。

三。人工智能面部识别问题

面部识别人工智能经常因为所有错误的原因而成为头条新闻，比如关于面部识别和隐私问题的报道。但是这个人工智能在试图识别有色人种时也引起了极大的关注。

2015年，用户发现谷歌照片将一些黑人归类为大猩猩。2018年，美国公民自由联盟（ACLU）的研究显示，亚马逊（Amazon）的Rekognition人脸识别软件将28名美国国会议员确定为警方嫌疑人，假阳性对有色人种的影响不成比例。

另一起事件涉及苹果的Face ID软件错误地将两名不同的中国**识别为同一个人。因此，iphonex用户的同事可以解锁**。

与此同时，麻省理工学院研究人员乔伊·布奥兰维尼回忆说，在研究面部识别技术时，为了让软件认出她，她经常需要戴上白色的面具。为了解决这样的问题，Buolamwini和其他IT专业人士正在关注这个问题，并提出需要为AI培训提供更具包容性的数据集。

4用于恶作剧的假货

当人们长期使用Photoshop**恶作剧图像时，机器学习将其提升到了一个新的水平。像FaceApp这样的软件可以让你面对面将主题从一个视频切换到另一个视频。

但许多人利用该软件进行各种恶意使用，包括将名人面孔叠加到***频或生成恶作剧视频。与此同时，互联网用户帮助改进了这项技术，使得辨别真假视频变得越来越困难。因此，这使得这类人工智能在传播假新闻和恶作剧方面非常强大。

为了展示这项技术的威力，导演乔丹·皮尔和BuzzFeed首席执行官乔纳·佩雷蒂**了一段deepfake视频，展示了美国前总统奥巴马（Barack Obama）就deepfakes的威力发表的PSA。

5推特机器人的兴起

Twitter机器人最初是为了自动化品牌的****回复之类的事情而创建的。但这项技术现在是一个令人担忧的主要原因。事实上，研究估计，Twitter上多达4800万用户实际上是人工智能机器人。

许多bot账户不是简单地使用算法来跟踪特定的标签或响应客户的查询，而是试图模仿真实的人。这些“人”随后会推广恶作剧，帮助虚假新闻传播开来。

推特机器人的浪潮甚至在一定程度上影响了英国脱欧和2016年美国总统大选的舆论。Twitter自己也承认，它发现了大约5万个俄罗斯**的发布选举信息的机器人。

机器人继续困扰着这项服务，散布谣言。这个问题非常普遍，甚至影响到公司的估值。

6员工们说亚马逊人工智能决定****更好

2018年10月，路透社报道称，亚马逊在该软件的人工智能决定**候选人优先后，不得不放弃一个招聘工具。

不愿透露姓名的员工站出来告诉路透社他们在该项目上的工作。开发人员希望人工智能根据他们的简历来确定最佳的求职者。然而，参与这个项目的人很快就注意到AI惩罚了**候选人。他们解释说，人工智能使用过去十年的简历作为训练数据集，其中大部分来自**。

结果，人工智能开始根据关键词“**”过滤掉简历。他们在简历中的关键词出现在“女子象棋俱乐部队长”等活动下。虽然开发者修改了人工智能以防止这种对**简历的惩罚，亚马逊最终还是放弃了这个项目。

7youtube上的不适当内容

YouTube的孩子们有许多愚蠢的，异想天开的视频，旨在娱乐孩子们。但它也存在操纵平台算法的垃圾邮件视频的问题。

这些视频是基于流行的标签。由于小孩子不是很有鉴别力的观众，使用这些关键字的垃圾视频吸引了数以百万计的观众。人工智能根据趋势标签，使用股票动画元素自动生成其中一些视频。即使这些视频是由动画师**的，它们的标题也是专门为关键字填充而生成的。

这些关键词有助于操纵YouTube的算法，使它们最终成为推荐词。大量不适当的内容出现在使用YouTube儿童应用程序的儿童的feed中。这包括描述暴力、恐怖和性内容的内容。

为什么机器学习会出错

机器学习导致意外后果的主要原因有两个：数据和人。在数据方面，“垃圾进，垃圾出”的口号适用。如果输入到人工智能的数据是有限的、有偏差的或低质量的，则结果是具有有限范围或偏差的人工智能。

但是，即使程序员得到了正确的数据，人们也可以在工作中施加干扰。软件的创造者通常没有意识到人们是如何恶意地或出于自私的目的使用这项技术的。深度赝品来自用于改善电影特效的技术。

那些旨在提供更多沉浸式娱乐的东西，一旦被利用，最终也会毁了人们的生活。

有人致力于改善机器学习技术的安全措施，以防止恶意使用。但是技术已经在这里了。同时，许多公司没有表现出必要的意志力来防止滥用这些发展。

机器学习算法可以帮助我们

当你意识到机器学习和人工智能在很大程度上没有达到预期时，你可能会觉得有点悲观。但它也在许多方面帮助我们——不仅仅是在方便方面，而且在总体上改善我们的生活。

如果你对人工智能和机器学习的积极影响有点犹豫不决，那就找出人工智能打击网络犯罪和黑客的方法，以恢复一些希望。