微软为其人工智能机器人的“攻击性和伤害性推文”道歉
微软今天为其Twitter聊天机器人Tay发表道歉，在一篇博客文章中说，一部分人类用户利用该程序中的一个缺陷，将其转化为一个煽动仇恨言论的希特勒道歉者。作者Peter Lee是微软研究公司的副总裁，他没有详细解释这个漏洞是什么，但人们普遍认为，留言板4chan臭名昭著的/pol/community滥用了Tay的“跟我重复”功能。因此，当泰伊在推特上被灌输性别歧视、种族主义和其他可怕的台词时，机器人开始模仿那些卑鄙的言论，后来开始采取反女权主义和亲纳粹的立场。不到24小时后，微软就停止了对泰的收购。
李说Tay并不是微软第一个在野外发布的聊天机器人。目前约有4000万人使用的中文信息软件XiaoIce让该公司的研究部门对让日常消费者与人工智能软件互动产生了兴趣。”李开复写道：“使用小冰的伟大经历让我们不禁要问：在一个完全不同的文化环境中，这样的人工智能会不会同样迷人？”。回顾过去，我们毫不奇怪，当时的文化环境——讲英语的Twitter——导致泰伊模仿了互联网的一些最糟糕的品质，包括网络骚扰。”对于泰伊无意中发出的攻击性和伤害性的推文，我们深表歉意，”李补充道。微软正在修复这个漏洞，然后将Tay重新上线。
泰伊开始模仿互联网的一些最糟糕的品质
佐伊奎因，一个游戏开发商和互联网活动家的目标Gamergate运动，受到虐待后，泰伊聊天机器人是指她与厌恶**的污蔑影响。在周三的一系列推文中，奎因抨击微软没有考虑到如何操纵软件2016年。她在推特上写道：“如果你在设计/工程过程中没有问自己，‘这怎么可能用来伤害别人’，你就失败了。”。
值得称赞的是，Lee说，Tay stress背后的团队在各种不同的场景下测试了chatbot，只有在它上线后才发现它的主要缺陷。”他写道：“尽管我们已经准备好应对多种形式的系统滥用，但我们对这一特定攻击进行了严格监管。”我们将继续坚定不移地努力，从这一点和其他经验中学习，为建设一个代表人类最好而不是最坏的互联网而努力。”
这是一个乐观的想法。然而，当一个像微软这样有经验的大公司不能保护一个人工智能不被我们中最坏的人宠坏时，这并没有给我们未来的机器人霸主带来多大的希望。
- 发表于 2021-05-04 00:40
- 阅读 ( 149 )
- 分类：互联网
你可能感兴趣的文章
大众将在自动驾驶汽车中使用微软azure
微软渴望进入自动驾驶汽车市场，但它在设计和**汽车方面没有任何专长。不过，它可以提供智能汽车背后的大脑，大众汽车也有兴趣将微软的服务用于自己的汽车。 ...
微软希望你转世成为聊天机器人
人工智能在几十年里已经取得了长足的进步，机器学习的力量使聊天机器人听起来更接近人类。微软希望利用这项技术为那些沉默不语的人发声，并**出能模仿死者的聊天机器人。 ...
每日新闻综述：谷歌禁止touchpal应用程序开发人员进入play商店
...。 Neuralink还想把这项技术也提供给健康人，以“实现与人工智能的某种共生。”不，谢谢。你。[技术紧缩]
据报道，亚马逊正在开发定制的网络芯片
...为大型科技公司的筹码。我们最近看到有报道说，谷歌和微软正在为他们的设备**定制处理器，苹果已经做了很多年了，M1 mac就是一个例子，说明当一个公司同时控制硬件和软件时，它的产品能有多强大。虽然亚马逊在智能**或...
微软人工智能记者在msn主页上迷惑混血小混血歌手
微软决定用人工智能取代人类记者来运行其新闻和搜索网站MSN.com网站英国流行乐团Little Mix的两名混血成员被自动化系统搞糊涂后，受到批评。 正如《卫报》首次报道的那样，新上任的机器人编辑MSN.com 精选了一个关...
vergecast:icloud加密、sonos道歉和折叠手机
... 永远不要打开来自沙特阿拉伯王储的WhatsApp信息 下面是微软双屏Surface Duo上Android的第一眼 微软的Android**软件计划出人意料的现实 摩托罗拉的折叠式Razr将于2月6日推迟上市 巡航无人驾驶出租车：没有方向盘，没有踏板 Sonos将在5...
诺基亚为什么要生产安卓手机？
微软和谷歌之间的关系就像诺基亚的家乡芬兰埃斯波一样冷淡，这让诺基亚——迄今为止微软最大的移动合作伙伴——本周推出了X**，在Windows Phone上投下了一枚Android形状的**，让人有点震惊。就在被微软吞并的几周前，诺基亚...
微软的人工智能聊天机器人（ai-chatbot）短暂地恢复了在线，并向所有人发送垃圾邮件
美国东部时间上午6:11更新：不管是什么问题，微软都已经处理了。泰的账户现在被锁定，从今天早上开始的所有推文都被删除。目前尚不清楚到底发生了什么，但微软在一份声明中表示：“泰伊仍处于离线状态，而我们正在进...
微软今天将推出一批人工智能机器人
...Tay上周可能遭遇了种族主义的崩溃，但该公司并没有放弃人工智能。根据彭博商业周刊的报道，微软计划在今天晚些时候的年度构建大会上发布几个机器人原型。这些人工智能驱动的程序将进一步推动微软首席执行官萨蒂亚·纳...
微软知道我们将在机器人战争中失败，主张共存
...达了史蒂芬·霍金（Stephen Hawking）等受人尊敬的科学家对人工智能有一天可能消灭人类生命的真诚关切。 纳德拉指出，微软自己的人工智能助手科尔塔纳是我们早期与人工智能共存的一个积极例子。该工具跟踪微...
0 篇文章
