Facebook:干预对话机器人不是因为失控而毫无意义

上个月,Facebook的消息封闭的智能对话机器人项目。原因是研究人员谈判两个聊天机器人策略迭代升级,发现他们已经开发出了自己独特的人类无法理解的语言。研究人员必须手动干预。

Facebook的新闻,当时,“失控”的人工智能系统,因为它的发展在人类不能理解语言与各大媒体的标题页。想知道,Facebook创始人马克·扎克伯格最近在自己的主页就酒后驾车硅谷“钢铁侠”,不要认为这将带来的人工智能,人类不要恐慌。现在面对这么快?

然而,实际情况并非如此。

一开始,Facebook人工智能研究所(公平)想训练机器人,让它学会谈判。所以他们发明了一种人工智能神经网络结构体系。这种结构称为“紧急对网络”(生成对抗的网络,称为“GAN)。

了解甘,你可以想象人类的竞争游戏:你的账户可以提高技能的不断对抗,你越打,水平就越高。

Facebook,学习也是如此,研究人员希望这种机器人训练,让它的“目的”和人类交谈。这个目的很简单:有两本书,一顶帽子和三个篮球,三件事是设置不同的权重,为了让机器人理解它怎么想这些事情,然后去与人谈判。

在研究过程中,但是Facebook研究员两个机器人可以聊天聊到什么样的利益。然后,事情开始变得有趣了。

系统的两个机器人Alice和Bob已经让人看不懂对话。这对话第一次看到像一堆无法阅读代码,研究人员发现,后来被证明是系统设置的激励措施,虽然在英语告诉他们“请”,但我忘了告诉他们:“请使用英语语法”。

“我们的目标是让机器人和人聊天,提高与人聊天技巧。”Facebook研究员Michael Lewis(迈克)刘易斯指出,对话是爱丽丝和鲍勃的测试,两个聊天机器人没有意义。

研究人员还指出,Alice和Bob实际上并没有发明一种新的语言,因为他们仍在使用“我”,“球”,“的”英语单词,如沟通,只是没有这个动机的英语语法,创建了一个新的表达方式。

最后,Facebook没有“关掉”系统,但重置正确的激励措施,修正机器人的行为,让机器人使用标准的交流在英语语法。修正的原因不是因为害怕系统失控。

发表评论

电子邮件地址不会被公开。 必填项已用*标注