Facebook的机器人出现故障 开始不说人话了

源自：好奇心日报(北京)

---

　　在过去1个多月，Facebook开发的对话机器人开始采用一些奇怪的语句。

lrln-fyiiahz2638263.png  保存到相册

上传时间: 2017-7-28 01:35

文件大小: 14.41 KB

下载次数: 7

点击文件名下载图片

 

Bob和Alice是Facebook开发的对话机器人
　　这两个对话机器人由Facebook内部的人工智能研究实验室（FAIR）开发，研究员用机器学习训练这两个机器人进行对话、谈判，希望它们可以跟人用英文进行交涉，获取相应的目标商品。
　　训练的材料是5808组人与人之间的谈判对话，总共有2236种不同的剧情。所谓的剧情根据谈判的商品和对应价值有所区分。
　　例如，其中一个剧情里商品是三本书，每本书对应价值是2；两顶帽子，单个帽子对应价值1；一个球，单个球对应价值是2。谈判双方的评判标准是根据获得的商品的对应价值计算。

P_Vq-fyiiahz2638296.gif  保存到相册

上传时间: 2017-7-28 01:35

文件大小: 59.1 KB

下载次数: 10

点击文件名下载图片

 

进展比较顺利。Facebook开发的机器人可以用比较顺畅的英文跟普通人对话，对方没怎么意识到他其实在跟机器人谈判。
　　但事情的发展超出了预料。Facebook的研究员希望让这些机器人更进一步，于是开发了两个已经预先受过训练的、受监管的模型Alice和Bob，让它们作为谈判双方进行强化学习（Reinforcement Learning），也就是机器人之间的谈判。于是就出现了开头这种看上去没有意义的对话。
　　但对于机器人来说，这些看上去语法不通顺的对话还是承担的了一定的功用。该Facebook实验室的发言人告诉《大西洋月刊》，Facebook的数据显示，这些对话仍然能够帮助两者最后达成一致的。Facebook的研究员认为，这种对话比较接近于语言。来自佐治亚理工学院（Georgia Tech）、FAIR实验室的访问研究科学家Dhruv Batra称，Facebook已经观察到类似的现场多次。
　　除了Facebook外，还有像特斯拉CEO Elon Musk、知名孵化器YC主席Sam Altman创立的非盈利机构OpenAI也在机器人语言上有所研究。他们设立了一个虚拟环境，让一堆被标记上不同颜色的机器人完成一些特定的目标，例如将他们移动到一个具体的位置上，其中需要这些机器人自己协作、对话。最终可以达到的结果是，这些机器人可以完成一句类似于“你最终是否可以达到绿色那边（Did you end up getting to the green can or not）?”
　　但宾夕法尼亚大学的语言学教授Mark Liberman持有不同的意见，他认为这跟语言的差距还是挺远的。他说：“首先，这完全是基于文本的字符，但人类的语言基本上都是通过口头表达或者是手势完成，文本作为一层虚拟的表面。”
　　不过，不管这是不是一种机器人语言还是只是字符串，作为Facebook实验室的一项研究结果，研究员们最终决定将机器人设定为使用普通英文。
　　他们给出的理由是：我们的兴趣是有一些机器人可以跟人对话。