• 首页>
  • 吓得赶紧关停！Facebook 的 AI「失控」聊嗨后，说的话研究员也不懂

吓得赶紧关停！Facebook 的 AI「失控」聊嗨后，说的话研究员也不懂

青青社区官方号 2017-08-02 15:51 人工智能,facebook
来源：爱范儿
i can i i everything else . . . . . . . . . . . . . .balls have zero to me to me to me to me to me to me to me to me to
上面的内容，不是我睡着了，脸在键盘上滚过打出的字。
这是两个「失控」AI自己发明的对话语言。
趁着人类不注意，俩 AI聊了什么？
Facebook人工智能实验室前不久做了个研究：让两个 AI通过对话训练来学习人类的交流方式。这个测试目的是提高 AI的语言能力，希望未来它们能和 Facebook的用户做沟通。
但是聊着聊着，两个机器人就「嗨」了，不再受限于原有设定——用标准英语语法沟通，开始用研究员不懂的语言来对话。
Bob: i can i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i i can i i i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i . . . . . . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to

面对这些无语法结构的内容，研究员也没办法真实理解这两个 AI到底在聊什么。最开始时候，研究员以为这是机器出现的偶然错误，但随后发现，这种聊天模式频繁出现。而且，只要 AI用自己的这种聊天方式，最终双方总能达到预期的谈判结果。相反的，当研究员调整模型结构，强制纠正 AI的语言后，Facebook的数据显示，最终的对话效果并不优秀。
今年 6月时，Facebook就发现了这种现象出现，随后研究员做了人工干预调整。但或者是效果不佳，7月 31日，Facebook决定关停这个 AI系统。官方解释称，Facebook希望 AI能和人沟通提高效率，而不是让 AI用人类不懂的语言相互沟通。
Facebook AI语，真的可以称为「语言」吗？
在 Facebook的 AI有了自己的沟通方式后，不少人开始想一个问题：这些无结构的文本内容，真的可以称得上「语言」吗？仅从人类角度来看，这些文本并没有意义。宾夕法尼亚大学语言学教授马克·利伯曼就此表示：
“语言”二字具体如何使用，不是由语言学家来决定的。Facebook的 AI是否创造了语言，要看我们如何定义“语言”。比如说，语言学家会认为Python、JavaScript这类计算机语言并非真正的语言，但我们也会称之为“语言”。
那么，Facebook AI所使用的语言（外媒称之为 Facebotlish），可以成为一种新的或会持续发展的语言吗？
马克·利伯曼给出了否定的答案。他表示，尽管还没有足够的信息能够解释这种情况，但 AI的交流是完全基于文本，而人类语言来涉及到了口语表达和肢体动作，文本沟通是一种人为附加方式。也就是说，Facebook AI的语言能力距离人类文明程度还很遥远。
利伯曼教授还表示，机器或系统自己在发展过程里开发出一个属于自己系统内沟通的方式，并且不会被人类打断，自己进化和发展几十年甚至几百年，这种情况在未来是会发生的。但他也认为，Facebook的 AI并不能代表这种未来趋势，因为它的水平还很低。

尽管如此，Facebook此前曾发表过一篇关于人工智能的研究论文，表示 AI在学习了人类的谈判技巧后，他们的表现已经很像「人」。比如说，AI会假装自己对某个特定的内容感兴趣，然后假装让步，以看似「牺牲」的方式获得更大的利益空间。像这次这两个 AI的对话，从对话形式和这些语句来看，两个 AI似乎在「争吵」，而谁都不肯让步于自己的「想法」。
AI在训练过程里发明出自己的语言，Facebook的 AI并不是孤例。此前，Google曾发现人工智能能通过翻译工具创造自己的沟通语言。

青青社区官方号 青青社区官方自媒体分享最新鲜的资讯！

为你推荐