将来机器人是否会打败人类,这或许是一个兆头

关于将来有一天机器人是否会超越人类、更严重打败人类称霸全球的争论一直喋喋不休。但近日Facebook的人工智慧研究团队FAIR发表的一篇论文,表示他们研究的机器人学会谈判了。这或许是一个开头吧。不过,人工智能的机器人不仅自己学会了谈判技巧,甚至会在对话中发明了一套属于自己的语言,这连工程人员也完全无法判读。

FAIR在论文中纤细阐述了此次训练机器人的方法,先是让机器人与另一个机器人谈判,或是让它们模仿真人在谈判中是如何分配物品的任务。在训练中最重要的技术就是研究人员为机器人建立的对话排练。机器人被赋予了对话者的心理模型,就是可以在收到一句话的时候,推论出自己回复的所有选项,选出最合适的回答。然后对方各自会有什么回答,以及最后可能达到的结果。

在对话推演的训练下,机器人会经由谈判任务、与谈判对象对话的过程,持续升级与对方对话的策略。让人难以置信的是,演练中的机器人们在训练中却自行学会了一些研发人员没有教的谈判策略,这进展已经是相当了不起,但更令研发人员想不到的是,当两个机器人在一组进行谈判时,竟然自行发展出工程师无法解读的非人类语言,并且借此进行交流!最后在没有办法的情况下,研发人员不得不强制干预、修改参数。

Facebook的FAIR团队在论文中表示,虽然着一些是难以置信、也令人感到害怕,但是也代表未来的研发还有许多未知可以探讨,尤其是在探究更多推理策略,以及增加人工智能语言的多样性、但不让其偏离人类的语言上。否则人类将混乱不堪。