掌控未来力量:当机器人掌管世界

机器人是从数理逻辑发展来的,它们的逻辑引擎将异常强大,却很难产生类似动物的情感和价值观,它们冰冷而强大的逻辑可能会对人类产生未知的伤害。

人类所创造的高科技产物将会在未来统治世界,而人类终将沦为被统治者。瞧瞧这个日新月异的社会,每一项新科技的诞生都意味着人类又少了一次可以动手的机会。因为机器已经代替我们,我们变得越来越没有意义,越来越微不足道。我们在未来还有什么存在的理由呢?我们只需要吃好一日三餐就足够了。

当智能机器从人类手中接管了更多的工作、更多的统治权时,我们的世界将会是怎样的呢?

啼笑皆非的社会管理

当陈小洛再一次睁开眼睛,他发现自己来到了3012年,这正是他毕业论文中设想的“由机器人完全管理”的社会。陈小洛感觉大喜过望,他决定亲眼看一看,这个社会是否真如自己预想中的那样完美,按照他的推理,这里的所有人都应当对目前的生活感到极度满意。

走出家门不远,陈小洛的眼前就出现了一座纯白色的大楼,在记忆当中,这里全市最好的综合医院。转过拐角,果然看到了医院的名称和标识,而且院墙上还有一个巨大的电子屏幕在介绍这家医院,上面写着“这里有全国最先进的微型机器外科专家为您进行手术,有最权威的数据库作为智能医师诊病依据。我们的患者治愈率为20%,患者满意度为31%,全国排名位列榜首。”

陈小洛揉了揉眼睛,怀疑自己的眼睛出了问题,为什么1000年后医院的治愈率会下降到令人匪夷所思的地步呢?

陈小洛心事重重地继续往前行走,但是走着走着,他却发现了另一件非常奇怪的事情。过去,在医院前不远处有一条非常繁华的商业街,每天都是人来车往,络绎不绝。然而现在自己走了这么半天,却连商业街的影子都没看见,甚至连马路两边也没有任何店铺,只有几台自动贩售机孤零零地立在那里。

为城市创造了大量财富的商业街为什么消失了?陈小洛一路找人问了又问,才知道这时的市场管理都已经由机器人组成的政府负责了。而机器人的思想是由许多数据结构组成的,是一种按部就班的程式化的思维。计算机在进行计算时,讲求的是追求最简化的路径,即选择哪种算法能够最有效率的解决问题。这样一来,配给制的经济运行方式自然是最佳选择,机器人只要搜集人口和物品的数据,按照一定的配额分发,就可以解决全部问题了。原来,机器人管理的市场竟倒退到配给制社会。

还没有从市场消失了的事实中回过神来,前面的一阵喧闹又引起了陈小洛的注意。前面不远处就是市中级人民法院,在法院门口有一群人正围在一起,不知道看什么热闹。

陈小洛很好奇,挤到了人群前面,看到一个年轻妇女正拉扯着一个机器法官大哭大叫,法官的衣服被拉扯得变了型,眼睛前不停出现闪着“错误”字样的数据条。

稍一打听,陈小洛便弄明白了事情的大致经过。原来这个年轻妇女跟老公口角,老公打了她,刚好被机器警察现场发现,老公被逮捕了。没过几天,就到了法院宣判的日子,妻子向法官解释了这件事情的始末,表示自己的老公并不是故意为之,相反二人的感情十分和睦,希望法院释放自己的老公。然而法官在看到法医验伤报告和邻居陈词,查明打人情节属实之后,按故意伤害罪直接判了老公3年监禁。这一来老婆自然跟机器法官急眼了。

数理逻辑的天然缺陷

当聪明、不出差错、公正无私的机器人代替人类接管世界时,并没有使这个世界变得更美好,反而会出现更灾难性的差错,恐怕很多人这是怎么回事呢?

原来,机器人无论拥有多么强大的数据处理能力、无论多聪明,它们的智慧与人类大脑都有着本质的区别。机器人只按着设定的数理逻辑来运行,只要给出设定的条件,数理逻辑推导出的结果就是确定的。问题就出在这里,无论初始条件多么一致,但现实总是变幻无穷的,数理逻辑根本无法应付事物之间这千奇百怪的变化。

比如,当病人说出自己的症状时,其病因有很多种可能,当多种症状同时出现时,又衍生出很多可能的病因,人类医生可以凭借多年经验轻易判断病因,而机器人医生只能用数据库比对,然后将推理过程像数学一样利用公式来进行计算。这样一来,数据库是否全面,关键词提取是否准确等一系列因素都制约了智能机器人的“思考”。所以人工智能对于稍有疑难的病症,就束手无策或乱下诊断,治愈率低下也就很正常了。

只依靠设定的“规则”和“数据”来办事的机器人,如果对社会进行宏观管理就更乱套了,因为宏观社会的运行,诸多变量的交叉更是无穷无尽,而人类的情感与私欲又夹杂其间,使社会的变迁更加变幻莫测,单纯的数理逻辑对这样的现实只能望而兴叹。如今的经济学家也依赖数理公式来推断经济发展、管理经济运作,但对经济的运行几乎不起什么作用,因此经济学家常常被嘲笑为“伪专家”。事实上,经济发展的主要驱动力不是严密的逻辑计划,而是人类欲望的驱动,这种原始、强劲的欲望是逻辑推导不出来的。

表面上看,法律判决应该是智能机器最擅长的领域,机器人当法官比人类更加可靠。因为人类拥有感情,就难免会感情用事,不能做到完全的公平公正,而机器人则没有这方面的考虑,它们以法律法规为准绳,没有回旋的余地。

可是,人们的社会生活从来都不是冷冰冰的,每个人都是有血有肉有感情的。如果机器人当法官,从不将“人情”考虑到判罚当中,就会给人们的心灵和精神造成更多的伤害。让没有感情的机器来评判有感情的人类所实施的所有行为,怎么会有好的结果呢?

冰冷的逻辑终会伤害人类

要说机器智能与人类大脑最大的区别到底在哪里?答案或许正是——机器人没有右脑。

我们都知道,人类的大脑分为左右两部分,左脑叫做理性脑,用来处理各种信息,拥有进行计算理解分析归纳等功能,其特点是具有高度的抽象性、逻辑性及理性。智能机器的功能基本和我们的左脑完全吻合。按照人工智能专家的预言,或许再过二三十年,人工智能在计算逻辑等方面就会远远超过人类智能,人类在它们看来,可能会变成什么也不懂的“笨蛋”。

然而智能机器却有着显而易见的缺陷,那就是它不具有人类右脑所具有的各种功能。人类的右脑又称为感性脑,无论是无与伦比的想象力与创造力、敏锐的情感、直觉与灵感等等全都是人类大脑所独有的功能。

没有右脑的智能机器,也没有办法进行价值判断,没有道德选择能力。在经典科幻电影《2001太空漫游》中,太空船的智能主机HAL9000是有史以来最可靠的电脑,从未犯过任何错误。但它现在面临一个进退两难的困境:它被命令既要完成飞船使命(调查一件在木星上的巨型黑色方碑),又不能让船员知情。根据计算,它发现杀死船员是解决这一矛盾的最好方式,于是,它杀死了沉睡的科学家和其中一名宇航员,剩下的宇航员大卫跟HAL9000展开殊死搏斗,终于制服了它。

从这个黑色故事中,我们可以看出,当机器人强大到可以毁灭人类时,由于没有产生情感价值的右脑,它们自己不会判断是否要毁灭人类,但可以为了执行命令扫除一切可能的障碍。在它们眼里,人类也只不过像桌子、椅子一样的平常事物,为了完成指令,毁掉这些事物是必要的。

而人类的一切行为都是在一定的情感驱动下完成的,从情感出发,人类形成共有的价值观,形成人类社会的基本道德。如果由人来执行矛盾的命令,他们不会为了保密就杀死无辜的其他人,这就是道德约束的力量。

人类不能承受机器人的冷冰冰

很多人都相信,机器人能够帮助人类,但机器人终归是机器人,是人类造出来的,它怎么可能超越人类呢!它们只能替人类做一些简单的事情,至于分析等方面的问题还是要人脑来解决。但实际上,将来的智能机器人能自我学习、自我思考、自我创造、自我做出决定,最终能走上自我进化的道路,这时,人类恐怕就埋下了危险的种子。因为智能机器人会在某天突然达到一种临界点,它们将会“失去控制”,获得迅速的智能进化,以至于远远地、非常迅速地把人类抛在后面,其思维能力可以达到人脑的成千上万倍乃至几百亿倍。到那时,在机器人眼里,人也许就象猴子一样无知,人类的一切想法都会被它看穿,人的一切都在它们的掌握之中。

人类是生物化学反应的产物,生化反应进化出来的生命,首先产生的是情感,而不是数理逻辑,因此,人类的情感远在智力之前就存在了,即使是现代人类,也常常是情感主导着理性;而智能机器以数理逻辑为基础,即使发展得再厉害,也不会发展出情感和心灵的直觉,不会产生对外界的好奇心。因此,一个由智能机器管理的社会将是一个冷冰冰的、没有活力的甚至是冷酷的社会。

随着网络技术把世界联成一片,未来机器人之间将实现知识共享、思想联合,将会组成独立于人类的强大的机器人联合体,甚至这种联合体将会合而为一,转变成为一个纯粹的、单一的“统一体”,每个机器人的个体思想、个体计算能力都成为整体的一部分,即所有的机器人共同组成了一个总的机器人。由这样一种庞大的、无所不知、无所不在的机器人,用冰冷的逻辑来管理人类社会,将可能比人世间最残暴的君主还要恐怖,这恐怕是人类不能承受之重了。