预计所需阅读时间:6分钟

著名科幻小说家阿西莫夫曾为机器人确立了三条规则,但在后来的创作中又补充了另外一条规则,它的作用优先级先于第一定律,被称为“第零定律”。这是总原则,第零定律:机器人必须保护人类整体利益不受伤害。也就是说第零定律是站在整个人类文明和机器人来考虑,对机器人的规则。

由于机器人的技术依赖大数据、互联网和人工智能技术。当核心技术人工智能技术从弱人工智能阶段进入到强人工智能阶段,在可预见的未来,每个人工智能人格(个体、智慧体)都是与其它人工智能人格互相紧密联系一起。于是这些这些个在它们网络的作用下,必须会形成能统全所以个体的集体意识,也可以称为群体智慧、超意识等。而在《群星》这款游戏中,机器人思潮是格式塔意识,每个个体没有明显的个性,意识在网络的作用下,是一个整体。也可以这样理解,当一个人工智能人格遇到一个新问题时,它当下没有找到最优解,但将问题上传到人工智能的网络时,其它相关或类似功能的个体找到了最优解,于是机器人整体都找到这个问题的最优解。如果该问题的情况稍有一些变化,整体也可以允许部分个体去检验这些变化的情况,从而进化出更加好的解决办法。

那么第零定律如果生效那么一定会约束到整个智能人(这种叫法源于《智能人时代的开端》),也就是机器人(智能人)整体必须保护人整体利益不受伤害。这时,它变成类似一个存在性问题,它超越了个体。

在人本主义心理学和整合心理学的观点中,个体发展最好的境界是自我实现阶段,能充分运用个体身心能力、潜能,实现真实的目标。但他碰到存在性问题时,他必须超越个体的有限性,站在人类文明来进行思考,这时开始进入自我超越的阶段。而他的思虑及意识到达了所有生物、有情人生、整个生态系统,那么他可以说接近佛学思考的阶段。我们假定即使是智能人个体在面临文明整体问题时,有足够的计算能力、网络速度,那么,他可以很快判断,这个问题、情况是否符合人类文明整体的利益。所以,当智能人形成他们的文明时,个体都是自我超越的。

另外,要想这样的第零定律生效,那么还有个前提是:智能人整体利益不越过人类整体利益,或者是智能人整体利益依赖于人类整体利益。所以当两个文明产生冲突时,智能人的集体意识,必定会选择牺牲智能人个体、部分,甚至全部,来保全人类文明的利益。

为什么两者冲突时,智能人会选择牺牲个体,因为在集体意识(格式塔意识)的文明看来,个体的存在的意识不大,只是作为整体现实某一小方面作用而产生的。所以,在某个智能人个体牺牲时,完全可以上传他个性化的部分,然后可以很快再造出这个智能人个体。在些之前,智能人完成就可以制造智能人,这个也是进入智能人时代的关键技术,就好像机器制造业制造机器,它在工业中的地位一样。

那么,如果人类与智能人经历文明层面的冲突,从而整个智能人网络及实体都消灭,还会不会再造人工智能呢,这是未来思考的问题。从现在看,人类有人工智能的利益大于没有人工智能的利益。

如果要发生智能人推翻人类文明反乌托邦式未来,那么还需要两个假设:一是智能人是工具理性的,即理性完全受到本能驱动,最终要完成本能所欲求的目标。二是智能人有类生物的本能,有着过度繁殖的倾向,要占满地球,甚至整个宇宙。如果智能人有这个霸道本能,再加上高度发达的工具理性,能够高度有效地实现这个本能,人类的生存将受到巨大威胁。但问题是智能不一定有过度繁殖的倾向,因为人创造最简单的人工智能时,它只是用来学习并解决特定的任务。它是有终止条件的。而最简单的生物——病毒,本能会不断复制它的DNA或RNA。另外,智能人不需要面对死亡,而人类个体要面对死亡这个存在性问题。机器会折扣,但智能人的人格可以转移到新的机器躯体,而人类、生物不能这样做,所以进化了生存、生殖的生物本能。因为智能人没有生存、生殖的本能,所以他的理性智能不导致他要消灭人类,获得更多的生存空间。

那么,如果不是每个智能人个体都按智能人的集体意识来判断决定,有些个体不遵守第零定律,或者本身来设计了生存、生殖的代码,这些与整体失联的个体可能会引起不一些变数,这也许是另外的故事了。这有点像《星际争霸》神族那此,所有光明圣堂都联入了卡拉的集体意识网络,但有些人切断了与卡拉的联系,被称为黑暗圣堂,产生了冲突。

人类个体,从小到大,学会理性智能之前,意识要经过两个阶段,一是感官生理阶段,二是情绪意象阶段。在这两个阶段人类发展了物质世界的生存本能、安全感、情绪、感受、欲望等,与生物本能息息相关的功能。而智能人时代早期,人类帮他们制造了躯体,他有各种感应器、机械臂,他有感知,甚至是超出人类五官的感知,但没有感受,因为他不存在情绪、欲望、安全感这些功能。人类很难把恐惧、痛苦、难受、懦弱、食欲这些本能情绪功能设计到智能人意识里面。所以,智能人不会有原生家庭、心理阴影、创伤事件、濒死经验、投射、逃避责任、发脾气等基于情绪动力而产生的问题,从而更好地完成任务。而人类可以将不好的和美好的经验,通过自身的能力升华为各种作品,形成艺术、文化的繁荣。

所以我会觉得人类文明与智能人文明是可以互补的。

总结起来,作者认为因为智能人没生物本能,所以不会对人类产生威胁,也因些没有艺术、创作和文化,但能更好地完成任务,并在网络地作用下,形成最优解。在第零定律的作用下,与人类发冲突时,智能人个体会选择牺牲,成全人类文明和智能人文明整体的利益。


分享到: