人类站到了危险的悬崖边:数据将如何摧毁人类自由

赫拉利的新书《超凡入圣:未来简史(Homo Deus:A Brief History of Tomorrow)》引人入胜,它阐述了一个简单而又令人毛骨悚然的核心观点:由于智能与意识的剥离,人类的本性将会在21世纪发生变化。近期,我们或许不会制造出像人类一样具有情感的机器:产生情感意味着具有意识。机器人不会彼此坠入爱河(但并不表示人类不会爱上机器人)。但我们已经借助大数据-处理网络等手段,制造出了比我们自己更理解人类情感的机器:理解情感意味着智能。

比如,谷歌搜索引擎(而非公司)并没有自己的信仰或欲望。它不在乎我们搜索了什么,也不会因为我们的行为而受到伤害。但通过分析我们的行为,它能比我们更快知道我们的欲求。这一事实说明人工智能的确具有改变人类本质的潜力。

尤瓦尔·赫拉利的前作,全球畅销书《人类简史》,通过历数过去7万5千年的人类历史提醒我们,自身并非独特而必然的存在。我们只是一系列巧合的意外结果。智人也不过是人类发展的一种可能形式,就像我们星球上的其他物种一样是进化的偶然产物。该书在结尾,提出了这样的想法:智人的历史即将走向终点。我们或许身处智人的黄金时代,但也可能已经达到了我们能力的极限。《未来简史》对这一观点进行了详尽的描述:我们对周遭世界无与伦比的控制力正在将我们塑造成一种新的事物。

个体的力量在席卷全球的信息洪流面前显得愈发渺小

我们超凡能力的证据无处不在:我们不仅仅征服了自然,还逐渐战胜了人类自身最可怕的敌人。战争的烟云逐渐褪去,饥荒的阴影业已消弭,疾病正在全球范围内败退。为了达成这些伟业,我们缔造了更加宏大而复杂的网络,将人类个体视作信息的单元。进化科学告诉我们,从某些程度来说,人类不过是处理信息的机器:我们也只是运算信息的法则而已。通过摆弄这些数据,我们可以控制自己的命运。但是那些我们制造出的算法,却远比我们更精于此道。这即是赫拉利所说的“智能”和“意识”的剥离。

现代课题大多基于这一观点:人类个体既是力量的来源,也是意义的赋予者。我们理所当然得应该成为决策者,决定那些发生在自己身上的事:比如选民投票、购物者选购、恋人选择。但是这一想法已不再是真理。我们将权力赋予网络:网络则运用我们的意志和思想去决定我们的命运。

冰冻三尺,非一日之寒。出现于400年前的现代国家,其实也不过是一台处理数据的机器。早在1651年,哲学家霍布斯就将它称为“自动机”(或者按今天说法:机器人)。国家机器的刻板与无情正是它力量的源泉,正因为它没有意识,所以才有可能做出最可怕的勾当。与过去不同的是,现代机器在处理数据上比国家更为高效:正如赫拉利指出的,政府发现自身几乎不可能跟上科学发展的步伐。在今天的世界,人们已经越来越难以相信——霍布斯所说的——在每个国家机器的背后都流淌着货真价实的血与肉。现代对于个人自主权的坚持,是源于坚信能够在这个没有感情的社会里找到它感性的内心。在毫无个性和表情的官吏机构之下是一个个有情感的公仆。但是在一台搜索引擎之下,却只有海量的数据点而已。

历史学家尤瓦尔·赫拉利

一场由数据所驱动的巨变,正在悄然发生。我们正身处这一变化的起点,但照赫拉利的观点,我们对它束手无策。《超凡入圣:未来简史》一书讲述的是“历史的终点”,但赫拉利并非悲观地认为事物将迎来终结。与之相反,他认为事物以惊人的速度发展,使人难以捉摸未来的面貌。1800年的人们或许可以猜测1900年的世界以及我们将如何生存其中。这就是历史:一连串人类所主导的事件。但2100年的世界是现在的我们所难以想象的。我们对于自己在未来将栖身何处毫无头绪。或许我们构筑的未来世界里根本没有自己的容身之所。

既然已有警钟在前,而未来尚未到来,那我们为什么不竭尽所能地阻止它的发生呢?赫拉利认为,现代人所信奉的“个人能主宰自己的命运”这一观点无异于孤注一掷的放手一搏。真正的权利一直归属于网络。单独的个人终究是无力的生物,无法战胜熊和狮子。使人类最终主宰地球的,是无数个体结成团体之后的力量。这些团体——如企业、宗教、国家——如今也已融入了网络中相互连接的信息流中。今天,个体的力量在席卷全球的信息洪流面前显得愈发渺小,要抵抗这一趋势,也变得越来越困难了。

数据神教

某些人已经放弃了抵抗。对他们而言,现代社会中视为基石的信条——自由、民主、自治,都已逐渐让位于新兴信仰——数据神教。它的教众——主要来自硅谷——信奉信息的力量,并鼓励我们将其视为价值的唯一来源。我们存在的意义在于我们对信息处理贡献了多少。或许投身数据神教会有巨大的回报:由于那些支持我们的信息变得唾手可得,我们会越来越容易得到自己想要的东西。我们的喜好和经验将合二为一。寿命也会被极大地延长:数据神教认为下一步他们将跨越死亡的局限,成为不朽的存在。但缺点也显而易见:届时我们的身份是什么?不过是无数信息点的堆砌。20世纪的反乌托邦主义极力为每个个体打下国家权力的烙印。但这一企图会在下个世纪里显得多此一举。如赫拉利所说:“人类个体不会被‘老大哥’(译注:典出乔治·奥威尔小说《1984》中的标语“Big Brother is watching”,后被视为独裁统治监督舆论的代表。)摧毁;它会从内部被瓦解。”

企业与政府仍然会尊重我们的个性和需求,但是为了服务自身,它们会“将我们降解为生化系统”,企业和政府都早已被强大算法所掌控。该观点也有反乌托邦的一面:早期信徒——那些最早参加数据神教的人——将会成为人类中少数享有实权的人,而且地位不容挑战。一般人很难跻身这一新兴的精英阶层。他们对教育背景的要求极为苛刻,并且你必须毫不犹豫得把自己的身份与智能机械结合在一起。然后你才有机会成为新兴“神祗”中的一员。有残酷的预言认为:只有一小撮人能成为祭祀阶层,享有通向终极智慧的权利,而剩余的人类只是为他们计划服务的工具罢了。未来或许会像是数字化升级后的远古时代,比如:由FaceBook统治的古代埃及。

如果智能和意识最终分道扬镳,大部分人类将被少数掌握高等知识的拥有者所奴役

赫拉利对于这些奇异的预言能否最终成为现实,始终持谨慎态度。毕竟,未来仍是一个未知数。但是,对于这些预言对当今社会人与动物关系的意义,他有着极为强烈的看法。如果智能和意识最终分道扬镳,那此举会将大部分人类置于与动物无异的处境:被少数掌握高等知识的拥有者所奴役。有预测认为机器人将如我们对待飞蝇般冷漠、暴力地对待我们,而赫拉利似乎并不担心这一点。相反,他希望我们反思现在巨大的工业化农场系统是如何对待动物的。猪自幼被单独饲养在狭小的空间,它们显然饱受其苦。如果认为猪没有高等智慧,就不将这些视为苦难的话,我们就将为自己招来皮肉之苦了。因为很快这些事情就将发生在我们自己身上。到时我们的苦难又将换来什么呢?

这是一本非常睿智的书,充满了犀利的见解和现代的智慧。但赫拉利本人或许会第一个站出来承认,这本书的睿智只局限在人类的标准里。在最智慧的机器眼中,这本书显得含糊而缺乏根据。数据组的力量是有局限的。真正的力量来自于它背后的独特意识感。

这也是一本诡异而冷酷的书,它的中心思想冷若寒冰。赫拉利关注人类社会中动物的命运,但是却满不在乎地用居高临下的角度描写数据驱动社会里智人的遭遇。我不得不承认我被此深深吸引,但是有可能是因为我自己的身份使然(归根结底我是一个人类)。不过并非所有人都能怀着积极的心态读完此书。很难想象会有人看了这本书之后不感到毛骨悚然。

尼采曾写道:人类就像是在一望无际的大海中扬帆起航,现在我们似乎终于把基督教的道德观抛在了身后。《未来简史》让我们感到在漫长艰巨的旅途之后,人类站在了危险的悬崖边上。身后的旅途似乎已不再重要。我们即将一步踏空,坠落深渊之中。

(翻译:李雪)