这是舒尔茨获得菲尔兹奖的一大原
正处在异常高风险的时代吗?
颠覆认知!科学家发现人类新器官
科学家用它观察大脑细胞
科技助力扶贫 增产增收增效

正处在异常高风险的时代吗?

2020-10-23 11:08 主页 来源:未知
正处在异常高风险的时代吗?



利维坦按:
 
在有限的人类历史尺度上看,自人类文明诞生至今的一万年,工业革命之后的科技发展使得我们所处的这个时代明显加速了,而这区区只有两三百年的历史。这也是奇点理论的顺势推演——人类正在接近一个使得现有技术被完全抛弃或者人类文明被完全颠覆的事件点,在这个事件点以后的事件就像黑洞的事件视界一样完全无法预测。
 
从个体角度说,此次新冠疫情无疑是我们活到现在摊上的世界级大事件了。对于正在经历历史重大事件的当事人,或许还需要一段时间来沉淀和回顾。导致文明遭受重创或覆灭的变量太多,未来人类究竟何去何从,在我看来也只能是一个谜了。
 
我们该用什么样的词来形容当下身处的时代?你心里想的可能会是“史无前例”,或是“所向披靡”。
 
但在这里,我们用了一个你可能没怎么听过的词:“结点(hingey)”。
 
虽然这不是个特别有文艺美感的词,但它却描述了一个极具潜力和远见的想法:我们或许正活在有史以来最具影响力的时期。而其中的原因远不止于2020年新冠疫情或政治所带来的影响。这一概念引发了哲学家和研究者们的激烈辩论:在本世纪所发生的事件,是否会重塑我们作为人类种族在接下来的数千年、甚至数百万年的命运?
 
“历史结点”的假设提出,当下的我们正处在重要的拐点上。这个假设的合理之处究竟在哪儿?
 
如今这些被不断讨论的想法的灵感来源,要追溯到许多年前的一位哲学家,德里克·帕菲特(Derek Parfit)。“我们正活在历史的结点。”他在自己的书中这么写道,“鉴于近两千年来科学和技术上的突破,世界从未有过如此飞速的改变。我们在不久后甚至会具有更伟大的力量进行脱胎换骨,不只改变环境,更是改变我们自己和我们的后代。”
 
 
PNAS
 
历史结点假说在近几个月取得了大量的关注,但从学术的角度以更系统化的方式回答这个问题却已颇有渊源。早在几年前牛津大学的哲学家威尔·麦克阿斯基尔(Will MacAskill)发表了一篇关于有效实施利他主义的流行假说的深度分析,假说所设想的运动旨在利用推理和现存证据来谋求最大利益。
 
一石激起千层浪,文章激起了许多学者从各自不同角度切入问题的评论,多达一百多条;其中还没有包含深度的访谈和文章。由此迈克阿斯基尔便撰写了一个更为正式的版本,作为书中纪念帕菲特的一个章节。
 
 

就像Vox Future Perfect栏目作者凯尔西·派珀(Kelsey Piper)当时所写的,关于历史结点的争论远不止于哲学层面上的抽象讨论:这场争论的目的是为了明确我们的社会该将什么放在首位,从而延续种族的未来。
 
想要理解这么问的原因,我们先把目光转向关于为什么把“结点”设在当下的争论(尽管麦克阿斯基尔如今更倾向用“影响力”一词,听起来没那么故弄玄虚)。
 
首先,我们有着“危机时期”的观点。近几年,不断有数据支持一个说法:我们正生活在异常高风险的时代,包括了自我湮灭和对星球造成长期伤害的风险。用英国天文学家马丁·里斯(Martin Rees)的话说:“我们的地球已经存在了4500万个世纪,但眼下这个世纪是十分特殊的:从未有过先例的,地球的未来首次掌握在智人种族——也就是我们自己——的手中。”
 
前所未有的首次,我们有能力将生物圈不可逆地降级,或是由于技术失控而造成文明灾难性的倒退。里斯是剑桥大学存在风险研究中心(Centre for the Study of Existential Risk )的共同创始人之一。
 
 
非典期间,一名吃雪糕的男孩。 Getty image
 
这些极具毁灭性的力量不断让我们的智慧显得黔驴技穷,托比·奥德(Toby Ord,麦克阿斯基尔在牛津的同事)说道,他在新书《断崖》(Precipice)中提出了减少存在风险的假说。奥德的书名正是我们身居何处的寓言:我们正伫在断崖的边缘,踏错一步就是不可预估的灾难。以这个头晕目眩的视角,我们虽能看到心旷神怡的翠绿陆地就在触手可及不远处——代表着一个朝气蓬勃的未来——但首先我们要度过一个异常险峻的时期。
 
奥德认为,我们这个世纪的文明灭绝概率高达六分之一。
 
用奥德的话说,我们的时代之所以处于如此特殊结点的原因,是由于我们创造出了自己祖先从未面对过的危机,像是核战争或人为改造的高危病原体。与此同时,我们为了防止这些动辄毁灭文明的事件所采取的措施少得可怜。联合国生化武器公约(UN Biological Weapons Convention),一个为了杜绝生物武器(像是超级病毒)出现的国际组织,其所能支配的资金比一家麦当劳餐厅的平均资金还低。简单概括就是,全世界在防止技术终结人类所有生存途径上所花的钱,比在冰淇淋上花的钱还要少。
 
我们正处在一个险峻拐点的说法,也同样是关于历史结点假说的第二场争论的主题。根据研究者谨慎得出的数据,在21世纪我们有可能见证精密人工智能快速进化为超级智能的过程。人们争论着要如何处理这一转变才能扭转整个文明未来的局势,通过一种“点对点(lock-in)”的方式。
 
 
PNAS
 
全知全能的超级智能本身就能够决定人类从今往后的所有命运,人类的下场只取决于它的所求及所需,但研究员还模拟出了另一幅情景。对文明未来的塑造权掌握在最先控制人工智能的人手中,这个人可以是一意孤行的绿林好汉,将手中的权力用以造福所有人;也可能是冰冷无情的统治者,选择用这股力量沉默所有异议。
 

 
 
并不是所有人都接触过人工智能带来的长期影响。但对于那些与其打过交道的人而言,即使你只是相信最糟糕的结果只有丝毫的几率发生,你也不得不承认人工智能所带来的后果会是无比深远的,这导致接下来的数十年比人类史上的任何时刻都更重要。出于这个原因,许多研究员以及有效利他主义者决定将他们的事业奉献给人工智能安全与伦理的事业。
 
你也同样可以搜集其他证据来支持历史结点假说。举个例子,来自剑桥大学的卢克·坎普(Luke Kemp)指出,人类在本世纪造成的气候变化和环境降解问题会干涉到更为遥远的未来。
 
“迄今为止人类史上最具枢纽作用的转变即是全新世的到来,这一转变为农业革命提供了契机,”坎普说道,“人类社会活动只局限于狭窄的气候适应区间。但在这个世纪我们将实施的前所未有、不可预估的地质学实验,并很有可能不可逆地把我们推出气候龛(climate niche)之外,或将我们从无底深渊中拉回来。”(这里还要说明,坎普本人对假说本身及合理性持怀疑态度。)
 
你可能会反驳:人类文明相对青涩的岁月也许是让我们有如此特殊的影响力的原因。人类历史从出现至今不过一万年有余,而较早的年轻一代总是有着能够颠覆传统、改变后世的能力。眼下的文明被我们看作是尚未成熟的幼童,无论身上带有如何重要的特质和伤疤,都将会陪伴其一生。
 
但是我们也将会发现,我们较短暂的历史同样也能佐证截然相反的观点,从而成为一个难以忽视的问题:如果这么说的话,那么第一批人类不也同样生活在最具影响力的时期?毕竟,在古新世或农业革命前夕,只要踏错几步,我们的文明同样也将不复存在。
 
或许事实真的如此,但麦克阿斯基尔认为,尽管人类史上的许多时刻都是具有枢纽性的,但并不意味着它也是有影响力的。以狩猎-采集时期为例,这一时期缺少了作为(历史)结点的必要媒介,因为当时的他们(即我们的祖先)并不具备能够重塑遥远未来的知识,更不具备另辟蹊径的资源。影响力,在麦克阿斯基尔的定义下,包含了能够从数条道路中作出选择的意识和能力。
 
为什么这么重要?
 
这一对于影响力的具体定义,是最初将麦克阿斯基尔引向这一问题的引子。作为一名心系人类前途的哲学家,麦克阿斯基尔和其他人眼中的历史结点假说不仅仅只是为了满足好奇心的解药。他们相信,能否找到其中的答案,与人类文明在近期与远期问题中所花费的资源和时间的多少休戚相关。
 
用更贴近个人的语言概括,当你得知明天就是你一生中最具影响力的时刻——比如一场重要的考试,或与生命中另一半的婚事——那么你当然会立马投入大量的时间和精力。但是,如果你得知你一生中最重要的时刻还在几十年之后,或者并不知道它究竟是什么时候到来,你可能就会专注于其他的优先事务。
 
 
Getty Images
 
麦克阿斯基尔是有效利他主义(effective altruism)的创始人之一,他的工作在于为长期利益最大化找到方法。如果一位有效利他主义者接受了我们处在历史结点的事实,那么他很可能会为此倾入巨大的时间和财富,以减少迫在眉睫的存在风险——事实上,确实有不少人这么做了。
 
但是,如果有效利他主义者认为结点还在几个世纪之外遥遥无期,他们可能就会转而致力于其他有利于长期利益的途径,像是将金钱投资在他们子嗣的发展上。麦克阿斯基尔以一名慈善家为例子,一项只有5%回报率的投资,能够在两百年后增长17000倍。
 
有些人可能会对关于长期投资的设想有所质疑,理由是在历史进程中一旦出现社会瓦解,必然会让所有积蓄化为乌有。另一种声音则认为金钱最好的用法是花在今天面临的重大问题上,比如贫穷。但有效利他主义者的核心思想,是确定并解决历史结点问题,至少能帮助我们作为一个种族的整体,获取如何谋求最大化福祉的智慧。并且确保即使是在遥远的未来,我们也能够长久繁荣。
 
反对结点的依据
 
以上都是关于历史结点假说的争论,及其为什么如此重要的原因。那么,那些争论中的反对意见又是什么?
 
其中最简单的反对理由就是赤裸裸的可能性。以概率论的角度来看,这个理论的发生根本就不太现实。
 
如果我们能够遨游到本世纪之外,并到达哺乳动物物种从诞生到灭绝的平均年龄,在这一标准下人类至少已经存活了一百万年,期间我们的种族很有可能已经散播至繁星中,在其他的星球上定居繁衍。一如我在去年的BBC Future中所写到的,数量庞大的潜在人口就在我们的前头,还未出生。
 
就算我们只把视野局限于未来的五万年内,后世代的人口规模也是极为庞大。就算那一时期的出生率与21世纪保持一致,潜在的未来人口也会是至今所有存活过人类数量的62倍,大致在6.75兆(千亿)左右。
 
 
Nigel Hawtin
 
鉴于还未存在人口的天文数字,麦克阿斯基尔说道,在庞大人口中只占冰山一角的我们,恰好还是最具影响力的情景也太过碰巧了。这些未来人会更有可能(但愿如此)比今天的我们在道德与科学上更加开明,因此能够用我们尚未构想出的方式对未来做出更深刻成熟的改变。
 
这不仅是不太现实——麦克阿斯基尔补充道——还有可能藏有“猫腻”。那些得出我们一定生活在历史结点的结论的人,可能得出的是难以察觉的错误推论;再进行无意识的堆砌掩盖。就比如,万一这只不过是场由认知偏误造成的闹剧?首先是突显偏误(salience bias)的存在,它会让有形的、当下发生的事件看起来要比真实情况重要得多。
 
当你生活在1980年代,你可能会认定纳米机器人是针对人类最大的威胁,当初煞有介事的“灰蛊”理论(失控的纳米机器人不断自我复制,最终吞噬了整个地球,译者注)如今看来是过度夸张了。
 
第二点,可能是确认偏误(confirmation bias)在作怪:如果你相信存在风险值得更多关注(就像这篇文章中提到的所有研究者那样),那么你可能潜意识在这场争论中已经偏向了你要支持的那个结论。
 
“如果一系列的推理将我们引向了‘我们正生活在有史以来最具影响力的时刻’的结论,那么我们则更应思考在推理过程中是否存在纰漏,而不是一口咬定这个结论就是正确的。”麦克阿斯基尔写道。
 
出于这些原因,在公众视野中,麦克阿斯基尔得出的结论是我们可能并没有生活在最具影响力的时期。我们正活在一个非比寻常的结点时期的想法无疑扣人心弦,但是,咎于文明还未踏足的漫漫前路,真正的历史结点很可能还未到来。
 
没有结点的积极一面
 
知晓我们可能并不是生活在最关键时刻最重要的人,你或许会感到气馁。如果你相信“危机时期”的观点,那么下个世纪所迎接我们的将会是格外险恶的未来。我们可能需要付出宝贵的牺牲才能延续种族的繁衍。正如坎普指出,在历史上,每当未来乌托邦的出现受到威胁时,独裁与控制总是会以保障将来作为借口而冠冕堂皇。
 
“国家政府采取严酷措施来应对所察觉威胁的方式早已有悠久的历史,更大的威胁往往也伴随着更加难以管控的非常势力。”他说道。举个例子,有些研究者认为,为了防止邪恶人工智能或毁灭性技术的出现,我们需要针对每一个人的,无时无刻不在运转的全球覆盖性监控。
 
 

 
就算位于结点的生活需要作出牺牲,这也并不意味着在其他的时间里我们就能选择无干涉主义(laissez-faire)。它并不能让我们逃避开对于未来的责任。我们无法否认在这一世纪对星球和自身所造成的巨大破坏,而这也不一定需要借助像是灭亡种族的灾难性事件。回顾上个世纪,我们发掘出了无数种新方式来为后代的未来蒙上不详的乌云,从大气碳排放到海洋塑料污染、再到深埋土里的核废料。
 
所以,虽然我们并不知道我们的时代是否是最具影响力的时代,但可以笃定的是,我们有着愈加强大的能力去塑造将在明天生活的数以亿计的人们的生活方式——不管最终的改变是好是坏。至于我们究竟有没有将这股影响力物尽其用,就只能留给未来的历史学家来判断