放一个黑客帝国(什么黑客帝国)
【编者按】
2017年11月27日,在上海外国语大学虹口校区第277期“上外博士沙龙”活动中,华东师范大学政治学系教授吴冠军发表了题为“人工智能时代的政治哲学思考”的学术演讲。
吴冠军教授认为,人工智能崛起是我们这个时代的大事件,面对这样的大事件,政治哲学研究者应当介入。吴教授引用荀子和亚里士多德的看法指出,人类的政治活动源自“人能群”,这使得人类相较于动物自成一个维度。但面对当今人工智能的新进展,人类有些紧张,有些惧怕,因为人类忽然发现,现在搞不定人工智能了。
吴教授指出,人工智能的崛起,可能给人类社会带来新的维度变化,加剧社会中极少数精英与绝大多数民众之间已有的社会分化。解决之道在于,迈向“共富国”,就是实现共富,让社会中的每一个人都有机会能今天科技发展的利好。吴教授提醒我们,当分享不了的时候,这个社会就会出现越来越多的扭曲。
以下为这次学术演讲的文字记录稿,由澎湃新闻记者依据现场录音整理和编辑,并由吴冠军教授改定。全文约两万字,分三部分刊出,以下为第三部分。
《黑客帝国》讲的就是今天,我们所有人都生活在一个巨大的、我们认为很美好的世界里,其实这个世界并不美好。图为1999年出品的美国电影《黑客帝国》片头绿色数字雨。
当政治的合力也无关紧要时
面对人工智能的新进展,我们人类有些紧张,有些惧怕,因为我们忽然发现我们现在搞不定人工智能了。但人类在过去七万年里面明明搞定过很多事情。
你们看,有多少动物已经被我们人类灭绝了,人类才是真正的灾难。恐龙是被自然灾害干掉了,但是恐龙死的还算可以,没死在人类手里,在人类手里,恐龙会死得更惨。为让自己舒服,人类真是什么东西都干。但是现在,面对人工智能,人类发现,搞不定了,政治的合力也不管用了,只剩下拔机器电源插头一个办法。
当我们人类最聪明的头脑,在我们人类最擅长的围棋这样一种智力游戏上居然斗不过“阿尔法狗”这样一只机器人的时候,我们人类在智能上,已经无关紧要了。
展开全文
人类自认为很了不起——作为学者,以前我也觉得,自己是个很有学识的一个人。但说难听点,人真有什么了不起吗?我今天说的话,其实都是很多我读过的学者——阿甘本、齐泽克(Slavoj Žižek)、康德啊——他们通过我在说话。人类的合作不只是力量的合作。为什么学术不能抄袭?就是因为你的东西绝大部分是合作的产物。你要注明,哪些东西不是你的,而是来自于你阅读的康德的文本,来自你阅读的齐泽克的文本,你不能把他们拉掉,说那是你的观点。知识的积累,就是每个人都贡献一点点,大思想家贡献得更多,积累起来,我们才有今天的文明。(齐泽克生于1949年,斯洛文尼亚哲学家、文艺理论家。——编注)
今天的科学家都知道,你拿到一个诺奖,那只代表你自己吗?不是的,背后是你的整个实验室,多少人前面帮你打好了基础,碰巧你提出了一个关键想法,然后多少博士生不分昼夜,在实验室里帮你做实验,帮你合作写出这篇论文,最后你拿到奖。那实则是政治的合力的结果。
但是我们发现,到某个临界点上,所有合作,不论你有再多的人,加上各种各样的智慧,永远与人工智能是天壤之别,而且它们的发展速度越来越快。这真的是很恐怖。这个恐怖感是发自内心的。你看到一支脱轨而出的力量,对着你投来冷冷的眼光,我觉得这是一个很重要的时刻,在这个时刻我们不得不开始思考自己。
可能人工智能会对我们残忍,虽然现在没有对我们残忍过,可我们已经编出了很多故事,说我们会被残忍对待,我们的文明会被取代掉。但是你想想看我们文明自身的残忍,到现在为止所有的残忍,甚至我们继续在延续这份残忍,对动物、对人工智能,乃至对彼此。
人工智能有没有智慧?现在还是个有争议的话题。怎么定义智能?有很厉害的运算能力,很厉害的储存能力,各种大数据分析能力,等等。不少人认为只要人工智能不出来意识,我们就不用怕。然而,即便人工智能到现在为止不产生自主做事情的意志,但我们人类今天也已经到了一个关头。这个关头就是,首先审视我们自己,审视我们今天所有的政治社会格局。
那么,人工智能带来的冲击——即便它不会产生自我意识,说要消灭你们——意味着什么?
人工智能将带来新的维度变化
马斯克,就是那个说人工智能很危险的人,他在干一件什么事?
他说,与其让人工智能干掉我们,不如我们牢牢抓住人工智能的所有最新发展,让人工智能为我们所用。所以他现在把一大部分的钱,都放在一个叫“脑机结合”的一个项目上。在他看来,只有我们人类,尤其是牢牢掌握最先进人工智能技术的人,才能够压住人工智能的崛起。我觉得他确实是名副其实的“钢铁侠”,他要把所有的技术发展,都嵌入到我们人自己的身上。
今天已经有各种智能设备植入我们的身体。比如有的人心脏不好,装了一个心脏支架(现在已经有智能支架);还有纳米机器人,进到人的身体中,可以帮你进行修补。越来越多的东西进到人的身体之后,人越来越变得不再是个生物的人。我们现在有各种各样的辅助设备,可以瞬间给出分析。但是我们运用各种各样的植入设备,一个前提是,你要花钱。
我们知道好莱坞有个女明星叫安吉丽娜· 朱莉,她不放心自己,做了一个测试,这个测试很昂贵,一般人一辈子都做不了。她要测试她百分之多少几率会得乳腺癌,最后出来是87%。她很勇敢地说,我不想赌命,就做手术切掉了自己的乳腺。反过来想,我们这些普通人,我们没有钱去做这个测试,那么等到我们知道的那天,就已经得了绝症。
越来越多的人可以使自己变得不同,跟今天各种各样前沿科技结合在一起。人越来越变得半人半机器,因为当你身上有各种各样的机器,你就不是一个“人”了,而是各种各样的东西结合在一起。你身体里面各种各样不属于你自己的东西,在帮助你变化。
你们现在有没有发现,今天的社会里面,随着各种生物技术的介入,以前穷人跟富人就是社会阶层的不同,你不论多么富有,也可能生下一个白痴儿子,生下一个败家子,但今天有了各种各样的介入技术,你会发现富人的孩子一出来就比你聪明。因为他不可能不聪明,他在自己母亲肚子里的时候就经历了各种各样的生物介入技术,这样他出生的时候智商比你高,甚至颜值都比你高。你们看看王健林,再看看王思聪,是不是?通过各种各样的办法,一个富家子弟确实在生物意义上会比你出色,再加上各种各样的东西辅助,而这些东西一般穷人都没有。
所以,未来人工智能的崛起,不是说人工智能会变成一支独有的力量,而是说 人工智能会与我们今天已有的0.01%与99.99%这样一个社会性的区别结合。这样的结合会带来什么?会有一个新的维度变化。
“长生不死”的政治后果
不是说人工智能这样一个单独的力量会把人类全部灭绝,而是说有这样的人,凭借新的技术,他们可以变得超出“人”。
今天有一个说法叫“奇点时代”,什么叫奇点时代?就是说过了2049年,我们的技术就可以保证很多人不死,不是说真的不死,而是说他可以不断换心脏、换肺,不断换身体器官,不断植入各种各样的仿生器官,从而能够接近不死,至少活两百年没有问题。当人类的社会,有一些人在生物机体的意义上开始慢慢变得不同的时候,我们社会的区分,难道真的还是一个社会本身的政治性与社会性的区分吗?
这才是政治哲学真正要思考的问题,叫长生不死的政治后果。政治生活上的不平等,古希腊的时候就存在,到今天还是这样,而且0.01%的人与99.99%的人之间的差距越来越大。我们中国也是,从统计上看,我们的财富是在增长,我们收入的平均数在增长,但是我们中位数没有增长。什么叫中位数没有增长?就是0.01%少数人的钱大量集聚。他们的增长正在拉动平均增长,但是中产阶级在破产,所以中位数不但不增长还下降。这很可怕。
就是这0.01%的一点点的人,慢慢正在变成另外一种人,当这种人不断地活到两三百岁的时候,你以为他们还愿意跟你们在一起?你以为他们看到你还很开心?今天有一个说法叫“低端人口”,很恐怖的。我们的生存,本来还有自然生命最后的平等。以前说“王侯将相,宁有种乎”,你比我了不起,但你活几十岁也得死,我们看着你死,我们最后的智慧叫“我活过你”。以前搞学术的就是这样,你不是大师没关系,你顶住,大师死了你就是大师;你不要死,你先死了,你就什么都不是。所以今天很多人都变成大师了。
现在,自然生命最后的平等正在被打破。有一些人,在生物技术与人工智能的结合下,正在变成另一种人。未来,在某一点上,很可能忽然有些人决定,不认为自己跟其余的人是同一种人。马克思讲到一个词叫“类存在”,就是我开始有意识,我是单独的类别。智人当年就发展出了这种“类存在”意识:我跟你们不是一个类别,你们叫动物,我们叫人。从这个时候开始,所有的残忍都开始了。
人工智能的时代,是一个大时代,我们处在大时代的初始阶段。你看现在的“维秘秀”,你能进去吗?它只给0.01%的人,你有钱都买不到入场门票,有些刚发了一点小财的人,对不起,没你什么事,王思聪可以来,你来不了。所以这个世界已经慢慢到了有一些人不屑于跟你在一起的地步。不屑于跟你在一起,后果是什么?就是一个“类存在”的意识诞生了。当我们这群人参加“维密秀”的时候,我们彼此认证:我们是我们,我们才属于我们,外面的人恶心死了,最好你们快点消失。
而且未来,通过各种各样的技术,确实人会越来越干净,越来越完美。什么叫干净?就是说你的身体依旧会排泄,依旧有循环,但你有纳米机器人进入到你的身体中帮助清理,你就不用排便。你真可以一天都是吐气如兰,因为你没有任何味道。但是一般的人,没有纳米技术,你那么臭,谁愿意跟你在一起?当这个时候来临,我们怎么办?
今天不就是吗?我们穿好衣服,觉得自己很干净,我们看到动物觉得很脏。动物怎么会嫌自己脏?人是唯一在裸体时会有羞耻感的动物。一般动物比如狗,你给狗穿衣服,它还不要穿,觉得不舒服。人还是唯一觉得自己的粪便肮脏的动物,动物没有。动物还喜欢闻对方的粪便,但我们人是要用抽水马桶把粪便抽走的。再往后走呢,当我们中的大部分人都慢慢接近于粪便式的存在呢?
这个世界已经到了这样一个时刻,在这个时刻,我们思考怎么去应对。今天的政治学家准备好了吗?怎么去建设一个社会,让所有的人都能有尊严地生活?现在的社会那么动荡,不就是因为我们站在一个关口了吗?在这个关口,我们看到很多人,觉得不舒服,我们想和他们划清界限。在这一刻,当你想和“低端人口”划清界限的时候,你想没想过,你自己在另外一个地方,被别人划到另一边去了?你不会想这些事。你对别人残忍的时候,你不会想你自己早已被残忍了,你早已不属于很多地方了。
举个例子,以前上海的很多地方是“华人与狗不得入内”,我们今天去外滩走一走,你发现很多地方很漂亮,但是你进不去了。如果你不是某个俱乐部的成员,不属于什么什么,你根本进不去,你是教授都没用。你进去,人家让你出来。我们已经有很多地方是这样了,包括很多上海人,也只能搬到很远的地方去。你看整个市中心谁在居住?有人在居住,但不是你。
无用阶级的诞生
这个时代会逐渐成为无用阶级的时代。图为2016年11月25日,巴西最大城市圣保罗一家商场,适逢黑色星期五打折季到来,人们在购买电视机。
所以我们现在思考的一个点就是,人工智能来了,人类彼此之间的力量会变得越来越不均衡,而这个不均衡意味着,这应当是政治家、哲学家和政治哲学家一起来思考的问题:
我们有没有准备好,怎么建设我们的未来?
另外,我们的社会也确实不争气。你们看看,一边是二十年后的马斯克们、马云们、马化腾们,这些人,他们的力量早就不只是生物意义上的人。你想问题用1秒钟,人家用0.01秒,早就有方案想好了。你跟他们怎么去对话?人家最后所有的东西都比你好,人家会愿意跟你玩游戏吗?不会的,人家笑笑,消失,不要跟你搞在一起。
另外一边是无用阶级的诞生。两个多月前,就在人民广场,那么多人排队五个小时,只为买喜茶,买鲍师傅。我去看过,很壮观的,一队是排喜茶,一队是排鲍师傅,至少排五个小时。好不容易有一个双休日,却用来去排队。未来呢?未来你会有大把的时间去做这个事,因为谁需要你工作?车间不需要你,流水线不需要你,出租车不需要你开(现在都自动开车),律师以后不需要你去做,医生不需要你去做,你还能干嘛?就是排队吃饭,你没有事做。
那些人怎么这么闲?有人问过这个问题吗?排队五小时,只为买一杯奶茶,我是没喝过,不知道有多好喝。但是我们四十几岁的人,一杯奶茶什么味道心里多少是有数的。一杯奶茶能有多好喝,让你愿意用五小时去排队?这五小时里你还不能离开,不能去上厕所,跑掉的话你的位置就没了。你憋住五小时,只为去买一杯饮料,这样的荒诞事情却是有很多人在做。
所以 我们这样一个时代,怎么被人看的起?这个时代会逐渐成为无用阶级的时代。最后会出来一个非常有意思的现象,就是你继续可以玩,社会继续养着你,但是养着你干嘛呢?
十八年前(1999年)有一部美国电影叫《黑客帝国》(The Matrix),你们看过吧。关于这部电影,我有一个重要的观点可以跟大家讲一讲。《黑客帝国》讲的就是今天,我们所有的人都生活在一个巨大的、我们认为很美好的世界里,其实这个世界并不美好。上海被称作“魔都”,一旦被称作魔都了就有点像黑客帝国,你感觉很好看,但是你不想看到真相,它不好看的地方你不想看。
关于《黑客帝国》,有一个很奇怪的问题,这个问题不是我提出的,是齐泽克提出的。他说那个计算机人工智能的“母体”,或者叫“矩阵”,它为什么需要你?它为什么在每个人头上接一根管子,还要努力让你沉浸在虚拟世界里?它如果需要电源,有各种方式,不需要借助你这个肉体,那为什么还要把那么多人养在那边,让那些人有机会反抗它?
今天我们回过头去看《黑客帝国》,这个谜题可以解开了。电影中的matrix,也就是“母体”,不只是一个人工智能,它是由一个碳基生命和硅基生命的结合体在控制着。如果真的是一个无机生命的话,它真不需要你,但如果它是一个碳基生命加硅基生命加各种植入的结合体在操控的人工智能的大机器的话,那它就有可能是会需要你。(碳基生命就是以碳元素为有机物质基础的生物,地球上已知的生物,包括人类在内,大多数是碳基生物。硅基生命相是对于碳基生命而言的,碳基生命以外的生命形态。——编注)
这个时候就能体现无用阶级的用处。这个时候你成了大白鼠,你的身体唯一有价值的是,当高级的碳基生命最终有需要的时候,你可以提供,作为器官的供应者。当我们所有的人,最终下降到这个地步的时候,未来很简单,就是你每天很开心,玩虚拟游戏,你可以随便玩。但是在某一刻,在你被需要的时候,系统只要给你加一点剂量,你就飘飘欲仙,被用非常文明的方式贡献出去了。
我认为,未来的黑客帝国不会很遥远。我们需要思考:我们怎么在这个世界上,我们这个文明是怎么成为人类纪的。不思考这个过程,我们对未来是没有把握的。了解到这一点,怎么去介入未来?时间很紧张了,我们必须与“马斯克们”赛跑。
迈向共富国:让每一个人分享科技发展的利好
人工智能会继续高速发展,技术肯定会往下走,你没办法阻止。现在问题的关键是:我们的政治哲学家与这个世界的政治领袖——现在这个时代呼唤大领袖——有没有能力,有没有眼光,成就一个commonwealth?这一概念在现代性缘起的最初也就是五六百前年就提出来了。现在翻译为“共和国”,其实应该叫“共富国”。
什么叫共富国?
就是真正的共富,就是让我们每一个人都有机会能今天科技发展的利好。而当分享不了的时候,这个社会就会出现越来越多的扭曲。当扭曲到一个点上,就不可逆了。这个时候你再介入,那就是介入不了的介入:当两种东西完全不再是一种生物体的时候,你要再介入,对方为什么要跟你坐下来一起谈论问题?当人家手指弹一下就可以让你消失的时候,人家为什么要跟你对话?
在我们坚持每个人都有价值的时候,有没有可能建设一个真正的共富国?在这个共富的基础上,我们一起去建构一个有人工智能也有人类尊严的明天?
实际上不只是人类的尊严,我们要把这个尊严更加放大。因为我们发现,我们所有的残忍,都是来自于我们自以为的美好。当我们对所有比我们弱小的东西能这样做的时候,你怎么能阻止未来很多别的力量把我们碾压在脚下?他们为什么不能对你这样?纳粹在20世纪失败了,下一轮会失败吗?下一轮会带着各种各样别的名字重新出现。下一次,可能是另外一种生命体来对你做出残忍的举动,这时你有没有能力说:不行,不要对我这样?你的力量是无助的。
今天的在座各位,你们很年轻。你们这代人,我觉得要把学问要做到自己生命里面去,就是要结合这个时代。这是一个大时代,如果我们每个人能活八九十岁的话,我们能看到很多东西,很多东西已经在临界点上了,再往后走,没几年就会出来。你们今天不觉得我们理解新闻的速度已经跟不上了吗?国际氛围变化诡异,以各个角度在轰炸我们,七八年前没这样的。
再往后走,如果我们都觉得自己无法有所作为,那你就无所作为了。但如果你愿意去思考,在思考中获取一份反思的力量的话,我觉得有二十年时间可以让我们跟科技赛跑。马斯克们在二十年时间里到达“奇点”的时候,他们中的有些人可以不死,但很多别的人还得死;在这点到来之前,我们需要和他们立下一个契约:我们怎么玩这个游戏?
我们可以达成一个我称为共富国的这样一个真正的政治智慧。在人类政治能力的起点,我们有亚里士多德跟荀子,都说的非常好。现在,我们有没有能力走向新的明天?(全文完)
作者:吴冠军 华东师范大学政治学系教授