艺术档案
艺术档案 > 大史记 > 艺术思潮 > 文稿︱ 有效加速主义、后人类与AI对齐

文稿︱ 有效加速主义、后人类与AI对齐

2024-03-26 10:56:21.248 来源: 服务器艺术 作者:服务器艺术


本期论坛,我们以“有效加速主义、后人类与AI对齐”为题邀请了相关领域研究者和学者,集中讨论技术物与控制论、后人类与加速主义、AI安全与AI对齐、道德物化、智能哲学与意识理论、智能社会与人工智能治理等诸多相关问题。本文为讲座文稿,扫描二维码观看直播回放。


@十三维:

大家晚上好,我是今天的主持人十三维,欢迎大家来到服务器艺术有名堂。今天的主题是“有效加速主义、后人类与AI对齐”,这是一个与技术、人工智能、人类未来的角色、社会生态高度相关的重要话题。

对技术的探讨,从西蒙东的“技术物”到许煜的“数码物”,从芒福德的“生物技术”到凯文·凯利的“技术元素”或Susan Blackmore的“技因”概念,毫无疑问,技术已成为人类文明中越来越重要的参与者,尤其在通用人工智能(AGI)技术方面表现得尤为明显。无论是将技术看作人类的延伸,还是人类可能成为未来超级智能的启动器,都表明技术在人类未来中的关键作用。当前开启的AI革命将我们引向一个后人类时代,使我们离技术奇点更近。 

在这样背景下,有效加速主义(e/acc)与有效利他主义(ea),分歧变得尤为显著。OpenAI 事件中,Sam Altman 的策略似乎更倾向于有效加速主义,即主张利用技术加速社会进步,快速推动AI技术的商业化和普及。然而,这种方法可能与 Ilya Sutskever 为代表的有效利他主义的原则相冲突,后者强调在技术发展中考虑长期的社会和伦理影响,因此试图在发展AI技术的过程中首先进行超级对齐(Superalignment),甚至确保AI“爱”人类。

我们有幸邀请到中国社会科学院哲学科技研究室主任、研究员段伟文老师,华东师范大学哲学院教授姜宇辉老师,以及北大人工对齐小组成员邱天异同学作为今天的嘉宾,共同分享对这一主题的见解。

首先,请姜宇辉老师为大家分享。

1.

“什么是加速?什么在加速?

从马克思到Nick Land的加速主义批判”@姜宇辉:

两位老师好,主持人和各位听众好。今天,我将分享我对加速主义的一点粗浅的理解,从哲学角度对“加速”概念进行一点阐释。我对技术的问题很感兴趣,但我自己不太懂,是门外汉,期待在接下来的讨论中向两位老师学习。

关于“加速”概念,我将追溯加速主义思想的脉络,从马克思到Nick Land,后面还有一些人我不多谈,主要将马克思、德勒兹到Nick Land这条线和大家简单梳理一下。这条线也是今天学界大致的共识。

2.jpg

《加速主义读本》(Accelerate: The Accelerationist Reader)可能是迄今为止最重要的一本选集。


什么是“加速”? 从现象入手,研究加速主义的德国著名学者罗萨说:“当人们最终乘上飞机的时候,生活中和地球表面的地形上的空间就完全消失了;对于他们来说,空间就只是一个抽象的、空洞的距离,是用飞机所持续的时间来衡量的。”这可能是今天从思想角度对加速进行的判断。

我们看到的加速,比如驾驶飞机或者开车加速向前,并不是真正地加速。真正的加速涉及整个世界、整个社会整体性趋势,比如朝向终结、朝向末日。这个趋势往往需要抛开眼见的东西,用思想或者是其他研究洞察背后的总体趋势。

我比较认同罗萨这一点,跟Nick Land的观点也比较接近:真正的加速,并非仅仅是技术的一个维度,除了技术之外,还有其他各种各样的加速。比如生活的加速、文化的加速、时尚的加速,包括政治、自然环境的加速。各种各样的加速之间是平行的,是多元的。不能把一种加速还原到另一种;也不能把所有的加速化为同一种模型。相反,不同的加速都有它们自己不同的节奏;不同的加速缠在一起相互碰撞、相互冲击,卷在一起,最终形成的才是加速主义对整个社会的最终认识。各种差异的力量形成一个巨大的、死亡性的、终结性的巨大漩涡,整个世界甚至整个宇宙都卷到其中。

罗萨在书中提到:“真正的加速主义是不断地穿过一个个阶段,使世界事件和生活时间相互接近。”

它一方面作为通往真正生活的道理和保证进步的途径,而另一方面又是无限的深渊和吞噬一切的漩涡。(《加速: 现代社会中时间结构的改变》,第44页) 

罗萨后来指出,真正的加速并不仅仅是向前,而是大家越来越紧密地缠在一起。这个时候,大家会觉得整个世界并不仅仅是乘速度的翅膀、箭头往前驶去。相反,加速是给我们一种生死攸关的感觉,会让我们觉得世界已经达到一种极限,世界已经趋向于一种“阙限”threshold,如果再不改变,再不行动,这个世界可能会迈向无底的深渊,跌入我们根本没有办法挽回的死亡的境地。

在他的另一本书《新异化的诞生:社会加速批评理论大纲》中,罗萨提到:“加速并不仅仅是一种幸福的应许,相反,它是在我们面临有限和死亡时必须作出的一种回应。” 

加速和停滞之间的辩证关系:

世界的各个部分或许都在加速,但世界的整体却反倒愈发停滞

3.jpg

罗萨认为,社会有各种各样的维度,包括技术、生活等各方面的加速,而这些加速最终导致世界的各个部分都在紧密交织中加速,却使整体世界趋向死寂,没有变化的可能,没有解放的空间,没有未来打开的可能性。最后,世界如同一个个大大小小的泡沫,不断加速生长爆炸,但当这些泡沫挤在一起时,世界反而变得越来越窒闷、越来越窒息、越来越没有前行和打开的可能性。

4.jpg

加速主义因此带来了强烈的毁灭和末日的感觉,与20世纪初马里内蒂为代表的未来主义所说的“加速主义”有着明显区别,更包含一种深刻的担忧。

加速主义的历史 

接下来,我们简要谈论一下加速主义的历史,以马克思为起点。

1)首先,加速的最简单直接的定义就是物理学:速率的增加,即事物变得越来越快。 

但如果仅仅从这个角度说,就会发现一个悖论:表面上看,加速带来了自由时间,例如开车缩短了通勤时间。然而,尽管有更多自由时间,生活却变得更加繁忙,自由时间减少。

罗萨指出:“我们没有时间,哪怕我们赢得了时间的富足。”

(2)加速既是“变快”又是“变多”。

罗萨解释称,“加速”不仅仅是速率的增加,还包括单位时间内要处理的事情的增加。技术速率和生活事件的增多相互交织,导致当代社会的悖论。简而言之:我们的时间多了,但我们要处理的事情也变多了……

(3)从罗萨的观点出发,技术加速和生活变快之间并不存在决定性关系,二者是加速的不同方式,彼此相互作用。

但在《机器论片段》中,马克思早就指出,技术加速进入自动机体系时,变快必然导致变多。生活中的自由时间会被资本主义的生产循环吞噬,转化为下一轮生产的有效时间。

克拉里在《晚期资本主义与睡眠的终结》中认为,甚至在睡觉的时候,你认为已经彻底自由了,但还是在给资本主义社会打工。

(4)马克思有一个有趣且深刻的解释:资本主义社会发展到“自动机器体系”阶段,具有四个方面特征:自动、有生命、自律的、有智能。 

“是由自动机,由一种自行运转的动力推动的”

它是“活的”,是一个有着自身的灵魂和生命的有机体,它“消费煤炭、机油等等(辅助材料),就像工人消费事物一样”

它是“自律的”,“这个体系的统一不是存在于活的工人中,而是存在于活的 (能动的) 机器体系中”

它是“有智能的”“资本的趋势是赋予生产以科学的性质”“一切科学都被用来为资本服务”

马克思对加速主义的天才性的预测在今天仍是成立的,虽然今天的技术已经进入到AI、ChatGPT。但还是非常吻合马克思最早的这些解释。

马克思根据历史唯物主义和辩证法提出了一种不同的观点。他认为“加速的资本主义”表面上完美,形成一个自动的大机器体系,不断吞噬人的自由时间,似乎终结了历史和社会的可能性。然而,从历史辩证法和黑格尔辩证法的角度看,所有发展都趋向于其反面。尽管资本主义社会看似完美和封闭,却会违背自身意愿,向下一个阶段转变。 

马克思对加速主义有预测,但并不认为它是人类社会最终的图景。相反,他通过历史辩证法寻求突破资本主义的牢笼,实现下一个阶段的发展。

“决不能从机器体系是固定资本的使用价值的最恰当形式这一点得出结论说,从属于资本的社会关系这样一种情况,是采用机器体系的最恰当和最完善的社会关系。”