艺术档案 > 评论档案 > 冯象︱人工智能和共产主义

冯象︱人工智能和共产主义

2019-03-09 21:13:30 来源: 中国法律评论 作者:冯象


2018年11月月22日上午,清华大学梅汝璈讲席教授冯象先生给北大法学院的同学们做了一场讲座,题为“人工智能(AI)和共产主义”。本期推送讲座整理稿,以飨读者。

讲座伊始,冯先生谈到他近期思考的一个问题:“资本主义在西方败坏了,这一点已是共识。中国以其强劲的所谓“修正主义”(川普语),能否拯救资本主义,做它的末世弥赛亚?”

人工智能对全球资本主义秩序的挑战:大失业与军事化
 
AlphaGo完胜当今围棋第一人柯洁,让公众第一次真切地领教到AI的威力;而最近的基因编辑技术作用于人体的实验,亦让我们警醒并反思:伴随着基因工程和AI等技术革命,人类文明是否正面临着巨大的转折与严峻的考验?AI将会对现行的全球资本主义秩序带来怎样的挑战?

冯先生说,现在一些专家学者对“AI”的认识,总会让他想起耶稣在十字架上的那句话:“父亲啊,请宽赦他们!因为他们不晓得自己在做什么。”论者经常陷入一个误区:把AI当成自动化来理解,回避了它的严峻挑战。

在冯先生看来,AI会带来两大风险:一是大失业,二是军事化。

就失业问题,冯先生谈到:“AI带来的失业不是局部的,而是覆盖多个行业、比例较高的失业。更何况晚期资本主义的发展,临时工合同工化,这个局面几乎会波及一切领域,现在没有什么工作是机器取代不了的。无论是东莞制造业的’机器换人’,或建设中的上海洋山港的无人装卸,蓝领劳动被机器取代,而看似复杂的白领劳动也会被机器人作废。”

随着AI的发展,白领岗位所需要的知识技能、工作经验,对于机器人,都可以转化为数据跟算法——都不难让老板或领导做出那个“经济理性人”的决定:机器换人。

“在座的各位同学即将进入的这个时代,越来越多的工作会是临时工、合同工;包括北大的老师也都在往合同工转,惶惶不可终日呢。”冯先生对在场的同学们说。

而AI军事化发展,无疑也是另一个令人忧虑的问题。在西方自由主义民主近于瘫痪而极端势力抬头的今天,尤其危险。

冯先生谈到,哈佛法学院国际人权诊所一直在争取为全自主武器颁布一个禁令,而包括伊隆·马斯克(Elon Musk)、苏莱曼(Mustafa Suleyman,深脑共同创始人)在内、来自全球的 116 位AI专家已经向联合国致公开信,警告世人,“智能武器系统”的研发将打开“潘多拉魔盒”。

“现时,大规模杀伤武器,只有生化武器被国际条约有效遏制着”,冯先生解释说。1997年4月29日生效的《禁止化学武器公约》旨在全球范围内尽早彻底销毁化学武器及其相关设施。而从减少碳排放到禁止核武器,国际合作与国际公约的签订,并无成功案例。

显然,仅凭一纸决议或国际公约,管束不住AI资本。

与掌握在国家手中的核武器相比,为私人公司所掌控的AI一旦军事化,并卖出白菜价,显然是更为可怕的。如果继续无所作为,放任资本,AI势必为一小撮数据寡头所垄断,形成“租用主义”即生产工具和生活资料的彻底知识产权化的统治,甚至法西斯暴政。

对此,冯先生提出了他深重的忧虑。

人工智能对法治的挑战:私法向公法演变,硬规则取代软规则
 
冯先生提到最近在美国,无人驾驶所出现的一次意外事故:一辆无人驾驶汽车撞死了过马路的行人。经过调查后发现,这辆车知道前方有人,但是经过一系列计算后还是决定继续前进、撞死行人,因为车内也有乘客,这是无人驾驶汽车经过复杂运算之后做出的最小损害的行为。

相比之下,“将来人类驾驶是无比危险、必须禁止的。无人驾驶会像全民医保、养老金那样,参加是公民/居民义务,因为它将从覆盖整个城市开始,推广开去。而只有国家的公权力,才能在全社会推行。”冯先生说到,全面智能化的社会,是公法社会而非“民法国家”,除了国家,没有人能够拥有掌握AI的权力。随之而来的,便是市场崇拜失效,“市场向计划靠拢,私法向公法演变”。

冯先生指出,智能时代,法律规则也在发生变化。

传统的西方式法治,立法执法都需要民众的认可或同意,就其效能而言,可称软规则。除了国家机器的直接暴力,其余部分一般都有一个协商的过程,这就是民主程序。人们或者直接参与,或者通过代表,协商妥协,达成同意。这样,立法如果未经民主程序,就有合法性的存疑。

而AI的运行规则(即数码规则),如同物理规则,是硬性的。它并不要求人的内心认可,形成广泛的规则意识。因而也就没有我们现在建设新法治,那个老搞不好弄不完的“普法”。

那么如何归置AI呢?冯先生提出两种可能:一是AI公有制,二是彻底知识产权化的“租用主义”统治,甚至法西斯暴政。

人工智能和共产主义
 
冯先生谈到,共产主义、法西斯主义,人类的这两种命运在20世纪曾有惨烈的决战和社会革命,都失败了;而在智能时代,这两种命运又相遇了。

“马克思、恩格斯没有看到无产阶级夺取全国政权,建设社会主义。革命胜利后,建设新社会,培养革命事业接班人的问题,留给了列宁。但列宁去世早,论述也不多。革命领袖,有足够的时间精力和权威来思考研究应对这些问题的,只有毛泽东。但在当时,外面是军事围堵,里面又有路线分歧,加上低下的生产力条件,困难太大了。留下一份宝贵的遗产,包括惨痛的经验教训。所以文革结束,'改革开放',社会上阻力并不很大。主流的合理化解释便是:咱们现在还处于'初级阶段',而且要停留'相当长一个时期',那就发展'先进生产力''先进文化'吧。”

冯先生说,共产主义是人类一直追求的理想,传统悠久。中国古代也有朴素的乌托邦理想,大同社会人人平等。西方则可以追溯到古以色列的宗教理想。经书描绘的“新天新地”,不就是共产主义?耶稣运动光大了这一理想。历史上,农民起义多是宗教起义,西方跟中国是一样的。

马克思批判了空想社会主义、黑格尔哲学、英国古典政治经济学,提炼出三者的合理部分,开创了科学社会主义。马克思认为:共产主义的实现,首先要有极其发达的生产力,乃至“集体财富的一切源泉都充分涌流”。那么,大数据时代的到来,AI经济的兴起,人类是否第一次拥有了这一条件呢?

苏联数学家、诺贝尔经济学奖得主坎托罗维奇曾提出,共产主义理想本质上是可行的,只是必须建立在强大的数据汇集和统计之上。他的故事被弗朗西斯•斯布福特(Francis Spufford)写成小说《红色的富裕(Red Plenty)》。而智能社会恰好具有了他所描述的实现共产主义的技术条件。

“首先,当今社会,财富的源泉已经充分涌流,只不过不是公有的财富,而是私人的财富。第二,目前已经有足够的技术手段来宏观规划。上世纪五六十年代的经济模式被称为’计划经济’,但实际上只能粗略地规划,提出一些经济目标。但在今天,衣食住行,方方面面的数据都有了,并且可以24小时追踪。”

冯先生以智利的阿连德政府为例,解释在智能时代宏观经济规划和数据追踪的可能性。

1970年9月,在智利六年一届的总统大选中,人民联盟候选人、社会党领导人萨尔瓦多·阿连德获胜。同年11月,以阿连德为总统的人民联盟政府(通称阿连德政府)宣告成立。阿连德组织了一个以左翼党派为主体的联合政府,政府中的一些重要部门,由人民联盟中两个主要左翼政党社会党和共产党分别掌管。这一政府起用中央计算专家,企图把整个国民经济的数据放在一起计算。但美国策动了政变,阿连德被推翻,逝世了。那些数据也销毁了。

冯先生认为,市场向计划演进,AI收归公有,这不仅是技术条件成熟同竞争优势使然,如坎托罗维奇所设想的那样,而且也是人类唯一安全的、可持续的、合乎道德的生活方式。

如何建立和谐的人机关系
 
机器人愈发智能,人类变成宠物似乎是无法避免的。

冯先生让学生做一个思想实验:假设生活在另外一个星球,那个星球一切都简化了,只剩下一项工作是那个文明所做的——下围棋,下围棋成为唯一的拥有道德伦理艺术价值的事情。而如果创造一台机器来下围棋,下得远超人类,我们将看到无比深奥美妙的棋艺,但那是机器完成的。这时问题来了:人类生活在这个世界上,还能做什么,追求什么?生命的意义何在?

“我们并不愿意做一个动物般的生命,我们愿意有追求、有理想、有意义、有痛苦。但在智能时代,不加限制地发展下去,这是人类面临的终极威胁:生命的意义何在?也许,AI给我们提出的终极问题是:如果人类没有准备好,该不该继续?”

人机关系面临的考验是严峻的,那么人怎么样和机器和谐相处呢?

冯先生提到人机关系的经典表述:科幻文学巨擘阿西莫夫在小说《我,机器人》里的机器人三定律:

一、机器人不得伤害人类,或坐视人类受到伤害;
二、除非违背定律一,机器人必须服从人类的命令;
三、除非违背定律一或定律二,机器人必须保护自己。

冯先生说,学界讨论阿西莫夫三定律,往往隐含一个前提:出发点还是把机器当做人类的仆人、工具。但AI的飞速进步意味着,机器不仅在智能上超越人类,在道德上也可能超越人类,它们具有理解人的道德智慧和感情的能力。

“既然我们以共产主义为目标,理想的人机关系,便是要以理想人格的道德标准来教育机器,与之携手。这样,将来机器超越人类的时候,它加入的是一个共产主义新人的社会。”

如果机器将以人为榜样,学习人的优秀品德,人机伦理就应当是崇高理想和历史任务的统一;即要求机器人像一名真正的共产党员,不仅代表“先进生产力”“先进文化”,还要如《宣言》提出的,服务于人民群众的根本利益。它要学好解放全人类的理论,“超出资产阶级法权的狭隘眼界”,加入勇敢者第二次废除私有制的社会运动。

唯有如此,人机关系才能避免陷入晚期资本主义的枷锁,建立互相关心、互相爱护、互相帮助的理想世界。

 

【声明】以上内容只代表原作者个人观点,不代表artda.cn艺术档案网的立场和价值判断。

网友评论

共 0 评 >>  我要留言
您的大名