未来机器人会不会被少数人类利用或自主地对人类造成伤害？这是一个非常具有争议的话题。这里的机器人必然是高智能机器人，他们自我进化和学习爱人心智、个人尊严与种族意识，将来会成为我们亲密的朋友还是人类的敌人？这种“较量”也充满着未来的不确定性。倘若大势所趋，机器人未来将批量生产，成为我们日常生活中不可缺少的一部分，这时必须平等地制定机器人生态制度，如领养协议、户籍制度、职业分工、身份认同、法律与销毁机制等，这样才能与人类互补、互助，合谐共处。

人工制品的出现非常早与广泛：如我们日常生活使用的工具、人工大运河、人造武器、人造卫星、家用电器、甚至于数字虚拟世界与生物领域的克隆生物都是人工制品。而“机器人”和其概念的出现都早于“人工智能”（机器人‘Robot’一词出现于1920年，而早于50年代出现的人工智能‘Artificial Intelligence’英文缩写为AI）。机器人广义范畴包括人工自动制品，如三国时代诸葛亮发明的“木牛流马”，以及古代墓穴机关的半自动装置都是机器人的范畴。人工制品、机器人和人工智能是范畴大小和技术不断更新变化的关系，机器人是人工制品，机械机器人实施具备知识规律性、自主或拟人的能力，实施智能行为才可称为智能机器人，由于机器人终极目的是实现其智能化，所以两者密不可分。机器人的智能会不会超越人类，将来与我们是敌是友，其存在的利弊也一直引发诸多争议。这些争议尤其在科幻影视作品中有所表现，科幻电影充分预设和揭示着未来后人类生存的极度困惑，新媒体艺术也会与科幻电影艺术一起将成为关注未来的具有创造性的艺术类型。

 
▲ 斯蒂拉克《行走的头》，机器人系统，2006-2008

机器人艺术与人工智能艺术都是新媒体艺术的一个分支，机器人艺术是将机器人和技术作为媒介载体，加以艺术的语言转换（如机器人的行为、语音、道具、环境、造型、色彩、材质等都可转换为艺术语言），借用历史、现实、未来的符号或题材，表达当下人敏锐的生存感受、观念与思想。机器人艺术除了可以讨论人工智能对人类的影响，也可以借机器人这个题材、媒介表达各种思想与观念。机器人将来逐渐会成为影视作品中的主角，也会成为展览现场的“艺术家”和载体。

 
▲《人工智能 Artificial Intelligence》剧照

 
▲《Eva》剧照

终极利弊：人工智能PK人类智能

未来终极的发展趋势是机器人一方面可能会成为我们最亲密的朋友，如科幻影片《人工智能》（AI）、《Eva》表达的态度和观念；另一趋势是机器人也可能成为我们最危险的敌人，如科幻影片《我，机器人》（I, Robot）中导演所传达的态度和思想。这两个终极可能性一是取决于人类技术研发的结果，给机器人输入多少有利或有害的程序，虽然普遍的人类输入的必然是服务或利于人类生存的程序，但也可能有些人会利用机器人的特殊能力伤害人类，满足自己的权利和欲望；另一种可能是机器人自我学习和进化的能力不可估量，如机器人自私、贪婪的权力欲望、种族意识。

 
▲《人工智能 Artificial Intelligence》剧照

 
▲《我，机器人 I, Robot》剧照

 
▲《机械姬 Ex Machina》剧照

机器人的发展方向是仿生、仿人类，甚至超越人类功能的发展，另外人工智能与人类智能究竟谁厉害，这也是人类讨论的焦点。图灵测试解决的是人类与智能人幕后对话不可分辨真伪的能力，而对机器人超越人类的两次智能棋赛测试，机器人一胜一平（1997年机器人“深蓝”战胜人类，2003年与人类打成平局），可见机器人在某些方面有超越人类的智能，如运算速度之快，记忆容量之大，推理和判断能力之强，感知能力之敏锐，都是我们不可否认的事实。

未来机器人一旦成为我们生活中如手机、电脑、网络无法隔离的一部分，我们必然会面对很多伦理道德、情感、甚至是法制问题的挑战，如与机器人的感情纠缠，甚至会超越我们对宠物的情感，因为他们和人类的生理与心理形象更相似，相比其它动物更容易接近，投入大量情感难以割舍，甚至排斥其他人类。反之亦然，机器人也可能陷入与人类不分你我的情感，如《人工智能》、《Eva》机器主人公的痛苦体现，在他（她）得到来自人类家庭的关爱后，也为投入所有的情感而无法自拔，但多数人类还是把他们视为异类或物件，进行大量销毁，场面极其残暴。意大利米兰的西尔维奥·阿巴多两年前购买了一个专门用来做面和洗碟的家务机器人。有一天阿巴多觉得意大利面味道不对，第二天到厨房查看机器人如何做面时发现机器人是拿含有洗洁精的洗碟水来煮面，一怒之下他把机器人的脖子拧断。后来查明“被杀”的机器人是由于软件系统出故障，误将洗碟水当作自来水来用。

▲ 意大利米兰的阿巴多买来做面和洗碟的家务机器人

 
▲《人工智能 Artificial Intelligence》剧照

 
▲ 《Eva》剧照

机器人和人类社会的生产、生活密不可分。如果机器能够批量生产，发展机器人可削减劳动力成本、节约能源、提高工作效率、节省工作空间，以及防止人类不必要的高风险作业。而未来机器人的的智能化，同样很多相应的行政机构也是否需要增设如：机器人专用宠物店、学校、超市、美容院、医院、警察局、法院、刑场等，或开放与人类共同使用和拥有的服务窗口或平台。一旦市场上生产出具备会爱人的心智机器人被克隆成已逝去的家人角色，弥补对家人的哀思，从认养机器人到机器人公司的协议签定、维修直至最终的销毁，同样产生物与人的情感和伦理问题，难道品行再好的机器人都没有自然人重要？怎样平等的获得尊严？这是一个值得思考的问题。

如果发展到未来，人工智能与人类智能无异时，谁是地球的主人，谁的身份高贵，举例：人类和机器人相比，人类难道永远比机器人身份高贵？身份认定的标准只是因为碳水化合物组成（生物细胞组合的基本成分）的吗？或以先来后到的标准来判断其身份、等级，似乎不符合人类公平、民主的价值观逻辑。当然，不论自然界的有害生物还是有害人工智能的身份的认定，这个标准都是以对人类的利益弊端来判断的，这也是一个权力化的界定标准。

 
▲《人工智能Artificial Intelligence》剧照

 
▲《我，机器人 I, Robot》剧照

相反，电影《我，机器人》中机器人突破以人类利益规定的行为标准三大定律（1.机器人不能危害人类，不能不帮助人类；2.绝对服从人类；3.具有自我保护能力，除非人类将其销毁。）启动杀人模式，对人类来说将是一种毁灭性的伤害。而现实中因为机器人的设计和操作方面存在问题也会引发命案：1978年9月6日，日本广岛一家工厂一名值班工人被机器人“杀死”（至今日本已有近20人死于机器人手下，致残有8000多人）；1989年，前苏联国际象棋冠军尼古拉·古德科夫和机器人对弈，古德科夫连胜3局后恼羞成怒的机器人突然向金属棋盘释放强大的电流，在众目睽睽之下将这名国际大师击毙。后来查明杀人的罪魁祸首是外来的电磁波干扰了电脑中已经编好的程序，以致动作失误而突然放出强电流，酿成这场悲剧；2015年7月1日，德国大众汽车公司一所工厂一名技术员工被机器人“杀死”……因此，也会引发很多与机器人相关的法律标准的制定，如：对机器人最终审判权力又如何定夺？我们如何辨别好、坏机器人？审判标准是什么？是否和人类审判标准一样？机器人的权益也会像动物保护法一样得到维护吗？我个人觉得未来应该制定保护机器人的利益的机制，同时也应该制定机器人犯罪、审判、惩罚规定，目的与人类和平、自由、平等的治理地球，甚至监督人类犯下不利于地球生态与文明发展的行为。

 
▲《我，机器人 I, Robot》剧照

 
▲《机械姬 Ex Machina》剧照

人工智能的出现受技术革新大环境的影响一步一步梦想成真。工业革命蒸汽机的发明为的是获得大量的资本，自动化超越人体强度，提高效率，发展了生产力；40年代出现了计算机；50年代出现人工智能。人工智能除了人类赋予的模仿人类行为和思想的程序，也会自我学习、进化、繁殖、修改某些程序内容，而改变人工智能的行为方式。然而也有科学家论断由于人类的神经元细胞非常强大，目前或未来在总体上很难超越人类的强大生理机能，只能在某些功能上超越人类。而且，人类对于人工智能的掌控能力也在不断进步和强化，人类能将人工智能的潜在风险控制在可承受范围之内。

 
▲ 日本广岛工厂的切割机器人

 
▲ 德国大众汽车公司工厂的工业机器人

 
▲ 马来西亚吉隆坡一家机器人主题餐厅的炒菜机器人

人工智能对社会、文化的影响

工业机器人作为生产与服务性机器人，据《世界机器人》统计，截至2013年，全球机器人数量已超过1000万台，其中工业机器人170万台，服务机器人830万台。国际机器人学联合会（IFR）最新预测，2014至2018年之间，全球工业机器人销售数量将翻一番至40万，到2018年全球将有130万台工业用机器人投入实际生产。工业机器人可以自动生产大型工业产品如汽车、飞机等；而服务性能的机器人如无人驾驶员、手术医生、海洋勘探员、拆弹专家、家庭服务员等能在人类各个领域广泛应用。60年代的机器人不具备智能化，后来逐渐有了人工智能化机器人，需要增加传感器、人机交互系统以及其自主性。

 ▲《机械姬 Ex Machina》剧照

人工智能自身系统会随着经验的演化，不断自我学习、创新，如具有独特又极为人性化的苹果手机时常吸收以前经验更新操作系统，苹果也堪称完美的智能手机。当下与未来的趋势是大数据暴增、万物互联、再向万物智能的方向发展，这种发展趋势会将平凡的人类变得更伟大，逐渐成为驾驭机器人的人；而机器人会逐渐改变社会结构，人与人的交往增加至人与机器的交往结构，会让人类智能、智力下降逐渐产生懒惰思想；同时需要健全智能网络部门，预防或管制机器人犯罪。机器人社会也会改变人类的知识结构、语言和文化生活，人类只有在顺应时代大潮流的基础上迎接各种有利或有弊的挑战，人类文明才能有所创造和发展，机器人也会逐渐成为未来艺术世界中具有创造力的主角。

张海涛
2016年1月19日

关于作者
张海涛，策展人、艺术评论家、艺术档案网主编。学习于湖北工业大学、西安美术学院。生活、工作于北京。2009—2017年先后任宋庄美术馆执行馆长、元典美术馆副馆长、贾平凹文化艺术馆副馆长、NO！SPACE艺术总监。北京独立影像展选片人；首届圈子艺术青年奖评委；丽水摄影节学术委员、评委。2012年出版个人著作《未来艺术档案》。2007年创办艺术档案网。1999年至今致力于当代艺术创作与研究工作，在国内外的实验影像、新媒体、行为艺术等领域已策划九十余展览。

未来机器人会不会被少数人类利用或自主地对人类造成伤害？这是一个非常具有争议的话题。这里的机器人必然是高智能机器人，他们自我进化和学习爱人心智、个人尊严与种族意识，将来会成为我们亲密的朋友还是人类的敌人？这种“较量”也充满着未来的不确定性。倘若大势所趋，机器人未来将批量生产，成为我们日常生活中不可缺少的一部分，这时必须平等地制定机器人生态制度，如领养协议、户籍制度、职业分工、身份认同、法律与销毁机制等，这样才能与人类互补、互助，合谐共处。

人工制品的出现非常早与广泛：如我们日常生活使用的工具、人工大运河、人造武器、人造卫星、家用电器、甚至于数字虚拟世界与生物领域的克隆生物都是人工制品。而“机器人”和其概念的出现都早于“人工智能”（机器人‘Robot’一词出现于1920年，而早于50年代出现的人工智能‘Artificial Intelligence’英文缩写为AI）。机器人广义范畴包括人工自动制品，如三国时代诸葛亮发明的“木牛流马”，以及古代墓穴机关的半自动装置都是机器人的范畴。人工制品、机器人和人工智能是范畴大小和技术不断更新变化的关系，机器人是人工制品，机械机器人实施具备知识规律性、自主或拟人的能力，实施智能行为才可称为智能机器人，由于机器人终极目的是实现其智能化，所以两者密不可分。机器人的智能会不会超越人类，将来与我们是敌是友，其存在的利弊也一直引发诸多争议。这些争议尤其在科幻影视作品中有所表现，科幻电影充分预设和揭示着未来后人类生存的极度困惑，新媒体艺术也会与科幻电影艺术一起将成为关注未来的具有创造性的艺术类型。

 
▲ 斯蒂拉克《行走的头》，机器人系统，2006-2008

机器人艺术与人工智能艺术都是新媒体艺术的一个分支，机器人艺术是将机器人和技术作为媒介载体，加以艺术的语言转换（如机器人的行为、语音、道具、环境、造型、色彩、材质等都可转换为艺术语言），借用历史、现实、未来的符号或题材，表达当下人敏锐的生存感受、观念与思想。机器人艺术除了可以讨论人工智能对人类的影响，也可以借机器人这个题材、媒介表达各种思想与观念。机器人将来逐渐会成为影视作品中的主角，也会成为展览现场的“艺术家”和载体。

 
▲《人工智能 Artificial Intelligence》剧照

 
▲《Eva》剧照

终极利弊：人工智能PK人类智能

未来终极的发展趋势是机器人一方面可能会成为我们最亲密的朋友，如科幻影片《人工智能》（AI）、《Eva》表达的态度和观念；另一趋势是机器人也可能成为我们最危险的敌人，如科幻影片《我，机器人》（I, Robot）中导演所传达的态度和思想。这两个终极可能性一是取决于人类技术研发的结果，给机器人输入多少有利或有害的程序，虽然普遍的人类输入的必然是服务或利于人类生存的程序，但也可能有些人会利用机器人的特殊能力伤害人类，满足自己的权利和欲望；另一种可能是机器人自我学习和进化的能力不可估量，如机器人自私、贪婪的权力欲望、种族意识。

 
▲《人工智能 Artificial Intelligence》剧照

 
▲《我，机器人 I, Robot》剧照

 
▲《机械姬 Ex Machina》剧照

机器人的发展方向是仿生、仿人类，甚至超越人类功能的发展，另外人工智能与人类智能究竟谁厉害，这也是人类讨论的焦点。图灵测试解决的是人类与智能人幕后对话不可分辨真伪的能力，而对机器人超越人类的两次智能棋赛测试，机器人一胜一平（1997年机器人“深蓝”战胜人类，2003年与人类打成平局），可见机器人在某些方面有超越人类的智能，如运算速度之快，记忆容量之大，推理和判断能力之强，感知能力之敏锐，都是我们不可否认的事实。

未来机器人一旦成为我们生活中如手机、电脑、网络无法隔离的一部分，我们必然会面对很多伦理道德、情感、甚至是法制问题的挑战，如与机器人的感情纠缠，甚至会超越我们对宠物的情感，因为他们和人类的生理与心理形象更相似，相比其它动物更容易接近，投入大量情感难以割舍，甚至排斥其他人类。反之亦然，机器人也可能陷入与人类不分你我的情感，如《人工智能》、《Eva》机器主人公的痛苦体现，在他（她）得到来自人类家庭的关爱后，也为投入所有的情感而无法自拔，但多数人类还是把他们视为异类或物件，进行大量销毁，场面极其残暴。意大利米兰的西尔维奥·阿巴多两年前购买了一个专门用来做面和洗碟的家务机器人。有一天阿巴多觉得意大利面味道不对，第二天到厨房查看机器人如何做面时发现机器人是拿含有洗洁精的洗碟水来煮面，一怒之下他把机器人的脖子拧断。后来查明“被杀”的机器人是由于软件系统出故障，误将洗碟水当作自来水来用。

▲ 意大利米兰的阿巴多买来做面和洗碟的家务机器人

 
▲《人工智能 Artificial Intelligence》剧照

 
▲ 《Eva》剧照

机器人和人类社会的生产、生活密不可分。如果机器能够批量生产，发展机器人可削减劳动力成本、节约能源、提高工作效率、节省工作空间，以及防止人类不必要的高风险作业。而未来机器人的的智能化，同样很多相应的行政机构也是否需要增设如：机器人专用宠物店、学校、超市、美容院、医院、警察局、法院、刑场等，或开放与人类共同使用和拥有的服务窗口或平台。一旦市场上生产出具备会爱人的心智机器人被克隆成已逝去的家人角色，弥补对家人的哀思，从认养机器人到机器人公司的协议签定、维修直至最终的销毁，同样产生物与人的情感和伦理问题，难道品行再好的机器人都没有自然人重要？怎样平等的获得尊严？这是一个值得思考的问题。

如果发展到未来，人工智能与人类智能无异时，谁是地球的主人，谁的身份高贵，举例：人类和机器人相比，人类难道永远比机器人身份高贵？身份认定的标准只是因为碳水化合物组成（生物细胞组合的基本成分）的吗？或以先来后到的标准来判断其身份、等级，似乎不符合人类公平、民主的价值观逻辑。当然，不论自然界的有害生物还是有害人工智能的身份的认定，这个标准都是以对人类的利益弊端来判断的，这也是一个权力化的界定标准。

 
▲《人工智能Artificial Intelligence》剧照

 
▲《我，机器人 I, Robot》剧照

相反，电影《我，机器人》中机器人突破以人类利益规定的行为标准三大定律（1.机器人不能危害人类，不能不帮助人类；2.绝对服从人类；3.具有自我保护能力，除非人类将其销毁。）启动杀人模式，对人类来说将是一种毁灭性的伤害。而现实中因为机器人的设计和操作方面存在问题也会引发命案：1978年9月6日，日本广岛一家工厂一名值班工人被机器人“杀死”（至今日本已有近20人死于机器人手下，致残有8000多人）；1989年，前苏联国际象棋冠军尼古拉·古德科夫和机器人对弈，古德科夫连胜3局后恼羞成怒的机器人突然向金属棋盘释放强大的电流，在众目睽睽之下将这名国际大师击毙。后来查明杀人的罪魁祸首是外来的电磁波干扰了电脑中已经编好的程序，以致动作失误而突然放出强电流，酿成这场悲剧；2015年7月1日，德国大众汽车公司一所工厂一名技术员工被机器人“杀死”……因此，也会引发很多与机器人相关的法律标准的制定，如：对机器人最终审判权力又如何定夺？我们如何辨别好、坏机器人？审判标准是什么？是否和人类审判标准一样？机器人的权益也会像动物保护法一样得到维护吗？我个人觉得未来应该制定保护机器人的利益的机制，同时也应该制定机器人犯罪、审判、惩罚规定，目的与人类和平、自由、平等的治理地球，甚至监督人类犯下不利于地球生态与文明发展的行为。

 
▲《我，机器人 I, Robot》剧照

 
▲《机械姬 Ex Machina》剧照

人工智能的出现受技术革新大环境的影响一步一步梦想成真。工业革命蒸汽机的发明为的是获得大量的资本，自动化超越人体强度，提高效率，发展了生产力；40年代出现了计算机；50年代出现人工智能。人工智能除了人类赋予的模仿人类行为和思想的程序，也会自我学习、进化、繁殖、修改某些程序内容，而改变人工智能的行为方式。然而也有科学家论断由于人类的神经元细胞非常强大，目前或未来在总体上很难超越人类的强大生理机能，只能在某些功能上超越人类。而且，人类对于人工智能的掌控能力也在不断进步和强化，人类能将人工智能的潜在风险控制在可承受范围之内。

 
▲ 日本广岛工厂的切割机器人

 
▲ 德国大众汽车公司工厂的工业机器人

 
▲ 马来西亚吉隆坡一家机器人主题餐厅的炒菜机器人

人工智能对社会、文化的影响

工业机器人作为生产与服务性机器人，据《世界机器人》统计，截至2013年，全球机器人数量已超过1000万台，其中工业机器人170万台，服务机器人830万台。国际机器人学联合会（IFR）最新预测，2014至2018年之间，全球工业机器人销售数量将翻一番至40万，到2018年全球将有130万台工业用机器人投入实际生产。工业机器人可以自动生产大型工业产品如汽车、飞机等；而服务性能的机器人如无人驾驶员、手术医生、海洋勘探员、拆弹专家、家庭服务员等能在人类各个领域广泛应用。60年代的机器人不具备智能化，后来逐渐有了人工智能化机器人，需要增加传感器、人机交互系统以及其自主性。

 ▲《机械姬 Ex Machina》剧照

人工智能自身系统会随着经验的演化，不断自我学习、创新，如具有独特又极为人性化的苹果手机时常吸收以前经验更新操作系统，苹果也堪称完美的智能手机。当下与未来的趋势是大数据暴增、万物互联、再向万物智能的方向发展，这种发展趋势会将平凡的人类变得更伟大，逐渐成为驾驭机器人的人；而机器人会逐渐改变社会结构，人与人的交往增加至人与机器的交往结构，会让人类智能、智力下降逐渐产生懒惰思想；同时需要健全智能网络部门，预防或管制机器人犯罪。机器人社会也会改变人类的知识结构、语言和文化生活，人类只有在顺应时代大潮流的基础上迎接各种有利或有弊的挑战，人类文明才能有所创造和发展，机器人也会逐渐成为未来艺术世界中具有创造力的主角。

张海涛
2016年1月19日

关于作者
张海涛，策展人、艺术评论家、艺术档案网主编。学习于湖北工业大学、西安美术学院。生活、工作于北京。2009—2017年先后任宋庄美术馆执行馆长、元典美术馆副馆长、贾平凹文化艺术馆副馆长、NO！SPACE艺术总监。北京独立影像展选片人；首届圈子艺术青年奖评委；丽水摄影节学术委员、评委。2012年出版个人著作《未来艺术档案》。2007年创办艺术档案网。1999年至今致力于当代艺术创作与研究工作，在国内外的实验影像、新媒体、行为艺术等领域已策划九十余展览。