一、机器人技术进步引发忧虑

国际上对“机器人”一词虽没有统一的定义，但在大多数应用场景中，“机器人”更多地被设计和制造为强化人的某类特定功能。国家863计划智能机器人主题专家组组长、南开大学教授卢桂章认为：“机器人”就是一种具有某种拟人功能的自动化机器；更广泛地讲，凡是具有感知、有某种决策能力并能进行一定动作的系统都应看作是“机器人”^[1]。

经过多年的研发，机器人及相关科技领域积累了丰富的成果，且多技术交叉、融合、协同的发展趋势明显。技术进步和融合使得机器人的应用范围迅速拓宽，已涉及航空航天、国防军事、国家安全、医疗康复、社会服务等多个领域^[2]。与此同时，机器人的“听觉”、“视觉”、“自主决策”、“行动能力”等技术不断发展，与人的协同性逐步加强也引起了人们的担忧。“硅谷钢铁侠”伊隆·马斯克（Elon Musk）认为，人工智能是对人类生存最大的威胁，开发能思考的机器就像在“召唤恶魔”^[3]。史蒂芬·霍金（Stephen Hawking）也认为全面的人工智能将意味着人类这一种族的灭亡^[4]。这些担忧来源于机器人科技的自身特征。机器人科技和物联网、人工智能等技术的结合模糊了物理现实、数字和个人的界线，衍生出复杂的伦理、法律和安全等问题^[5]。

二、从ELSI到iELSE

类似的担忧在20世纪90年代曾出现过。1990年10月，美国国会批准美国国立卫生研究院（NIH）和美国能源部（DOE）启动“人类基因组计划”（Human Genome Project，HGP），随后英国、日本、法国、德国、中国和印度的科学家相继加入，组成了国际基因组测序联盟。HGP直接检测人之所以为人的生物学基础，兹事体大，争议颇多。HGP的组织者、参与者都意识到，从人类基因测序中获得的信息将对个人、家庭及整个社会都会产生深远的影响，并会引起一系列复杂的伦理、法律和社会问题。很快，NIH和DOE设立了“伦理、法律和社会影响研究计划”（Ethical，Legal and Social Implications Research Program，简称ELSI计划），作为HPG的一个有机组成部分, 评估HPG的风险、平衡参与者基于好奇心和利益的冲动^[6]。

ELSI计划直接深化了基因技术的伦理、法律和社会问题的研究。在HGP实施10年后，ELSI研究已经演进为一个重要的交叉研究领域，所支持的一系列研究和教育项目的实施，对临床实践、健康研究、公共政策产生了一定的影响^[6][7]。近年来ELSI研究呈现出更加全面的发展态势，研究范围不再局限于医学与生命科学领域，而是拓展到纳米技术、计算机科学等领域^[8]。

不过，应该注意到的是，ELSI虽然提供了新兴技术治理研究的重要范式参考，但直接应用于机器人治理研究还需要进行必要的改造和拓展。一是ELSI脱胎于HGP, 也主要服务于HGP，HGP直接针对人类自身，伦理是其起点和核心；机器人似人而非人，经济是起点，在很大程度上也是其核心。以伦理为中心的ELSI显然缺少以经济为中心的机器人的治理研究针对性。二是HGP是一个国际合作项目，国际化是题中固有之意；机器人则是被各主要国家当作战略高科技和战略性新兴产业对待，在很大程度上都采取了保密措施，不肯轻易示之于人。长此以往，一旦机器人在思维、情感方面有所突破，各国又不能基于相同的基本原则予以应对的话，对人类的挑战将前所未有，很多人类原则、国际规则有可能分崩离析。因此，围绕机器人治理研究的国际合作有必要加强。三是在世界任何一个主要国家，应对人类行为的法律框架、社会制度和伦理规范都已基本健全。这样的建制性人类社会治理措施，如何移植到人与机器人的关系上来远非易事。基于上述理由，有必要借鉴人类基因科技治理研究的ELSI范式，提出机器人治理的研究范式iELSE（internationalization，Economy，Law，Society，Ethics），从人和人的发展的角度、人类和人类发展的角度，审度、平衡和把控机器人科技和机器人产业的发展，以求在任何条件和情况下，人和人类的尊严能得到基本的保障。

三、机器人治理研究范式：iELSE 1. 国际化（i：internationalization）

近年来，世界各主要国家都制定了发展机器人的政策。美国政府在2011年6月启动《先进制造伙伴计划》，将发展机器人产业看作重振美国制造业的关键；德国在2012年推出“工业4.0计划”，推动工业机器人的灵活化和个性化技术发展；日本政府在2014年将机器人作为经济增长战略的重要支柱^[9]。我国政府也相继发布了《机器人工业发展规划（2016—2020年）》、《新一代人工智能发展规划》等政策文件，把机器人行业作为优先发展领域。如果说人类研发、利用机器人的最初动机是增加经济产出，那么今天的机器人的角色设定远远超出了单纯的生产工具的范畴，已经成为一个国家战略科技力量和新兴战略产业的一个典型代表。而在当今国际经贸框架和地缘政治格局下，一国机器人的发展，会对其他国家的科技、产业、经济乃至军事都产生直接或间接的影响。因此，机器人治理的研究，必须把国际化视角纳入其中。

机器人治理需要全球合作。人工智能是一种高级机器人，其开发和应用具有很强的开放性。这是因为，以机器学习为底层技术的人工智能算法需要大量的数据输入对算法模型进行“训练”，才能够得到更好的人工智能模型。因此，将人工智能的平台以开源的形式公布出来，以吸收更多、更完备的数据加入“训练”，成为很多人工智能平台的必然选择^[10]。这使得人工智能的开发和应用非常具有开放性，同时也带来了治理的难题。为了避免在人工智能领域出现类似互联网领域的暗网治理难题，仅靠一个或数个国家的力量是不够的。开展人工智能这类高级机器人治理的国际合作势在必行。

机器人的发展应用能够支撑几乎所有行业的产业变革，推动和促进机器人发展成为世界各主要国家政府的战略之选。机器人治理研究的目的不是限制机器人发展，而是更好地发展机器人和发展更好的机器人。从这个角度讲，机器人治理研究的国际化的作用和意义在于，学习其他国家机器人研发、应用的先进经验，汲取教训，结合本国具体情况，建立机器人竞争的国际优势。

2. 经济（E：Economy）

对机器人的想象、研制、开发和利用，都有深厚浓重的经济学气息。时至今日，甚至出现了“机器人经济学”（robot economics）。这门被界定为研究机器人的产生、运用、发展，以及经济效益的学科，主要包括：机器人的研制、机器人的销售、机器人的供应和需求、机器人的就业效应、使用机器人的经济价值及普遍意义等，吸引了越来越多的注意力。机器人治理范式研究有必要参考、借鉴机器人经济学的方法、理论和成果。

从机器人经济学的角度看，就我国具体情况而言，面临三个急迫的课题。一是有效劳动力短缺。近年来，随着人口红利的快速消失，我国企业的人力成本不断攀升，压缩了企业生存和发展的空间。人口老龄化成为我国经济和社会发展中不得不面对的“达摩克利斯之剑”。机器人在解决有效劳动力不足方面蕴含着巨大潜力。老龄化问题最为严重的日本在这个领域做出的尝试和成功经验值得我们借鉴。二是海量数据和广阔市场的充分利用。众多的人口和完整的工业体系创造的海量数据和广阔市场是我国发展机器人科技的良好基础，也为机器人科技提供了巨大的成长空间。如何利用好这样的有利条件，使之真正转变为机器人科技和产业的良好成长空间，没有和机器人密切相关的基础研究的长足进步，很难实现从潜在优势变为现实能力的卓越转变。三是打造具有国际竞争力的机器人产业。有国际竞争力的机器人产业是我国提升综合国力、建设世界强国的必由之路。在发展机器人产业时，国内和国际两个市场都是不可或缺的。目前，机器人产业的核心关键技术集中在控制器、减速器、驱动器这三部分。在掌握这三个核心关键技术方面，我国与发达国家还存在着不小的差距^[11]。如何尽快培育企业的核心竞争力、掌握制约我国机器人产业发展的关键技术、占据全球机器人产业价值链的高端点位，是未来中国机器人科技、产业发展的重中之重。

3. 法律（L：Law）

法律是调节机器人各利益相关方利益分配的重要工具，机器人的发展、应用离不开法律的适当约束和规范。但也要注意到在新技术发展的过程中，太早或者太晚针对新技术立法，都会影响新技术的健康发展^[12]。

自动驾驶是典型案例。例如，当一辆自动驾驶的汽车发生了事故，谁应当为此负责？如在事故发生时，有两种选择：一是撞向路边无辜的路人，可以避免更大伤亡损失；二是继续行驶在既定方向，避免无辜的路人遭受伤亡，但是使道路上车辆中的人员产生更多的伤亡。在这两种情况下，计算机该如何做出选择？如何给自动驾驶汽车做视力检查？诸如此类的问题还有很多^[13]。目前世界主要国家针对自动驾驶的立法尚在探索之中，学术界进行了很多研究探讨。在自动驾驶的法律问题得到妥善的解决之前，自动驾驶技术难以得到大规模的推广应用。除了自动驾驶，机器人“犯错”所导致的意外和损失的法律责任问题也是一个亟需探讨和解决的难题。

机器人治理规范的法律视角不应该只停留在机器人引发的责任问题，还应该考虑到机器人的权利事项。机器人创作的小说、诗歌、绘画等作品，是否该享有相应的知识产权，这也是近年来机器人法律研究关注的热点话题。到2018年为止，连续三年举办的“世界机器人大会机器人法律与伦理专题论坛”，每次都研讨类似的内容。可见机器人带来的法律问题不但复杂，而且颇具颠覆性。

4. 社会（S：Society）

不同社会环境下，机器人的发展和应用会面临不同社会文化、价值观、公众心理等因素。我国特殊的传统文化特征和经济社会发展阶段决定了我国在发展新兴技术过程中面临着自身的特殊问题。我国的科技和产业政策中坚持“科技是第一生产力”，一直努力推动科技的研发和应用，对新技术带来的风险则重视不足。政府以外的行动者对技术治理的参与度和影响度都较少^[14]。产业界和学术界与社会公众对新技术的认知存在较大差异，对新技术的应用产生了很大影响。例如，富含维生素A的“黄金大米”对维生素A缺乏症提供了一种有效且价格低廉的干预方法，中国是“黄金大米”的一个重要市场。然而“黄金大米”并未能在中国实现产业化，社会公众的排斥是一个重要原因^[15]。面对“机器换人”可能带来的大规模失业，以及由此可能形成的社会恐慌，需要政府、公共机构、科研机构和媒体等对社会公众进行培训和教育。

机器人对人类就业的冲击从而产生的社会问题是该领域重要的研究内容。目前，机器人、人工智能技术将会拉大社会的贫富差距。例如，阿里巴巴已在其移动支付应用中启用了人工智能客服，将减少对客服工作人员的需求。当一些中低端工作被机器人取代后，拥有高级专业技能的专业人才将获得更高的收入，而处于中低端产业的就业人员的收入可能降低，由此会对社会发展的稳定性带来影响^[5]。

各种歧视在现实世界中普遍存在，也会导致采集的各种数据中可能带有歧视。而将带有歧视的数据输入机器学习等人工智能算法中时，由此生产的人工智能系统也不能避免。当使用此人工智能系统进行决策时，决策结果极有可能带有偏见，导致社会中某些群体受到不公正的待遇^[5]。

此外，机器人治理需要政府、社会公众、企业、公共机构、科研机构和科研人员共同参与^[14]。不同的主体有着不同的诉求，如何协调不同主体之间的诉求是治理研究的内容之一。此外，该领域的研究问题还包括机器人科技应用推广对社会的影响及其评估、机器人技术需要遵守的社会规范、如何在社会环境中对机器人科技进行治理等等。

5. 伦理（E：Ethics）

为了实现机器人与人类的和谐相处，机器人伦理是必不可少的研究内容。英国标准协会已颁布了《机器人和机器系统的伦理设计和应用指南》，欧盟已发表《人工智能、机器人与自动系统宣言》。随着技术的不断进步和发展，机器人智能化和自治化的水平不断提高。“机器学习”技术的发展，为机器人学习和模仿人类行为和知识体系变得可能，机器人在某些方面变得越来越像人。然而实际应用场景的复杂性如此之高，以至于让机器人完全模仿人类做出伦理上的选择在目前仍然是不可能的^[16]。

近年来，除了传统的用于生产线、物流领域的机器人，技术的发展使得机器人进入越来越多的应用场景，由此带来新的伦理问题。当前对机器人伦理问题的研究讨论中重点关注两类机器人：（1）与人类和平相处服务，如情侣机器人^[17]、陪伴儿童的宠物机器人、协助医护人员照料病人和老人的医疗护理机器人^[18]、照料儿童的保姆机器人等；（2）用于战场上作战的军事机器人，或者称之为战争机器人、致命型机器人^[19][20]。不同应用领域机器人有着不同的伦理研究问题。

目前，在服务型机器人领域，越来越多的技术得到应用，使机器人从视觉上和感觉上越来越像人^[21]。和动物宠物相比，这些机器人能够和人产生更多的交流和互动。在一些人群中，如老人、儿童、自闭症患者、智障群体等特殊群体，可能会对这样的机器人产生情感和依赖。这些情感和依赖短期内可能有很好的影响，比如减少老人的孤独感，为儿童提供更为刺激的环境，协助锻炼自闭症儿童的社交能力，等等。然而这些和人高度相似的机器人有不断学习的能力，可以使自身更加符合用户的需求。长此以往，人们可能对这些机器人产生特殊的依赖，影响他们与其他人类的正常交流。目前对这种影响的研究还比较缺乏^[21]。除此之外，和性爱机器人的关系是否属于“性关系”、是否违背婚姻道德、出租性爱机器人是否属于卖淫，都是有待深入研究的伦理难题。

相比于服务型机器人，军事机器人直接和人类的生命密切相关，其伦理研究显得更为迫切。因为能够减少人员伤亡、效率高、能够适应恶劣条件等明显的优势，军事机器人一度有引发军备竞赛的趋势，甚至有可能成为恐怖分子的理想武器^[22]。军事机器人如果大规模应用于战场，技术先进的一方一旦实现单纯使用机器人参战，那么这方将不再有鲜血和尸体。这将大大改变战争对人们情感的影响。战争给人类情感带来的创伤将大大削弱，从而有可能使一个国家更加容易发动战争，而且这样的战争持续时间可能会更长^[22][23]。

四、应用展望

机器人带来的治理课题，会随着机器人的研发和应用的不断发展而扩展和深化。从当前的趋势看，无论是生产型机器人、智能型机器人、服务型机器人还是军事机器人，都处于快速发展阶段的上升期。有的治理课题已经暴露出来，比如自动驾驶的责任问题；有的治理课题在酝酿中，比如机器人作品的权利归属问题；有的治理课题略带幻想但有可能出现，比如人和机器人之间的情感问题。类似的课题，不胜枚举，都涉及到的本文提出的iELSE一个或几个方面，或者说，都可以从iELSE一个或几个方面出发进行相应治理性研究。实际上，iELSE五者之中，彼此之间关联甚多、不宜彻底切割。

从当前的一般情势看，i（国际化）方面的课题，重要但不急迫。这是因为对机器人ELSE（经济、法律、社会、伦理）的治理研究，首先是一国之内的课题。在一国之内，经济合理性是机器人受青睐的原因，法律适用性是突出难题，社会接受性出现分歧而且可以预期分歧会越来越大，伦理冲突性会越来越受到关注。不过，如果当机器人真的作为类的人的相对物或对立物时，国际化就会作为人类应对机器人的第一手段了。没人知道这一天会不会到来、什么时候到来。未雨绸缪，世界上没有任何一种动物比人类更擅长这一点。我们希望iELSE范式能够为研发、利用“好机器人”提早做些准备，真正做出一些积极的贡献。