新兴科技发展引发了诸多伦理、法律和社会问题。伦理是未来科学技术发展的一个重要组成部分，需将其嵌入科技发展议程之中，对从事基础研究、技术开发和应用的各类人员提出建议和要求。而如何使他们关注、接受和实践这样一些伦理原则和规范？无疑，伦理教育是其中至关重要的工作。伦理教育已经成为科学教育的重要内容，在理学类、工学类、农学类、医学类等专业课程中，科学伦理、工程伦理、生态环境伦理、生命伦理、医学伦理等伦理教育一般被作为人才培养的重要部分。

以人工智能为例，2006年以来，随着以深度学习为代表的机器学习算法在机器视觉和语音识别等领域取得极大成功，人工智能迎来快速发展期。与此同时，人工智能尚处于初期发展阶段，安全、伦理、隐私的政策、法律和标准问题值得关注，不仅关系到领域的持续健康发展，也直接影响社会与人工智能工具交互经验中对人工智能技术的信任。随着人工智能的大力发展，各个国家在制定人工智能发展战略时，也纷纷提出了人工智能发展应该遵循的伦理原则和规范。人工智能原则和规范的普及和实践的一项重要工作，是推进人工智能伦理教育。国外高校较早便开展了这方面的工作。根据对国外目前100多项人工智能相关的伦理课程统计，其主要内容有以下几个主题：法律与政策、隐私与监控、哲学、AI与算法等，横跨了人工智能的科研和应用领域，并且较为完整地覆盖了人工智能的各类伦理问题^[1]。

相比之下，我国高校人工智能伦理教育发展较缓，与国家人工智能快速发展的局面和形势难以相衬。2020年3月国家决定推行“新基建”，其中人工智能相关的建设被列入重点推进计划之中。以往只是存在于局部的人工智能伦理问题可能逐步发展为全局性问题。2020年人工智能被列入教育部2020年度研究生扩招的重点专业。人工智能相关人才的培养将会是这一政策的重点，而作为人工智能教育中重要一环的伦理教育，其重要性也将日益凸显。加强学校教育在人工智能伦理方面的投入，提高学生对人工智能伦理的关注度和认知度，显然对于我国人工智能未来人才的培养具有积极的作用。但目前，我国高校人工智能教育还面临着许多问题，亟待研究和解决。

随着我国人工智能领域的快速发展，人工智能伦理教育日益成为一个值得特别关注的问题。“高校在上马人工智能专业、规划其课程的同时，应有意识地纳入人工智能伦理道德课程的学分和学时，为未来的人工智能专业人才把好舵”^[2]。可以说，高校对推进人工智能伦理教育已有一定的认识，但相比于生命科学、医学等学科，人工智能的伦理课程建设明显滞后，教育方式与人才培养模式不符，高校人工智能教育难以覆盖人工智能研发人才培养和人工智能产业发展需求。

据教育部2020年3月公布的2019年度普通高等学校本科专业备案和审批结果显示，180所高校新增了“人工智能”专业^[3]。但是除了北京大学、中国科学院大学、浙江大学、西安交通大学等少数高校以外^[4]，国内目前相关的人工智能伦理类课程较少，而这导致了专业学习人数增加和伦理课程数量呈现出明显的断层，少量的课程并不能满足不断增长的学生数量。

与生命伦理、医学伦理、工程伦理相比，人工智能伦理缺乏规范化的教材，这使得教学人员在大多数情况下需要自编教材，从而缺乏对人工智能专业学生进行统一的、规范的伦理教育。另外，由于案例库的缺乏，也需要教学人员自寻案例，但由于伦理问题的可解释性空间较大，可能存在同一案例的不同解释，这对于形成一般性的对人工智能伦理问题的一致性认知是不利的。

由于上述问题的存在，高校人工智能教学和研究从业人员存在较为严重的对伦理问题认识不充分的情况，同时对于如何将伦理理论与实践结合依然存在大面积的认知空白。

人工智能的发展存在诸多不确定性因素，可能对法律系统、社会伦理、国际关系等造成巨大的不可控的影响。增强对这些问题的认知同时扩大伦理教育在人工智能人才培养中的影响，将有助于防范不可控的消极后果，避免走“先污染后治理”的老路。

相比较而言，国外高校目前人工智能伦理课程开设大学多、系所多、主题多，在课程设计等方面有不少可借鉴之处。在2020年美国第51届ACM计算机科学教育技术研讨会^[1]上，来自科罗拉多大学博尔德分校和马里兰大学的研究人员对国际上的技术伦理课程发表了一份报告，其中对高校开设人工智能相关课程进行了统计分析。目前国际上已经有90多所高校开设了与人工智能相关的伦理课程，其中美国大学开设的数量最多。同时开设相关课程的系所呈现多样化，不仅有传统的计算机系开设相关的课程，比如斯坦福大学、伯克利大学等等；亦有哲学系、历史系、法律系、经济学系开设相关课程等等，比如爱丁堡大学、乔治敦大学等等。除此以外，在课程内容上，也呈现出多样化的特征，涵盖了法律与政策、隐私与监控、哲学、AI与算法、社会与环境影响、商业与经济、科研伦理等多个话题^[1]。

在专业化和规范化的人工智能伦理教育上，针对与实践相结合，培养人工智能研发人才，应对产业发展需求，目前国外有两种教学方式非常有借鉴意义。这两类教学方法可以使AI专业学生从学习阶段就开始识别和解决伦理问题，并且可以让学生对伦理理论在实践上形成较为直观的认知，从而推动学生在伦理认知上的深入。同时，将理论和实践相结合，将能为学生提供识别、面对和处理伦理问题的宝贵经验，使得其在踏上工作岗位之前已经具备了一定的处理伦理问题的经验。

嵌入式伦理学（Embedded EthiCS）是一种将伦理学融入计算机科学教育的新方法，与以往大课类型或者单独设立的伦理课程不同，嵌入式伦理教学方法尝试将自身与原有课程相融合，从而使学生可以在学习特定技术的课程时，同时学习由该技术造成的相关伦理问题。它将有效地促进学生在学习阶段养成伦理思考的习惯，并在将来的工作中依然能够有良好的伦理考量，同时它能够在避免开新课的同时满足学生对伦理考量的需求^[5]。目前哈佛大学的计算机科学课程已经采用了此方法（见表1）^[5]。

表 1(Table 1)

表 1 哈佛大学计算机科学课程[5] 类别 课程名称 挑战（嵌入式伦理） 课程编号 导论课程 计算机科学中的伟大想法 电子隐私伦理 CS 1 计算机科学导论II 负道德责任的软件工程 CS 51 数据科学前沿 数据科学决策的伦理考量 CS 109B 理论 数据分析中的公平、 隐私和有效性 自动化雇佣系统中的机会 多样性与平等性 CS 126 计算机科学 与经济 网络 Facebook，假新闻以及 监管的伦理 CS 134 经济与计算 匹配机制与公平 CS 136 经济与计算的交界专题 可解释性与公平 CS 236R 编程语言与 计算机系统 编程语言 具伦理可验证性的 软件系统 CS 152 数据系统 数据与隐私 CS 165 大数据系统 隐私与数据统计推断 CS 265 人机互动 设计有用与可用交互系统 包容性设计与机会均等 CS 179 人工智能 机器学习 机器学习与歧视 CS 181 AI导论 机器与道德决策 CS 182 自动机器系统 机器与工作 CS 189

表 1 哈佛大学计算机科学课程[5]

根据嵌入式伦理，每门课程都有一名助教，一般是哲学领域的博士生或博士后并且具有很强的伦理学知识和丰富的教学经验。助教与教师课程负责人合作设计一个伦理模块，让学生通过特殊的问题获得进行伦理思考的实际能力。这些小模块旨在为学生提供三项核心道德推理技能：识别和预测计算机技术开发和使用过程中的道德问题的能力；单独或与他人合作对这些问题和潜在解决方案进行推理的能力，运用道德哲学中的概念和原则；以及有效沟通他们对解决这些问题的理解和方法的能力。这些单元强调“主动学习”活动和作业，教学生将所学的哲学思想应用到具体的、现实的道德问题中，如最近的道德教育研究所建议的那样。它们旨在帮助学生在上下文中锻炼他们新近获得的伦理推理技能^[5]。

一般实验是自然科学类学生较为普遍采用的教学方法之一，而这也能够给予当前的AI伦理教学以一种新的视角，即如何将伦理思想与自然科学教学紧密结合起来。模拟伦理实验要求学生能够将特定的伦理观点植入到某项实验作品的制作中，同时通过积极的反馈给与对该项作品以伦理上的评价，使得学生能够通过一项具体的实验完成伦理理论与实际应用的结合。

以微软AI学校（Microsoft AI School）为例，它设计了一个负责任的会话AI（Responsible Conversational AI）实验，通过给出一系列背景知识（诸如一般的利益相关者）以及需要注意的责任命令（Responsibility imperatives），让学生去设计一种能够会话的AI，同时通过考核该AI的可靠性、易用性以及可能带来的（负面）后果，让学生去理解何为责任及相关的伦理原则^[6]。

在上述两种教学方法之外，国外也采用诸如游戏教学、沉浸式剧场等方式对学生进行伦理教育^[1]，这些教育方式都可以在很大程度上加强学生对人工智能伦理问题及其后果的认知，修补其知识系统内可能存在的对人工智能理解上的漏洞，并且能够有效提升学生对伦理问题的意识与警觉性。

目前国内的教学方法多以大课讲授+讨论组成^[7]，这对于人工智能发展和我国人工智能战略发展是不够的。我们需要提高人工智能的伦理教育水准，培养优秀的、具备高道德水平的人工智能人才。这就需要不断加快课程设计，加速推进人工智能伦理课程的设立，提升学生理论联系实际的能力，推进人工智能伦理的技能化训练进程。针对当前我国高校人工智能伦理教育，可以从以下几个方面入手：

（1） 人工智能伦理教材的规范化。推进统一化教材的编写工作，同时加强对教学人员的培训，提高伦理课程的质量与深度。由于伦理问题涉及到多个学科，需要加强学科间的交叉合作与研究。目前人工智能伦理涉及到哲学、法律、经济等多个学科领域，在丰富对AI伦理问题认知的同时，必须加强多学科合作教学。

（2） 高校人工智能伦理应聚焦学生的实践需求，加强对学生未来可能直接涉及的实践中的伦理问题的教学，借鉴国外人工智能伦理教学方法，探索实践新的教学方法，在提高学生伦理意识的同时，加速推进理论与实践的深度结合，避免出现理论与实践脱节的状况^[8]。

（3） 人工智能伦理教育需高校与企业联手共育。目前国内和国际上许多企业已经成立了人工智能伦理相关委员会或者制订了伦理准则。企业在人工智能伦理实践中积累的经验能够对高校的伦理理论教学形成增益性补充，同时加快学生从伦理思考转向伦理应用的过程，推动产学研一体化。

（4） 对标国际和领域发展，同时关注中国的人工智能伦理问题。人工智能是一个快速发展的领域，这是新兴科技的显著特征。教学上需要跟踪人工智能领域的最新进展和伦理问题，关注国际上的伦理讨论焦点。伦理问题有在地化（localization）特点，且具有强应用性，需要关注中国人工智能突出的伦理问题和应对思路，使人工智能伦理课程更能符合中国的实践。除此以外，由于伦理准则存在相对性，这将导致人工智能实践存在区域差异，需要在教学中予以强调，以此提高学生对伦理准则的敏感性。

REN An-bo, YE Bin