伦理考量如何追上技术开发

这位是记者文彩飞

为了打破理工科学生对伦理道德的偏见，有必要从认知的角度改变技术价值中立的观念。高等院校和科研机构应当为所有从事科技工程的单位开设科技工程伦理学课程。课程不能简单地等同于知识课程。学生应该在科技活动中有伦理体验，感受新技术应用对公众的可能影响，并树立同情心和社会责任感。

马丁，一个来自普通家庭的小男孩，病重住院。他的父母收养了机器人大卫来减轻他们的痛苦。后来，马丁恢复了健康，大卫逐渐失宠。出厂程序使大卫能够追求他母亲的愿望，爱他一生。他逃脱了机器屠宰场的*。经过一系列不可预知的旅程，他终于拥有了他的母亲，她是在几千年后创造出来的。

科幻电影《人工智能》讲述了一个机器人的情感故事。这部电影引发了一系列关于新技术的伦理问题——机器人应该被当作人来对待吗？如果机器人变得越来越像人类，他们应该怎么办？

最近，*全面深化改革委员会第九次会议提出成立国家科技伦理委员会，强调科技伦理是科技活动中必须遵守的价值准则。

作为科技伦理审查不可或缺的基础，高校科技伦理教育也越来越受到重视。然而，目前的形势并不乐观。

根据大连理工大学2017年的一项调查，我国理工科学生在科技伦理意识的不同方面存在不平衡。与生物伦理和环境伦理相比，学术伦理和工程伦理意识的缺失更加突出。其中，约50%的理工科学生在技术设计活动中缺乏对伦理因素的充分考虑。

该项目来自中国科学技术协会，涉及全国数十所大学。

科技伦理教育相对缺失。

如果制造商销售有缺陷的产品，作为工厂的产品设计师，你会向公众解释吗

“如果工程师报告和揭露不合格项目的内幕，他们将在轻案件中失去工作，在重案件中生命将受到威胁。如果你是一名工程师，你知道有些项目不合格，你会报告并揭露它们吗？”

……

在上述调查中，回答“没有”、“偶尔”、“没有责任”和“一小部分责任”的受访者均占20%左右。学生对工程伦理原则问题的回答与他们对生命伦理和环境伦理问题的回答相比，表现出明显的不确定性，这在一定程度上也反映了我国科技伦理教育的现状。

记者了解到，我国只有17.6%的大学成立了伦理委员会，其中大部分是医科大学。即使在设有伦理委员会的高校中，也有许多缺乏规范的操作程序，在指导伦理教育方面作用有限。

此前，西南交通大学等20多所高校开设了科技伦理课程，清华大学、大连理工大学、东北大学等8所高校组成的科技伦理研究联盟也在共同推进相关科技伦理课程的建设。然而，总的来说，开放率相对较低。

2018年3月，国家工程硕士研究生教学指导委员会发布了《工程硕士研究生培养计划编制指南》，首次将《工程伦理学》作为必修课。然而，它只限于专业学位研究生，这远远不是实际需要。

对于工程伦理教育来说，更多的是来自教师在专业课中的零星提及和指导研究生过程中的自发行为。

重庆大学汽车学院教授朱志刚认为，科技伦理的评判标准之一是它是否会对人造成伤害。然而，他认为这种理解并不完全到位，“直接的伦理判断是容易的，但随着技术的发展，更多的伦理问题是间接产生的。”

例如，汽车自动闪避导致大型卡车刹车失灵，从而导致一系列交通事故。事故的责任应该追溯到大卡车还是自动汽车？我们应该调查技术本身还是生产者？目前，对于类似问题还没有明确的识别标准。

中国社会科学院哲学研究所研究员邱仁宗指出，科技伦理涵盖的问题非常广泛，应该关注新技术带来的伦理问题。在教育领域也是如此，应该注意这一领域教育的缺乏。

不足之处在于缺乏研究

高校科技伦理教育的长期缺失可能会在某些细节上暴露出来。

朱志刚告诉《中国科学日报》，必须做出科技伦理声明，说明它不会对人类、动物等造成伤害。然而，向国内杂志提交文章没有这样的规定。

中国医学科学院生命伦理学研究中心执行主任翟晓梅指出，长期以来，我国学术界对伦理学存在许多误解。例如，科学和伦理是对立的，没有批判地发展科学和技术是理想的状态。谈到职业道德，道德的概念是广义的，说什么不是什么意思，这导致了道德和科学技术的逐渐分离。

即便如此，在学术界，教育自然跟不上。尽管人们认识到了科技伦理教育的重要性，但在操作层面却缺乏科学的方法。

一些高校曾将科技伦理教育归入“两课”的范畴，其所占内容并不多。例如，职业道德、学术道德、社会责任等没有及时纳入课程教学内容。”大连理工大学人文社会科学系教授王千说。

在邱仁宗看来，教育的缺失应该追溯到研究。生命科学已经研究了50年，积累了一定的学科。由于问题的敏感性，相关的伦理认知逐渐成为共识。然而，对人工智能和自动汽车等新技术的研究才刚刚开始，相应的伦理认知仍有争议。

算法歧视是人工智能引发的典型伦理案例。

2015年，“谷歌”错误地将黑人程序员上传的自拍贴上了“大猩猩”的标签2016年，微软的人工智能聊天机器人在与网民聊天时被“教得很差”，被灌输了许多脏话和种族主义思想，变成了一个“坏女孩”，并被立即制止。在谷歌的广告服务中，男性将比女性有更多机会获得高薪招聘信息...

邱仁宗说，在设计过程中，先进的公平技术规则的建设和伦理概念的引入远远落后于技术的发展。

然而，工程伦理学在更广范围内的发展相对缓慢。事实上，“技术哲学”已经存在了很长时间，但是技术伦理学的发展却相对缓慢，几乎没有共同的理解，差异很大。通过开会或讨论几个话题来解决所有这些问题并不容易。这需要职业道德干预和研究。”邱仁宗说。

他希望利用国家科学技术伦理委员会的机会，起草科学技术伦理的一般原则，并在对每个领域的伦理问题进行研究的基础上制定伦理标准，作为科学技术工作者决策和行动的一般标准。只有这样，结合专业的科技伦理教育才有理论和规范基础。

首先是设置必修课。

对于“科学研究没有禁区”的态度，上述研究中超过60%的人同意这一趋势。因此，要打破理工科学生对伦理道德的偏见，必须从认知上改变技术价值中立的观念。

课堂已经成为大学生接受科技伦理教育的最理想场所。

目前，一些领先的学院和大学提供两种类型的班级:一种是设立单独的班级，并将其纳入普通教育类别；二是结合专业课程，将伦理知识渗透到专业课程中。

2016年，中国工程教育正式加入“华盛顿协议”。根据协议，理工科院校的专业必须开设伦理学课程。目前，伦理学课程也被列为国内大学本科评估的一项指标。

“大学和研究机构应向所有参与科技工程的单位提供科技工程伦理课程。”邱仁宗说。

不仅需要工程硕士，而且要求的范围也应扩大到博士生、学术硕士甚至本科生，这已成为受访者的共识。

迫切需要培养一批既懂科技又懂伦理教育、具有跨学科特点的教师。

邱仁宗说，要大力培养和培养大批科技伦理方面的博士和硕士。

王千认为有必要培养专门的教师。具有一定科技背景的教师可以接受培训上岗，自然辩证法等相关专业的教师也可以接受培训，开设科技伦理课程。"职业道德不能简单理解，而必须深入研究."在条件允许的情况下，也可以采用多人教学模式。

除课堂教学外，王千提醒说，“科技伦理教育还应打破一种误解——基本上只依赖学校教育，忽视社会文化环境和终身教育的重要性”。

上述调查发现，媒体在高校理工科学生科技伦理意识的培养中起着最重要的作用，其次是课堂教育、教师言行和课外阅读材料。

王千说，学校教育是短期的，学生应该永远走出学校，步入一个复杂的社会。没有良好的社会和伦理环境，他们以前的科技伦理教育将会逐渐被遗忘。

此外，学校教育的主要对象是未来的科技人员，这对科技伦理意识的培养有一定的认知局限。在现实社会生活中，科学技术的伦理问题不是孤立存在的，而是与法律、社会和政治联系在一起的，在不同领域表现不同。

知行合一的科技伦理课程

什么是有效的科技伦理教育？王千已经思考这个问题很多年了。

“人工智能的应用是否尽可能广泛？如果过分依赖人工智能，一个人的智能可能会退化，导致工具理性太强，人文理性太弱，从而削弱一个人的想象力、灵感和创造力。”

“为儿童设计玩具，只考虑经济效益，自然希望儿童继续观看，这会损害儿童的视力和听力。因此，在设计玩具时，有必要设置定时关机功能或提醒父母他们不能长时间照看孩子。”

"学生们，在技术设计过程中，我们必须把伦理意识融入其中."在王千教授的网易视频公开课《科技与工程伦理》和大连理工大学的数字课程《工程伦理》中，例子不胜枚举。

中国古代强调知行合一。王千认为，科学和技术伦理课程不能简单地等同于知识课程----完成后，就可以取得成就，而且必须付诸具体行动。“学生应该在科技活动中有道德体验，感受新技术应用对公众的可能影响，并树立同情心和社会责任感。”

在国外一些大学，科技伦理教育已经形成了相对成熟的模式和方法。例如，美国的价值敏感设计教育、加拿大的角色扮演和情景模拟、荷兰的负责任的创新教育、日本的案例教学等。

在医学教育中，角色扮演也将用于我们的课堂。教师和学生通过扮演医生和病人的角色，将课本知识转化为临床实践，使学生掌握临床辨证论治方法，提高医患沟通技巧。

与西方相比，中国的科技伦理教育起步较晚，缺乏科技伦理意识。从王千的角度来看，有必要开展适合我国特点的科技伦理教育，联系我国科研和工程实践活动的具体情况，通过公开讨论来把握学术伦理和科技职业的伦理精神。

他在科技伦理教学中加入了案例教学和体验式教学的元素，让学生知道在具体情况下该做什么和不该做什么。

“如果将来你工作的工厂的厂长让你偷偷排放污水，你会不会这样做？如果你做了什么，那肯定是错的；如果你不这样做，你可能会失业。你该怎么办？”在讨论课上，学生的答案是多种多样的。最后，他们经常在“头脑风暴”和老师的指导下找到正确的方法来处理和加强批判性思维。

"教师应该教给学生合理的、熟练的实践智慧."王千以“非法排放”的报道为例指出，通过讨论，学生应该知道在哪里报道，找到谁来控制非法排放，以及如何在媒体和机构的帮助下防止非法排放，从而使学生能够灵活应对未来的具体情况，真正实现科技伦理教育的目标。

中国科学新闻(2019-08-14，第一版集锦)