20日，由中国人权研究会和意大利罗马大学法学院共同主办的“2023·中欧人权研讨会”在意大利罗马举办。本届研讨会以"现代化与人权文明多样性"为主题，下设"文明交流互鉴与现代人权理念的发展""现代化与人的自由全面发展""现代化进程中的可持续发展 数字时代的人权文明演进"3个分议题。

　　上海交通大学凯原法学院教授郑戈在“分议题二：现代化与人的自由全面发展”上作题为《从人机关系的角度思考数字时代的人权文明演进》的发言。以下为通过速记稿内容整理的发言摘要：

　　众所周知，我们已经进入了数字化时代，以人工智能为典型代表的数字科技已经成为这个时代的通用技术，改变着我们的生活方式、工作方式和社会关系形成方式，与传统的技术相比，人工智能技术的特点就在于它能够学习，能够通过对海量人类行为数据的学习来实现自适应和自演进，并根据它的设计者的目的，无论是商业目的、还是政治目的，来预测和影响人类的行为。因此，数字科技不再是一种被动的工具，它是一种活的展现出智能的工具。人在使用这种工具的时候也将被这种工具影响和改变，因此作为人权之基石的一个核心概念就是人的尊严，人是目的、不是手段，这样一个康德主义的基本命题在数字化时代受到了新的挑战，也正是因为这样，所以说我们需要在数字科技所营造的社会生活背景中来重新思考人权这个概念。

　　数字时代的人权我们应当确保在人机交互的总体环境中保障人的尊严和自主性，集中体现在人在回路这个原则上，所谓的人在回路是指在机器学习、自动驾驶、自动化武器以及自动化决策等人工智能应用场景中要求人类的介入，也就是说即使从技术上讲，机器已经能够自动化的完成所有的感知、决策和执行过程，从人本主义的角度出发仍然需要人作为机器决策的最后的把关者。尽管不一定明确使用人在回路这个术语，但要求有人来监管和介入人工智能的自动化决策，是体现在世界各国相关立法中的普遍原则，以至于有学者提出了人在回路前这一概念，认为它是数字社会中人的基本权利之一。

　　这已经不是一种学者的观点表达，实际上体现在世界各国的众多的法律当中，比如说中国体现人在回路原则的法律规则因循的传统的让人来负责的思路，比如《网络安全法》第21条，要求网络运营者确定网络安全负责人。《个人信息保护法》第52条，则要求处理个人信息相关的机构，只要他达到了国家网信部门规定的数量，他就需要指定明确的个人来作为个人信息保护负责人。中国的《关键信息基础设施安全保护条例》第14条，要求关键信息基础设施运营者设置专门的安全管理机构，就不只是要求有一个人来负责了，需要有一群人、一个专门的机构来负责这件事情，该机构的负责人则关键岗位人要经过安全背景审查方可上岗。《网络信息内容生态治理规定》第9条，要求网络信息内容服务平台，设立网络信息内容生态负责人，配比与业务范围和服务规模相适应的专业人员，加强培训考核，提升从业人员素质。《互联网信息服务算法推荐管理规定》第7条，要求算法推荐服务提供者落实算法安全主体责任。以上这样一些规定是体现了中国法律当中对人在回路原则的落实。

　　这些指定专人来负责的规则其实是为了确保在自动化决策过程中对人的尊严和主体性的尊重，这一目的也明显体现在《个人信息保护法》第24条当中，该条规定，通过自动化决策方式向个人进行信息推送、商业营销，应当同时提供不针对其个人特征的选项，或者向个人提供便捷的拒绝方式。这样一些有针对性的规定其实就是针对在算法支撑的社交平台上，当个人来使用算法的时候其实在被算法影响，算法所推荐的内容其实也在影响个人的决策，因此它赋予个人以自主权，你可以拒绝算法推荐。

　　像这样一些法律规定其实保护的仍然是传统的人权，特别是人的尊严和自主性这样一些人权当中的核心内容，但是它充分考虑到了数字科技给我们人与人之间的关系和社会生活带来的新的变化，因此对这些传统人权进行了数字环境当中的以特定方式来对之加以保护。因此数字环境当中人权文明的演进不一定体现在新的人权的创设上，比如说我前面提到的人在回路权，可以被理解为一种新的人权，但是按照维廉·奥康的说法“若无必要，勿增实体”，我们可以把它引用到法律领域就是“若无必要，勿增权利”，因为在数字化的环境当中，其实我们没有必要通过增加新型的权利，而是需要找到新的方法来保障原有的世界公认的那些权利，这个才是我们需要寻找的答案，而不是通过创设新的权利来实现这一目的。

　　我在这里所讲的人在回路原则其实就是这样一个非常好的例子，我们为了确保在人机交互的总体环境当中人仍然能够享有尊严和自由性，一种方法可能是创设新的权利，比如说人在回路权，但是创设这种权利本身并不能够解决人权保障的机制问题，因此它是没有必要的。我们仍然以人的尊严作为需要保护的权利，而去寻找在人机交互的环境当中如何保障人的尊严的方法，这是发展数字时代人权文明的一种更有效的方法。这是我总体的观点。

　　一种以人为本的数字时代的人权保障系统其实是一个复杂系统，但是这个复杂系统不一定需要我们通过增添新的权利、新的权利名称和新的权利类型来使它变得更加复杂，而是需要围绕着经过时间考验的由一系列国际人权条约所承认的那些普适人权，比如说人的生命权、人的自由，包括言论自由、政治自由、公民自由等等，我们围绕着这些经过时间检验的得到世界公认的人权来寻找在人机交互的数字生态环境当中对他们加以保护的有效方法和机制，这个是我们发展数字时代人权文明的着力点。