数字时代的科技伦理与人权保障

韩秀桃

人类自进入工业社会以来，科学技术的进步与发展，始终与人权保障息息相关。科学技术作为社会变革的重要力量，既为改善民生福祉创造丰富的物质基础 ，也极大地拓展了人权理论内涵与实践价值。习近平总书记指出：“要把满足人民对美好生活的向往作为科技创新的落脚点，把惠民、利民、富民、改善民生作为科技创新的重要方向。”随着智能科技时代来临，以生成式人工智能等为代表的新技术形态正在改变传统生产生活模式，其在为人类生产、生活带来智能化和便捷化的同时，个人隐私泄露、数据安全性、算法黑箱、深度伪造、信息茧房、大数据杀熟以及数字鸿沟、“数据投毒”等科技伦理风险也随之出现并逐渐加大，成为各国必须面对的现实人权难题。因此，提高人工智能科技伦理意识，强化人工智能科技伦理治理，促进人工智能科技创新在安全、可靠 、负责任轨道上推进，确保科技发展与人权保障协调发展，已经成为数字时代人权研究的重要话题。

我国是数字资源大国，对人工智能等数字科技伦理治理与国际社会基本同步，除相关立法以外，从发展规划、治理原则、风险指引、伦理规范、伦理审查等各方面，初步建立了一整套相对完整的制度规范体系。2017年7月8日，国务院《关于印发新一代人工智能发展规划的通知》，提出要制定促进人工智能发展 的法律法规和伦理规范，制定人工智能产品研发设计人员的道德规范和行为守则，建立伦理道德多层次判断结构及人机协作的伦理框架。2019年6月17日，国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则——发展负责任的人工智能》，明确提出尊重隐私等八项原则。2021年1月5日，全国信息安全标准化技术委员会秘书处发布了《网络安全标准实践指南——人工智能伦理安全风险防范指引》，为人工智能研究开发、设计制造、部署应用等相关活动提供全生命周期伦理安全风险防范指引。同年9月25日，国家新一代人工智能治理专业委员会发布了《新一代人工智能伦理规范》，提出了增进人类福祉、 促进公平公正、保护隐私安全、确保可控可信、强化责任担当、提升伦理素养等六项基本伦理要求。我国在人工智能等数字科技伦理治理过程中，始终践行科技为民的基本政策，始终秉持科技向善的人文理念，把“人民幸福生活是最大人权”这一新时代人权观贯彻落实到伦理治理具体制度设计和实践之中，促进科技创新与人权保障的均衡发展。

与传统的技术相比，人工智能更具有颠覆性的技术特征，其迅猛迭代与快速演进在促进技术进步的同时，所带来的不确定、冲突性及负效应也逐渐外溢，并逐渐演化成为一种弥散式存在的社会风险。因此，人工智能科技伦理是一项极为复杂的实践活动，贯穿于全生命周期的一系列技术设计、产品行为、应用场景，涉及诸多实施行为主体、技术路线开发者、基础设施所有者以及不特定的社会公众等一系列参与者的多元利益诉求和多种利益冲突。2022年3月20日，中办、国办印发《关于加强科技伦理治理的意见》，将人工智能作为需要加强科技伦理治理的重点领域之一。2023年9月7日，科技部等10个部门联合研究起草 、经中央科技委员会同意并印发了《科技伦理审查办法(试行)》，将人工智能列入应设科技伦理(审查)委员会的科技活动单位范围内，在7大类需要实行清单管理的重大风险新兴科技活动中，有4大类涉及人工智能伦理审查。

上述规范对人工智能伦理作出特别规定，既凸显了人工智能伦理治理的极端重要性，也说明人工智能伦理治理领域存在一些突出问题。一是与快速迭代的技术相比，可落地实施的制度还比较欠缺，合规底线不够明确，伦理审查与监管存在许多空白，配套的惩戒措施缺乏力度。二是与技术已经渗透更多更广泛的领域相比，整个行业和产业集群中人员伦理意识不强，热衷技术创新，怠于伦理考量，伦理审查的动力不够、能力不足、规则不明、操作不规范、处置不完善。三是与推动技术创新的主体更多的是企业相比，其参与伦理治理积极性不高、驱动力不足，企业参与的边界不清、机制不明，参与治理的意愿不强、经验和能力不足。上述问题既是人工智能伦理治理的问题症结所在，也凸显了人工智能伦理治理的必要性、紧迫性和重要性。

伦理是人伦道德之理，指人与人相处的各种道德准则。传统中国社会特别重视伦理关系，倡导道德准则，在世界文明发展史中具有独特而丰富的中国式伦理道德评价体系，是代表和彰显中华文明显著优势的文化符号。当前，数字技术飞速发展，数字变革加快演进，数字社会不断深入，作为数字资源大国必然逐 步走向数字治理强国。2019年10月，党的十九届四中全会首次提出“数据成为生产要素”理念，也是人类历史上首次将数据纳入生产要素。2023年7月，中央网信办等七部委联合发布《生成式人工智能服务管理暂行办法》，成为全球首部针对生成式人工智能的法规。因此，作为中国式人工智能伦理治理的创造者 ，已经成为全球数字治理的先行者，并将积极引领全球数字时代科技伦理治理的发展方向。

2023年2月21日，习近平总书记在二十届中央政治局第三次集体学习的重要讲话中，强调要前瞻谋划和深度参与全球科技治理，完善法律法规、伦理审查规则和监管框架，努力增进国际科技界开放、信任、合作，以更多重大原始创新和关键核心技术突破为人类文明进步作出新的更大贡献。着眼于数字中国战略， 推动数字时代的国际人权治理，需要进一步加强人工智能伦理治理。一是秉持科技向善的人文理念和伦理先行的价值观念，将伦理道德融入人工智能全生命 周期，增强全社会的人工智能伦理意识与行为自觉，积极引导负责任的人工智能研发与应用活动，促进人工智能健康发展，确保数字时代的科技创新活动能够不断满足人民对美好生活的新期待。二是加强科技伦理治理，尤其需要加强法律监管，强化伦理审查，推进依法治理，同时发挥决策咨询、科学共同体自治、社会公众参与等作用，实现科技发展与伦理治理相互促进、动态调适。三是明确责任主体，压实创新主体在设计研发、产品推广、应用场景等全产业链的伦理把关责任，确保科学研究、技术开发等科技活动必须遵循社会主义价值理念、符合普遍遵从社会主义行为规范。

总之，人权是历史的，也是时代的。科学的目的是减轻人类生存的苦难，这也是科技为民、科技向善的真谛。与75年前《世界人权宣言》发表时相比，科学技术在当今数字时代更深刻地影响着每一个人的幸福安康。数字时代的智能科技在彻底改变传统社会形态同时，也赋予新时代的人权以新的理论内涵和实践意义。因此，顺应人权事业发展的新情况、新趋势和新特点，重视科技伦理审查，优化科技伦理治理，积极推进科技创新与人权保障平衡发展，更好尊重和保障数字时代的人权，必将有力推动智能科技时代全球人权治理。

（韩秀桃，北京理工大学科技人权研究中心执行主任、教授。）

（责任编辑 叶传星）