人工智能与人权：警惕风险，把握机遇

保加利亚科学院教授

玛丽亚娜·托多罗娃

非常荣幸参加“中欧人权研讨会”，我来讲一下人工智能与人权。这是一个涉及社会政治层面的重要议题，它深刻影响着我们权利的行使和人的尊严保障。

随着人工智能系统被广泛应用于司法、医疗等领域，它正在重新定义权利保护的边界，甚至可能在人权保障方面存在风险。这项技术是一把双刃剑——既带来诸如促进平等、增强社会赋能和推动全球正义的新机遇，同时也伴随着不容忽视的新型风险，这些风险可能影响公民自由。

当前的挑战在于准确识别并界定人工智能带来的伦理困境。此外，不完善的技术视角可能强化危险的刻板印象。美国的面部识别技术就是典型案例：该系统对深色皮肤人群的错误识别率明显偏高；人力资源平台中针对女性高管的算法偏见也导致了无依据的差异化对待。而这类技术被应用在了边境管控或警务工作中。

不仅如此，人工智能还可能使残障人士、特定语言群体或社会经济地位较低者遭受歧视。这种由自动化系统引发的偏见，延续了历史形成的地域性和结构性不平等。

关于人工智能的“幻觉”问题，我们必须保持高度警惕。这些系统生成的内容往往具有迷惑性的专业外表，实则可能包含严重错误——在法律和医疗等关键领域尤其危险。已有案例表明：AI工具可能推荐错误的治疗方案，或虚构不存在的法律判例。当这类虚假内容以法律文书等形式出现时，不仅会损害个人权益，还将从根本上动摇公众对民主制度的信任基础。

我们同时观察到，面部识别、图像识别及预测性分析等监控工具虽有助于风险防范，却不可避免地侵蚀着个人自由——尤其是结社自由，因为持续的监控状态会导致人们产生心理畏惧。随着人工智能系统开始通过生物传感器解读情绪状态，我们正面临全新的伦理挑战。值得注意的是，人工智能的控制范围正在持续扩张，其影响力已达到前所未有的程度。

（来源：中国人权研究会）