Page 38 - 《党政研究》2026年第5期

一、“智能向善”的既有要求及其限度

人工智能概念诞生于 ２０ 世纪 ５０ 年代。１９５５ 年，美国科学家麦卡锡 （ Ｊｏｈｎ ＭｃＣａｒ
ｔｈｙ）、闵斯基 （ Ｍａｒｖｉｎ Ｍｉｎｓｋｙ）、罗切斯特 （ Ｎａｔｈａｎｉｅｌ Ｒｏｃｈｅｓｔｅｒ）和香农 （ Ｃｌａｕｄｅ Ｓｈａｎ
ｎｏｎ）在向洛克菲勒基金会提交的一份名为 《关于举办达特茅斯人工智能暑期研讨会的提
议》（ Ａ Ｐｒｏｐｏｓａｌ ｆｏｒ ｔｈｅ Ｄａｒｔｍｏｕｔｈ Ｓｕｍｍｅｒ Ｒｅｓｅａｒｃｈ Ｐｒｏｊｅｃｔ ｏｎ Ａｒｔｉｆｉｃｉａｌ Ｉｎｔｅｌｌｉｇｅｎｃｅ）的建议书
中首次明确使用了这一概念。然而，受限于当时的技术条件和研究水平，这门试图 “让机
器能像人那样认知、思考和学习”，从而 “用计算机模拟人的智能” 的新兴学科，在较
〔 １〕
长时间里并未展现出强大的解释力和吸引力。至于达特茅斯会议本身，也完全没有涉及或
提出任何关于人工智能伦理治理或伦理原则的正式文件或条款。真正使得人们有能力、也
有意愿开始认真考虑这项技术的伦理风险与伦理要求的，其实是近十年来人工智能的快速
发展、应用场景的广泛分布、产业布局的日益深化的现实结果。可以说，如果人工智能没
有出现相应的技术突破和产业落地，如果这项技术没有给人类生活带来如此明显和普遍的
影响，那么，围绕人工智能是否以及如何符合人类利益、促进人类发展、提升人类福祉的
“智能向善”的讨论，可能还需等待很长一段时间才会出现。
必须承认，人工智能作为一项新兴前沿技术，目前对其伦理风险与伦理要求更为敏感
且已开展具体工作的，主要是直接参与这项技术的研发者、直接转化这项技术的运营者，
以及直接制定和调控相关政策的治理者。
比如，２０１９ 年 ４ 月和 １０ 月，欧盟人工智能高级专家组和美国国防创新委员会分别发
布了两份重要文件：《可信赖的人工智能伦理指南》 （ Ｅｔｈｉｃｓ Ｇｕｉｄｅｌｉｎｅｓ ｆｏｒ Ｔｒｕｓｔｗｏｒｔｈｙ ＡＩ）

和 《人工智能准则：美国国防部人工智能伦理使用推荐性规范》（ ＡＩ Ｐｒｉｎｃｉｐｌｅｓ： Ｒｅｃｏｍｍｅｎ
ｄａｔｉｏｎｓ ｏｎ ｔｈｅ Ｅｔｈｉｃａｌ Ｕｓｅ ｏｆ Ａｒｔｉｆｉｃｉａｌ Ｉｎｔｅｌｌｉｇｅｎｃｅ ｂｙ ｔｈｅ Ｄｅｐａｒｔｍｅｎｔ ｏｆ Ｄｅｆｅｎｓｅ）。其中，前者以
“可信赖”为核心基础，提出了全球首部系统性的人工智能伦理框架。根据该框架，人工
智能技术必须遵守欧盟现行法律从而具备合法性，必须符合基本人权与人类价值从而具备
伦理性，必须尽力确保技术安全可靠从而具备稳健性。因此，在具体层面上，人工智能技
术被要求满足 “人类自主性与监督”“技术稳健性与安全”“隐私与数据治理”“透明度”
“多样性、非歧视与公平”“社会与环境福祉”和 “可问责”等七大伦理要求。 就后者而
〔 ２〕
言，虽然该文件主要用于人工智能技术在军事活动中的规范性使用，但它所提出的 “负责
任”“无歧视”“可追溯”“可依赖”和 “可控制”等五项伦理原则，在很大程度上同样
适于该技术在其他领域的应用场景。
〔 ３〕
此外，国际社会关于人工智能技术更加全面的治理文件，可能要数联合国教科文组织

于 ２０２１ 年发布的 《人工智能伦理问题建议书》 （ Ｒｅｃｏｍｍｅｎｄａｔｉｏｎ ｏｎ ｔｈｅ Ｅｔｈｉｃｓ ｏｆ Ａｒｔｉｆｉｃｉａｌ
Ｉｎｔｅｌｌｉｇｅｎｃｅ）。该建议书提出四大价值观、十项伦理原则以及十一个政策行动领域，要求各
国在研发、使用、维护人工智能技术的全生命周期中，应当遵循 “尊重、保护和促进人权
和基本自由以及人的尊严”“环境和生态系统蓬勃发展”“确保多样性和包容性”“生活在
和平、公正与互联的社会中”等基本价值理念，并努力按照相称性和不损害原则、安全和
安保原则、公平和非歧视原则、可持续性原则、隐私权和数据保护原则、人类的监督和决定
原则、透明度和可解释性原则、责任和问责原则、认识和素养原则，以及多利益攸关方与
适应性治理和协作原则实施相关治理活动。
〔 ４〕
鉴于人工智能技术的迅猛发展，中国政府也做出积极反应。２０１９ 年 ６ 月和 ２０２１ 年 ９
月，中国国家新一代人工智能治理专业委员会陆续发布了 《新一代人工智能治理原则》
和 《新一代人工智能伦理规范》。前者从治理框架的角度，明确规定和谐友好、公平公
正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理等八条原则。 而
〔 ５〕
７ · ·
３