Page 111 - 《党政研究》2020年第2期

会理论，建构风险技术与技术风险的互构逻辑，试图阐释人工智能风险的内涵意蕴、生成
机理、形态特征以及善治思考。

二、人工智能风险的意蕴与特征：风险社会的新风险图景

在经历两次世界大战之后，人类社会进入了极盛现代化表象下各类风险暗流涌动的风
险社会。对于这类风险社会的理论阐释当属乌尔里希·贝克 （ Ｕｌｒｉｃｈ Ｂｅｃｋ）与安东尼·吉
登斯 （ Ａｎｔｈｏｎｙ Ｇｉｄｄｅｎｓ）的风险社会理论。贝克在 《风险社会》书中，首提风险社会概
念，认为科技在促进社会发展的同时，也暗含着对生态环境和人类自身的副作用，人类已
处在技术性风险所构筑的境遇之中。吉登斯则以西方资本主义社会的现代性为切入口，阐
释技术风险对社会结构与社会秩序的撕裂问题，强调现代社会周遭的风险属于人造风险
（ ｍａｎｕｆａｃｔｕｒｅｄ ｒｉｓｋ）系列，是由人类自身制造出来而有别于自然风险的形态，同时因其由
人类无限制利益的驱动，将会是人类所面临的最大威胁 。贝克和吉登斯旗帜鲜明地认
〔 １５〕
为，风险社会是一个反身性 （ Ｒｅｆｌｅｘｉｖｉｔｙ）现代化的社会，即 “创造性地 （自我）毁灭整
整一个时代———工业社会时代———的可能性。这种创造性毁灭的 ‘对象’不是西方现代
化革命，也不是西方现代化的危机，而是西方现代化的胜利成果” 。他们认为风险社会
〔 １６〕
的归宿是人类现代文明的毁灭，其根源在于人类对技术创新、发展的无止境追求，而人类
的这种非理性技术冲动是现代性制度失范的再次作用。吉登斯从制度主义视域揭示风险社
会产生的制度根源，包括现代性赖以支撑的资本主义、工业主义、监督和军事力量等四类
制度性失范 。贝克进认为风险治理的关键在于完善社会规范和制度体系，因为 “风险
〔 １７〕
社会的教训是：政治和道德正在获得———必须获得！———替代科学论证的优先权” 。
〔 １８〕
风险社会理论展示风险生产的一个基本逻辑：自现代化以来，风险支配正逐渐由自然
风险转为人造风险，同时由于制度失范致使人类无节制地利用技术在探索未知世界的过程
中，不断地制造出可能危及人类文明的各类技术风险。克隆人、核武器、基因编辑婴儿、
情感机器人、性伴侣机器等人类技术的研发与应用，加剧了人类社会秩序与伦理道德的现
实危机。随着人工智能技术的迭代升级，人工智能技术将得以大规模普及，然而技术的副
作用效应也愈发凸显。无论是 《人工智能》《终结者》《奇点》《机械姬》《 Ｔｒｏｎ》等科幻
作品，还是埃隆·马斯克 （ Ｌｌｏｎ Ｍｕｓｋ）、史蒂芬·霍金 （ Ｓｔｅｐｈｅｎ Ｈａｗｋｉｎｇ）、史蒂夫·沃
兹尼克 （ Ｓｔｅｖｅ Ｗｏｚｎｉａｋ）等人的批判言辞，无不饱含着对人工智能未来发展的深深担忧。
人工智能发轫于 ２０ 世纪 ５０ 年代，兴盛于 ２１ 世纪初，其形成轨迹契合风险社会的指
涉范围与运作机理。于风险社会而言，人工智能风险是一种人造的特殊的技术风险，然
而，我们长期缺乏对人工智能风险的分析 。在现实中，关于人工智能风险的情境叙述
〔 １９〕
更多以科幻小说或影视等体裁呈现；从政策目标看，中央与地方涉及人工智能风险防范目
标的比重分别为 １０． ２８％和 ３． ３８％，较低于社会、经济等发展目标，表明公共政策并未对
人工智能潜在的风险和挑战予以应有关注 。这两方面共同提出了一个紧迫性命题，即
〔 ２０〕
需要对人工智能的风险生成、形态特征以及规制途径做出客观判断。人工智能是一类不断
升级的智能技术体系，界定其潜伏的风险，可以从技术视角加以解构。我们认为，人工智
能风险意指因人工智能技术的不确定性所诱发的对人类经济结构、社会秩序、伦理道德乃
至生存安全等方面的可能性后果。相对于核武器、核电站、转基因食品、基因编辑婴儿等
技术引发的风险，人工智能风险更具自主性与颠覆性，是风险社会的一种新形式险种。本
质看，人工智能风险命题涵括两个内容：一是风险层面的技术性缺失，即风险技术。二是
技术层面的风险性后果，即技术风险。两者互为因果关系，共同型构人工智能技术之于人
类社会的风险议题。风险技术与技术风险合谋作用下的人工智能风险超越人类对风险的一
１ · ·
１ ０