Page 113 - 《党政研究》2020年第2期

情形，同时也强化审视人工智能风险必须成为人类社会的重要议题。

三、技术与风险：人工智能风险的因果

在人工智能时代，世人享受着智能化所带来的物质便利与精神陶冶，然而，任何技术
都是两面性的，当我们浸淫于算法程序所设定的技术世界时，我们容易迷失自我，忘却人
类最为本真的人性价值，而将其让渡于机器智能，致使在个体身心、社会秩序乃至人类命
运出现深度风险。斯蒂芬·霍金 （ Ｓｔｅｐｈｅｎ Ｗｉｌｌｉａｍ Ｈａｗｋｉｎｇ）曾说：“人工智能之于人类，
可能是最好的事情，也可能是会终结人类的最坏事情”，同时 “我们不能把飞机失事归结
于万有引力；同样，不能把人类毁灭归罪为人工智能”。霍氏言辞表明辩证审视人工智能
技术的重要性。我们认为，人工智能风险源于风险技术，而其果为技术风险，两者互为因
果关联。
（一）风险技术：人工智能的风险因子
风险技术指技术作为一种服务于主体的工具，具有自身的结构性缺陷。就表现形式而
言，风险技术诱发人工智能风险主要通过技术理性的认知局限、人类自身的主观利益、类
人自主的它者欲望三个方面展开。
首先，技术理性的认知局限。理性是技术的生存论基础，体现为合客观性与合逻辑性
的统一 ，人类的技术认知局限隐喻着对技术发展客观性与逻辑性的有限掌握与阶段体
〔 ２４〕
悟。换言之，人类无法凭借自身的认知维度去穷尽技术的内涵边界，对于技术迭代升级的
追求只能限定在人类的有限理性之中。现阶段因人工智能技术的不成熟性所导致的安全风
险比比皆是，这些风险可能源于算法不可解释性、数据强依赖性等单向或复合的技术局限
性问题。但是人类按照目前的知识储备，难以科学辨识其根源，导致人工智能技术的研发
与应用充满了 “试错”风险。超强算法是人工智能技术的核心要件，但是逆向攻击可导
致算法模型内部的数据泄露；算法设计或实施有误可产生与预期不符甚至伤害性结果；算
法黑箱导致人工智能决策不可解释，引发监督审查困境；对抗样本攻击可诱使算法识别出
现误判漏判，产生错误结果。例如，２０１８ 年 ３ 月，Ｕｂｅｒ 自动驾驶汽车因机器视觉系统未
①
及时识别出路上突然出现的行人，导致与行人相撞致人死亡。对于算法的程序构造及其具
体运算过程，人类目前尚未找到有效的解决途径，这在一定程度上反映了人类对技术知识
的认知局限。
其次，人类自身的主观利益。人工智能技术的飞速更新，并非仅仅是人类对技术的好
奇心，而是夹着更多的资本与利益诉求。一方面高新技术企业是追求人工智能技术的主要
动力源，通过研发、推广、运用智能技术得以迅速占据技术市场。苹果公司、Ｆａｃｅｂｏｏｋ、
Ｇｏｏｇｌｅ、ＩＢＭ、华为、阿里巴巴以及腾讯等公司都将发展人工智能技术作为公司首要战略，
在研发经费、人才引进等方面加大投入以赢得比较优势，企及获取更为优厚的经济效益。
据 ＣＢ Ｉｎｓｉｇｈｔｓ２０１７ 年发布的 《人工智能状况》显示，人工智能公司的股价在最近的 ５ 年中
上涨了 ５ 倍，相关投资也从 ２０１２ 年的 ５． ５９ 亿美元暴增至 ２０１６ 年的 ４８． ７１ 亿美元 。这
〔 ２５〕
表明人工智能的技术利益 “大战”已经开始拉开。另一方面，世界主要发达国家高度重
视人工智能发展，将其视为国家未来拓殖的重要战略空间。２０１４ 年以来美国、英国、欧
盟、日本等国家密集发布人工智能相关的国家战略，并单列财政经费支持。美国是世界上
第一个将人工智能发展上升到国家层面的国家，人工智能战略规划被视为美国新的阿波罗
登月计划。２０１６ 年 １０ 月，美国总统办公室连续发布 《国家人工智能发展与研究战略计

① 参见中国信息通信研究院安全研究所编著的 《人工智能安全白皮书》（ ２０１８），２０１８年 ９月，第 ５ － １０页。
１ · ·
１ ２