文章内容

习近平总书记指出：“建议更加重视运用人工智能、互联网、大数据等现代信息技术手段提升治理能力和治理现代化水平”。21世纪以来，智能技术发展如火如荼，被广泛运用到了公共决策之中。所谓智能决策，是指在公共决策中系统地运用各种智能技术以提高决策科学性和民主性的治理活动。从优化决策流程、促进公众参与等维度来看，智能技术确然发挥了重要作用。但随着智能技术愈发嵌入决策流程，其伴随的伦理风险也愈发凸显。智能决策的自主性一旦增强到人类难以控制的程度，届时引发的伦理危机将不言而喻。因此，如何在正确发挥智能决策优势的同时化解相应的技术风险，实现智能决策造福人类的最终目标，无疑是当前乃至今后很长时期内都需要深入思考的重大课题。

智能决策的三重伦理风险。一是算法歧视。虽然人工智能可以在执行阶段独立完成决策，且最大限度地减少人为失误与偏见，但并不意味着基于智能算法的决策就是公平的。在智能技术应用的初期，人工智能往往处理的是规则明确的定量型决策。在此阶段，公众倾向于信赖人工智能决策，因为它被认为是价值中立、客观无疑的，可以有效规避人类决策者的主观偏误。然而，当人工智能开始处理复杂的综合决策时，智能技术的价值映射功能便显露无疑。隐藏在AI客观公正印象下的算法歧视正加深着决策执行的社会危机。如谷歌公司曾设计过一个用于人脸识别的算法，但此算法在设计之时便依赖于高鼻梁、白色皮肤等特征，从而在识别黑色人种和黄色人种时准确率明显下降。“别有用心”的智能算法将人分成了三六九等，从而隐秘地再现种族歧视与阶级歧视。二是信任危机。算法歧视的不断加深，将导致公众对智能决策的信任危机。只有当智能技术能够做出公平、正义的决策时，才会赢得公众的信任，其决策结果才有可能被很好地执行。智能决策的黑箱性质使得算法偏误难以得到及时且有效的监督管理，进而引发了公众对于智能决策的“信任危机”。公众为什么会抵触智能决策？除了可能存在的算法歧视之外，还在于AI在决策时的“死板”。具体而言，智能机器在决策时采取的是一种单纯的功利主义思考，它将一切决策还原为一串串可以计算的数字与概率，而完全不考虑对人类情感与文化的慢性损伤。AI可以轻易计算出尼古丁、多环芳烃对人体的伤害，因为这些伤害在某种程度上是可以量化的（例如摄入多少剂量尼古丁就会将肺癌的发病率提升数个精确的百分点）。但是，对于大多数转基因食品而言，其对人的生理影响乃至精神影响是很难用数字来准确衡量的，更难谈其对人类文化的长期冲击。三是生存危机。随着人工智能发展由弱人工智能阶段逐步进入强人工智能阶段，甚至最后进入超级人工智能阶段，智能决策模式将由AI辅助决策逐渐过渡到AI自主决策。决策流程的高度自动化让人类决策者几乎没有干预权和自由裁酌的余地，算法歧视终将演变为算法统治。人类对于智能算法的过度依赖，将会导致去人化的智械危机，进而引发人类的身份认同危机与技术焦虑症。科技决策所需要的知识不局限于数据化的科学知识，在数据死角之外，人类的价值情感、伦理道德都是完美决策所不可缺少的组成部分。例如在是否应该推广转基因食品、允许基因编辑、是否应该接种MRNA疫苗等风险科技决策中，技术文化的脆弱性与技术理性的征服性相互抵御，不能因数据崇拜而执行单一的事实判断。在事实判断之外，更重要的是关乎伦理道德、社会正义的价值判断。

实现向善决策的三重路径。一是要重视算法伦理的建设。鉴于算法歧视可能引发的诸多问题，需强化算法设计人员的伦理意识培训，加强算法的审查，保护人类的情感尊严。算法伦理的建设就是要将公平、正义、诚信等基本伦理价值嵌入设计算法。这种方法是一种技术伦理建设的内在规范，在智能驾驶、疫情研判、工程选址等领域的决策中都有着十分广阔的应用前景。智能时代的算法工程师在产品的设计与开发中，应充分考虑各种不利因素，避免由于人为因素造成的算法歧视；始终坚持公平原则，以关爱生命为基本伦理规范，力争让智能算法造福全人类。二是要加强智能伦理的科普。要解决公众对于智能决策的不信任，除了要强化算法伦理的内部建设，还需要开展面向社会公众的智能伦理宣传。美国国家人工智能研究和发展战略计划（2019）明确提出：美国必须培养公众对人工智能技术的信心。智能决策的结果要为社会所广泛接受，需要构建一种互信机制，完成从算法可解释到算法可信任的转换过程。只有通过科普让公众充分知晓智能决策的基本原理、巨大优势以及可能存在的风险，才能引导公众理性对待智能决策问题。唯有改变人与智能技术的敌对状态，才能缓和愈演愈烈的信任危机，为智能决策的良善应用创造条件。三是要建构“人民至上”的决策模式。纵观党的二十大报告，“人民至上”是贯穿始终的鲜明主线。“人民”作为党的二十大报告的高频词、关键词，充分彰显了中国共产党的人民情怀与人民底色。因此，面对智能决策可能造成的生存危机，唯有建构“人民至上”的决策模式，强调人文价值的规约作用，才能避免智能决策对人民生命财产安全的损害。然而，在智能决策的建设过程中，部分学者片面强调智能技术的便利性和高效性，却忽视了不负责任的技术创新对人民群众生理健康与心理健康的伤害，未能辩证地看待智能决策。2022年3月20日发布的《关于加强科技伦理治理的意见》中所说：“科技活动应坚持以人民为中心的发展思想，有利于促进经济发展、社会进步、民生改善和生态环境保护，不断增强人民获得感、幸福感、安全感，促进人类社会和平发展和可持续发展。”可见，良善的智能决策模式既要发挥数字技术数据化与程式化的优势，更要守住为人民谋利益的底线。概言之，立足全面建设社会主义现代化国家新征程，智能决策的构建应恪守“人民至上”的价值理念，坚持一切为了人民、一切依靠人民，真正实现智能决策向善发展，为科技决策的智能治理贡献中国智慧与中国方案。（作者系西南大学国家治理学院博士研究生）