强化人工智能安全治理

[中图分类号] D616； D630.8 [文献标识码] A [文章编号] 0529-1445（2024）05-0040-04

人工智能的迅猛发展将对经济社会发展和人类文明进步产生深远影响，同时也带来各种难以预知的风险和复杂挑战。2022年末生成型预训练变换模型（ChatGPT）横空出世，人工智能技术在文生图、文生视频等领域飞速迭代，展现出广阔的商业化应用前景。国家主席习近平在第三届“一带一路”国际合作高峰论坛开幕式上的主旨演讲中指出：“愿同各国加强交流和对话，共同促进全球人工智能健康有序安全发展。”必须以总体国家安全观为指引，坚持发展和安全并重，构筑人工智能安全屏障，拥抱智能时代的到来。

人工智能治理的重要性日益凸显

人工智能特别是生成式人工智能取得重大突破，标志着人工智能技术正在实现从弱人工智能向强人工智能的飞跃。人工智能所蕴含的对各行各业的强大赋能力量表明，人工智能已经成为新一轮科技革命和产业变革的重要驱动力量。人工智能是未来世界经济和高端制造的主导技术，发展人工智能是支撑科技自立自强、加快发展新质生产力、实现高质量发展的重要战略抓手。我国要抢抓人工智能发展的重大战略机遇，构筑人工智能发展的先发优势，发挥人工智能对我国现代化产业体系建设的赋能作用，加快建设创新型国家和世界科技强国。

人工智能技术所具有的通用性、智能性和不可解释性等特点在给社会带来非凡增长机遇的同时，其所蕴含的安全风险也引发高度关注。《中华人民共和国国民经济和社会发展第十四个五年规划和2035年远景目标纲要》提出：“加强网络安全关键技术研发，加快人工智能安全技术创新，提升网络安全产业综合竞争力。”面对以ChatGPT、Sora等为代表的人工智能技术的迅速发展及其在金融、医疗、交通、制造业等领域的广泛应用，人类社会日益面临着更复杂的人工智能安全挑战，包括数据窃取风险、网络攻击风险、经济安全风险、“数据投毒”风险、军事安全风险等。

人工智能治理的本质是统筹人工智能发展和安全，既要充分发挥人工智能技术对国家经济社会发展的创新引领作用，又要对其所带来的安全外部性进行必要的监管。维护网络安全，确保人工智能安全、可靠、可控，切实保障国家数据安全，统筹高质量发展和高水平安全，这已成为数字时代国家安全的必然要求。为进一步统筹人工智能发展与安全，2019年6月，我国新一代人工智能治理专业委员会发布了《新一代人工智能治理原则——发展负责任的人工智能》，创造性地提出了“敏捷治理”模式，即尊重人工智能发展规律，在推动人工智能创新发展、有序发展的同时，及时发现和化解可能引发的风险。要对未来更高级人工智能可能存在的潜在风险开展研究和预判，确保人工智能始终朝着有利于社会的方向发展。在通用人工智能呼之欲出的当下，这些前瞻性的战略布局为我国的人工智能治理指明了前进的方向和路径。

科学评估人工智能对国家安全的影响

当前，人工智能治理面临的重要挑战之一是评估其对国家安全的影响。在移动互联网、大数据、超级计算、传感网、脑科学等新理论新技术的驱动下，人工智能加速发展，呈现出深度学习、跨界融合、人机协同、群智开放、自主操控等新特征。人工智能正在对经济发展、社会进步等产生重大而深远的影响。由于人工智能具有多学科综合、高度复杂的特征，其对国家安全的影响也不再局限于某个行业或者某个领域，而是会对国家经济、政治、社会、军事等各领域带来系统性的影响。一方面，人工智能技术可以被用来维护与保障国家安全。另一方面，人工智能的通用性、智能性和不可解释性等特点也会给国家安全带来潜在的风险和挑战。如何应对人工智能的安全风险并把握好发展的战略主动，这既是我国国家安全治理的重要内容，也是推进国家安全体系和能力现代化、以新安全格局保障新发展格局的必然要求。

伴随着人工智能技术向国家经济、政治和社会生活各领域的不断渗透和扩展，人工智能这项通用使能技术（enabling technology）所带来的安全风险将出现在技术应用的各个节点。按照安全风险的意图分类，人工智能的国家安全风险可以分为两类：一类是源于技术本身的伦理道德风险，这种风险属于无意安全风险。人工智能不仅是在模拟人类的智能，而且可以用自己的逻辑在纷繁复杂的众多可能性中识别出那些人类智能还无法理解或识别的规律。它所具有的智能性和不可解释性，都将加剧人工智能应用的伦理风险，例如自动驾驶汽车的道德和伦理问题、隐私保护和知识产权问题、失业和就业问题等。另一类是人工智能的武器化和军事化应用，属于人为有意安全风险。人工智能不仅可以在不同军事领域快速形成衍生技术，而且能够推动一个国家整体军事能力发生根本性变化。特别是自主性武器的出现，让战场态势变得更加容易失控，责任更容易被推卸。传统武装冲突中调停、斡旋等预防冲突升级的空间将会急剧缩小，战场形势一旦失控，往往会给冲突各方带来意想不到的灾难性后果。

鉴于人工智能对人类未来发展的重大影响，世界主要国家和经济体纷纷出台有关人工智能监管的立法和治理倡议，以降低人工智能带来的安全风险。我国近年来先后出台了多项政策文件，包括《新一代人工智能治理原则——发展负责任的人工智能》《新一代人工智能发展规划》《人工智能标准化白皮书》等，发布了一系列具体的人工智能治理措施。2023年10月，美国发布一项名为《关于安全、可靠和值得信赖的人工智能的相关行政令》，为涉及人工智能安全的事项制定了新标准。2024年3月，欧洲委员会敲定《人工智能、人权、民主和法治框架公约》最终草案，预计这将是第一个国际人工智能条约。2024年3月21日，联合国大会通过首个有关人工智能的全球决议，该决议题为《抓住安全、可靠、值得信赖的人工智能系统带来的机遇，促进可持续发展》。

人工智能治理是世界各国面临的共同课题，攸关全人类命运，离不开全球合作。2021年12月，我国向联合国《特定常规武器公约》第六次审议大会提交了《中国关于规范人工智能军事应用的立场文件》，呼吁各国要秉持共同、综合、合作、可持续的安全观，通过对话与合作，就如何规范人工智能军事应用寻求共识，构建有效的治理机制，避免人工智能军事应用给人类带来重大损害甚至灾难。2022年11月，我国外交部发布了《中国关于加强人工智能伦理治理的立场文件》，倡导“以人为本”和“智能向善”理念，主张增进各国对人工智能伦理问题的理解，确保人工智能安全、可靠、可控，更好赋能全球可持续发展，增进全人类共同福祉，构建人类命运共同体。2023年10月18日，中央网信办发布《全球人工智能治理倡议》，聚焦人工智能治理的伦理和军事安全风险，呼吁各国应在人工智能治理中加强信息交流和技术合作，共同做好风险防范，形成具有广泛共识的人工智能治理框架和标准规范，不断提升人工智能技术的安全性、可靠性、可控性、公平性。2024年4月3日，中非互联网发展与合作论坛发表关于中非人工智能合作的主席声明，提出“共同加强人工智能领域合作，携手构建更加紧密的中非网络空间命运共同体”。

以总体国家安全观为指导做好人工智能安全治理

通用人工智能技术的发展推动人工智能治理进入新阶段。如何坚持发展和安全并重、在加强监管的同时尽可能发挥人工智能技术的赋能作用，这已经成为实现新时代国家治理能力现代化的重要命题。鉴于人工智能的全局性和系统性影响，将总体国家安全观的大安全理念贯彻于人工智能治理全过程，对于做好人工智能安全治理具有重要的现实指导意义。

总体国家安全观的“总体性”是人工智能治理的指导性原则。总体国家安全观是新时代国家安全工作的根本遵循和行动指南，人工智能治理也不例外。总体国家安全观的关键是“总体”，强调大安全理念，强调坚持国家安全工作的系统思维和方法，强调国家安全要贯穿到党和国家工作全局各方面、各环节，强调打总体战，用全社会全政府全体系全手段应对重大国家安全风险挑战。由于人工智能技术的通用性、智能性和创新性，人工智能技术应用所带来的安全风险将会出现在国家经济、政治、社会、军事等领域的各个环节。一方面，原有的安全风险出现了新的变化和形式，例如网络安全、数据安全、内容安全等。另一方面，新的安全风险开始出现，如伦理道德风险和自主性军事武器的使用所带来的风险等。在进行人工智能安全治理顶层战略设计时，必须全盘考虑各领域各层面的安全风险。要从国家的总体利益出发，制定相应的治理方略，避免因某个领域的治理规制措施对其他领域产生消极影响。

总体国家安全观的“重点性”对集人工智能安全等于一体的国家安全体系和能力建设提出了更高的要求。鉴于人工智能所蕴含的巨大安全风险，总体国家安全观强调大安全理念，涵盖政治、军事、国土、经济、金融、文化、社会、科技、网络、粮食、生态、资源、核、海外利益、太空、深海、极地、生物、人工智能、数据等重点领域，并且将随着社会发展不断动态调整。人工智能安全被列入国家安全重点领域，凸显出在新兴的人工智能领域推进国家安全体系和国家安全能力现代化的迫切性，必须统筹谋划、协同创新、稳步推进。就目前而言，我国在关键核心技术创新领域距离国际领先水平还有一定差距，技术深度应用和动能转换方面的潜力还有待挖掘。我们要充分利用好人工智能这把“双刃剑”：一方面要把握战略主动，让人工智能成为国家安全体系和能力现代化的重要赋能者。另一方面也要系统应对国家、社会、企业和个人层面的安全风险，有效维护和保障国家安全。

总体国家安全观的“统筹性”是人工智能治理实践的指导原则和政策目标。总体国家安全观强调科学统筹，做到统筹发展和安全、开放和安全、传统安全和非传统安全、自身安全和共同安全、维护国家安全和塑造国家安全，着力解决国家安全工作不平衡、不充分的问题。在人工智能技术突飞猛进、大国竞争博弈加剧的大变局下，人工智能治理中的统筹问题就显得尤为重要。统筹问题产生的前提是由于矛盾各方内在的冲突和张力。如果一味地推动人工智能技术突飞猛进而忽视安全监管，那么可能会带来严重的社会后果；如果过于重视军事安全风险而忽视伦理道德风险，也会带来国家安全的不平衡发展；如果仅仅单方面强调本国的安全而不重视共同安全，外部安全环境的恶化最终也会损害本国安全；如果只是被动地应对安全风险而忽视了主动塑造国家安全，片面追求近期安全利益就可能导致长期利益受损。因此，在世界和平与发展面临多元挑战的背景下，人工智能治理只能是共同的、综合的、合作的、可持续的治理。必须坚持发展和安全并重的原则，通过对话与合作凝聚共识，建立开放、公正、有效的治理机制，真正让人工智能技术造福于人类，推动构建人类命运共同体。

人工智能技术创新应用的飞速迭代，带来巨大发展机遇的同时，技术发展的不可知性和风险的不确定性也将带来诸多安全挑战。就目前的态势看，或许跨过通用人工智能技术的门槛还存在很多不确定因素，但人工智能对国家经济、政治、社会生活等革命性影响已经徐徐开启，而人类将迎来一个什么样的人工智能时代，取决于我们现在如何采取行动。我们要在机遇与安全之间寻求平衡，尽快筑牢安全屏障，充分发挥人工智能的“头雁”效应，加快形成新质生产力，助力以中国式现代化全面推进中华民族伟大复兴。

（本文是中国社会科学院重大创新项目“推进国家安全体系和能力现代化研究”〈项目编号：2023YZD025〉阶段性成果）

[参考文献]

[1]习近平著作选读（第一卷）（第二卷）[M].北京：人民出版社，2023.

[2]习近平关于总体国家安全观论述摘编[M].北京：中央文献出版社，2018.

（作者简介：郎平，中国社会科学院世界经济与政治研究所研究员）