刘益东：警钟敲响！如何有效应对人工智能加速发展下的科技风险（2）

人工智能刚刚推出的时候，就有人呼吁暂停。但是人类现在最大的困境就在于一方面车速过快，道路情况又很复杂，另一方面刹车失灵。2024年3月，欧洲议会以压倒性票数通过《欧盟人工智能法案》。这是全球首部综合性人工智能监管法案。同年5月，25位世界顶尖AI科学家呼吁，全世界应对AI风险采取更强有力的行动。

从实际效果看，科技在进步，人们对于科技风险的认识和治理却在倒退。过去人类有很多好的智慧、好的机制，但在激烈竞争和资本增殖的压力下，这些好机制都消失了。个体的风险感知较为敏锐，早些年就有人提出发展人工智能的风险。群体对此保持缄默，《乌合之众》一书有精辟的讲解。

（二）伴侣机器人

虽然目前的机器人还不能和真人一模一样，但是随着合成生物学与人工智能的交叉研究不断深入，终有一天伴侣机器人的外观能做到和真人一样。到那时，或许年轻一代的初恋都将是机器人。

（三）镜像生命

DNA具有手性，“镜像生命”指通过合成生物学技术，将构成生命的分子（如DNA、RNA、蛋白质）替换为其镜像版本而创造的全新生物形式。例如，自然界中DNA为右旋（D型），蛋白质由左旋氨基酸（L型）构成，而镜像生命则使用左旋DNA和右旋氨基酸，形成与地球生命“互为镜像”的结构。2024年12月，国际顶级期刊《科学》刊发由38位科学家联合撰写的重磅报告《应对“镜像生物”风险》，呼吁全球立即禁止人工合成“镜像生命”的研究。这一警告由包括诺贝尔奖得主在内的多国顶尖学者发起，直指合成生物学领域潜藏的“前所未有的风险”，引发科学界与公众的深度反思。

三、科技风险的双重挑战性

随着科技发展，尤其是进入21世纪以后，越来越多的自然科学家加入预警科技风险的队伍，以前提出科技风险的大多是人文学者。我认为，目前存在双重挑战：一方面科技风险愈演愈烈，另一方面人类的防控机制存在严重漏洞。

（一）认知失灵

什么是“有效加速主义”？它是一种关于技术和社会关系的哲学思想。有效加速者认为，有效加速运动并不是一场社会运动，甚至也不是一种意识形态，而只是一种对真理的承认。无论是现实中的官僚体系、技术治理，还是任何试图控制技术的力量，都妨碍了人们承认真理，因而都需要被革除。一言以蔽之，就是不顾一切地加速技术的发展。

什么是“超级对齐”？大致上讲，它指的是通过对AI系统的行为进行引导，让其能够符合设计者的意图。一些AI从业人士建议用“超级对齐”来对AI系统，尤其是超级AI系统进行对齐。这种策略的基本思路是先创建一个“大致相当于人类水平的自动对齐研究员”，用它来执行针对AI的对齐工作。换言之，就是在执行对齐工作的过程中，将那些更适合由AI完成的工作尽可能交由AI来自动完成，而人类则仅负责其中最为关键的那一部分，以此来尽可能提升对齐的效率。

（二）伦理失灵

科技伦理的建设是按照社会伦理的思路进行的。什么是社会伦理？社会伦理是指在社会生活中，人们共同认可并遵循的道德规范和行为准则，它调节着人与人、人与社会之间的关系，是社会稳定与和谐的重要基础。只要多数人遵守社会伦理，社会秩序便可以井然有序。少数不遵守社会伦理的人造成的社会危害是有限的。但是科技环境不是这样，只要有一个实验室不遵守伦理秩序，就会造成很大危害。所以，我们很难用科技伦理约束科技风险问题，重点应放在改变科技发展模式上。