人工智能大模型发展的新趋势、新变化、新挑战（3）

主持人蒋涛：我记得吴翰清老师还提出一个观点，就是未来的这些AI会不会自己连接起来形成一个AI互联的社会？

吴翰清：计算机带来的一个重要的影响，就是产生了互联网。从发展演进看，计算机的体积从大到小，之后个人电脑开始出现，实现了人与人的连接，形成了今天的互联网。信息互联对经济的拉动作用是非常大的。可以说，过去十年全球GDP增长，主要来自互联网及相关产业。而这一次，以大模型为基础的AI带来的最大变化，就是我们每个人都拥有了AI计算机。以前，个人电脑不具备自主性，但今天在AI背景下，就具备了一定的自主性。而且，人与人之间的互联，在PC和移动时代，需要通过一些中间节点，如搜索引擎，找到彼此。过去用计算机去访问网站、访问APP，而现在计算机具备了自主性之后，AI就会自己找到彼此。从这一点出发，我们发现，AI会尝试找到一个更加直接、更加可靠的源头信息。这是互联网结构发生的一个重大变化，今天的很多信息不对称的问题，在未来AI互联的时代都会得到解决。这也意味着在经济学领域会发生一个翻天覆地的变化。

主持人蒋涛：因为是机器交易，而不是人在交易。

吴翰清：机器知道你的偏好，为你服务，会代替你永远在线。这彻底改变整个互联网结构。

主持人蒋涛：那请问王千祥老师，您怎么看待这个AI互联？

王千祥：对于AI互联，还得一分为二来看。尤其要关注，AI有自主性，其将来的智能水平很可能高于人类，那么，我们是否能理解它们之间的对话，我们会不会被它们边缘化。因为大模型本身具有一定不确定性，如果很多事情让它来决策的话，就会面临一定的风险。所以，要对大模型加以控制，正如作家兼教授阿西莫夫提出的“机器人三大法则”，也就是要给大模型打上思想钢印，使其一定要为人类服务，要与人类的价值观对齐，不能有任何偏离。目前，我们确实面临这个风险，也在讨论如何避免带着风险进入一个不确定的社会。

主持人蒋涛：我把这个话题再问一下孙富春教授，刚才说AI互联以后会比人还厉害，那它能做科学创新吗？

孙富春：我们发现，AI在某些方面是可以辅助科学家进行创新的。比如，美国曾做过一项研究，就是预测肺癌发生的可能性。他们收集了数千万份肺癌病例，并将这些病例确诊前三到五年的CT图像进行数据分析，找出肺癌确诊前期共性特征，而后从中精选了部分图像资料，研发了一个肺癌预测模型，准确程度甚至高于放射科的专家。可见，AI在单一任务、特定场景上的表现比人类更优秀。

刚才谈到一个问题，就是以智能网络为数字底座的分布式人工智能。它会通过构建一个协作式、去中心化的网络系统，最大限度地利用信息，实现群体智能。这是一个颠覆性的，它会完成更多难以完成的任务，包括做一些超出我们想象的事情。比如从不好的一面来看，它有可能会突破银行的防火墙，窃取各种重要数据。这就谈到一个非常重要的问题，就是在发展人工智能的同时还要注重治理，其中体现了人类价值的一致性。2017年1月17日，IBM首席执行官Ginni Rometty在世界经济论坛上提出了人工智能三原则：一是目的，人工智能的目的是帮助人、服务人、拓展人的能力，而不是取代人；二是透明度，人工智能一定是透明的，人类必须知道其算法是什么、学习数据是什么；三是技能，人工智能必须与行业内的人员合作，也就是人类要永远在一个安全回路中使用人工智能。

主持人蒋涛：这点可以做到吗？

孙富春：当然可以。而且，我们也必须做到，因为做不到的话，人工智能的发展就会失控。因此，我们要制定相关法律法规，确保人工智能系统在人类的怀抱里。

主持人蒋涛：最后一个问题，我们预测一下未来三到五年人工智能大模型的发展。吴翰清老师，您先来。

吴翰清：说一个与程序员相关的。我认为，未来三到五年一定会发生的事情，就是编程这项工作会被重塑，新型程序员会出现。他们只需要描述需求，剩下的由AI来实现。正如我之前说的“programming（编程）留给人类，coding（编码）留给AI”。也就是说，每个人都可以通过描述需求驱动AI来编程，未来三到五年，我们可以看到这个发展迹象。

主持人蒋涛：不会写程序的人，只要有编程思维，就可以在未来三到五年内驱动AI来写程序。孙富春教授，您预测一下呢。

孙富春：未来三到五年，一些行业有可能会被取代，比如教师就可能会被人工智能所取代。另外，在制造业中，大概20%的生产线会被机器取代。

主持人蒋涛：正如现在的一些“黑灯工厂”。袁媛老师，您来预测一下未来三到五年可能会发生的。

袁媛：未来三到五年，具身智能会进一步发展，不仅可以更好地与人交互，理解人的意图，而且还可以做更多的事情，比如做家务、护理老人。对此，我非常期待，希望能做第一批吃螃蟹的人，到时也一定要为家人、为自己买一台。

主持人蒋涛：王千祥老师，您来预测一下。

王千祥：未来三到五年，从软件研发的角度看，研发效率可以提升10倍。

主持人蒋涛：总的来讲，计算和AI会改变我们的未来。非常感谢四位嘉宾的分享。谢谢。