当前，以人工智能（AI）为代表的新兴技术正以前所未有的速度、广度和深度改变人们的生产生活方式。在创造更多发展机遇的同时，AI技术也带来了相应的挑战和风险。

今年博鳌亚洲论坛年会围绕平衡推进AI应用与治理、加强数字能力建设等议题展开讨论。上海证券报记者在现场看到，相关分论坛人气爆棚，不少听众只能挤在会场后排站立听讲。

应用端是AI价值的最大体现

毕马威中国副主席刘建刚表示，过去一段时间，AI热潮集中在算力、算法以及各类大模型的竞争上。“我们预计，未来一两年内，AI热潮将迅速转移至应用领域。从长远来看，应用端才是AI价值的最大体现。”

多位嘉宾在讨论中表示，AI技术在应用端层面的落地仍有提升空间。“目前我们看到大部分产业的人工智能应用还是集中在初级的自动化阶段，而不是大规模的大模型应用。”刘建刚说。

百度集团执行副总裁、百度智能云事业群总裁沈抖表示：“中国最大的优势在于拥有丰富的应用场景，应该抓住这些应用场景加速大模型的迭代和发展。”

需同步构建安全护栏

AI技术在飞速发展的同时，带来的风险也不可忽视。中国工程院院士、清华大学智能产业研究院院长张亚勤以智能体为例谈到，AI智能体能够自我规划、学习、试点并达到自己的目的，是非常好的工具，但其广泛应用后，带来的安全风险至少较之前上升一倍。

“我们现在有很多AI大模型，在认知问题、求解能力上与ChatGPT等是同一水平，但是在伦理框架上还有提升空间。”中国科学院研究员、人工智能安全与超级对齐北京市重点实验室主任曾毅表示，AI技术在发展的同时，可以同步做到构建有效的安全护栏。

“我们最近尝试将十几个AI大模型的安全能力提升20%至30%，发现对其问题求解能力的影响几乎可以忽略。这说明安全和发展之间不是掣肘的关系。”曾毅说。

vivo首席安全官鲁京辉认为，有关AI的安全性问题，不能通过简单地制定一个法律或者规则来解决，需要形成共识。他表示，从技术、标准等维度来看，当前世界对于AI的安全性治理尚未达成共识。

张亚勤谈到，应该对AI技术的发展界定红线和边界，比如智能体不能自我复制等。在他看来，有了边界后相关问题便能够得到解决。倘若完全没有边界，仅仅谈论一些宽泛的原则，要给出具体解决方案比较困难。

加强数字能力建设关键在人才

“AI的确为可持续发展带来许多新方案和思路，使国际发展提速增效，但数字鸿沟的存在也是不容忽视的。”联合国南南合作办公室基金主任王晓军在谈及人工智能相关话题时说道。

论坛期间，多位嘉宾围绕如何加强数字能力建设、跨越数字鸿沟分享了观点。芬兰前总理埃斯科·阿霍认为，应从教育体系改革、技能培训和政策支持三方面构建系统性的数字能力建设框架。“在数字生态系统中，技术设备和资源可以转移和共享，但人的能力是不可转移的。”他说。

“讨论加强数字能力建设时，我们不要忘记要培养更多数字化人才。”香港特区政府创新科技及工业局局长孙东也在发言中提及了人才的重要性。他表示，香港去年已投入30亿港元专项补贴，支持本土AI研发和人才培养等。

猿力科技集团副总裁、人工智能研究院院长程群则表示，科技公司正通过科技手段破解教育难题，推动教育公平和质量提升。“我们不仅要让更多人接触到技术，更重要的是鼓励他们把技术融入自己的实际工作、生活、学习中，并且从产品设计上就明确这一点。只有人们切实地使用起来，才有机会去跨越各种各样的鸿沟。”程群说。