随着人工智能技术的发展，AIGC在各个领域产生了巨大的影响力。AIGC代表着AI技术从感知、理解世界到生成、创造世界的跃迁，正推动人工智能迎来下一个时代。但以AIGC为代表的人工智能产业高速发展的同时，其伦理治理风险备受关注。

10月29日，博鳌亚洲论坛全球经济发展与安全论坛（简称“博鳌经安论坛”）第二届大会“AIGC时代的可持续发展与风险管理”分论坛在湖南长沙国际会议中心举行，来自政企学界的各界人士探讨AIGC时代的主要风险和应对。

“AIGC时代的可持续发展与风险管理”分论坛

AIGC时代，风险与机遇并存

上海交通大学中国法与社会研究院院长、Tech4SDG联盟副主席季卫东表示，2022年末引起世界关注的大语言模型标志着生成式人工智能发展进入了一个崭新的阶段，给国家和社会带来各种便利和收益。但人工智能生成AIGC在带来各种便利收益的同时，也带来了令人不安的风险，甚至威胁。

博鳌经安论坛组委会执行副主任卢初阳也指出，2022年，AIGC不仅被消费者追捧，也备受投资界关注。AI软件在诸多领域发挥了独特的作用。与此同时，AIGC也引发了一系列隐私和安全问题。

据野村综研（上海）咨询有限公司副合伙人陆成在论坛上分享的今年3月份的一份问卷显示，接近10%的企业已经开始尝试应用生成式AI，还有不到10%的企业已经在探讨生成式AI的商业化应用。陆成表示，“未来十年是生成式AI爆发式增长的时代，将会迎来年均30%的增长。”

季卫东认为，AIGC时代的主要风险有如下四种：第一，在类似ChatGPT的大语言模型提供网络对话服务之际，可以比既有的互联网搜索引擎搜索到更多的个人信息和隐私。对个人信息安全和隐私的法律保护应该进一步加强，并且要具体落地。

上海交通大学中国法与社会研究院院长、Tech4SDG联盟副主席季卫东

第二，根据研究报告（人工智能研究小组Epoch去年11月进行的一项研究），ChatGPT将在2026年之前耗尽所有高质量的语言数据，在2030-2040年间耗尽所有的人类语言数据，从此，AI合成数据将彻底取代真实数据，成为训练AI的重要资源。如果此后喂食AI的主要数据养料是人工智能合成数据，那么AIGC的可信度究竟如何？会不会让虚假信息或臆造信息充斥网络空间，甚至垄断人类沟通的语境，就成为一个非常严重的问题。因此，防止虚假信息蔓延和大语言模型的滥用，也是AIGC时代法律的一项重要任务。

第三，大语言模型在利用各种数据进行学习，或者人工智能自动生成各种内容之际，都有可能引起知识产权认定和保护方面的复杂问题。为了确保AIGC的可信度，同时明确责任，应该发明应用以及推广各种数字防伪技术。除了知识产权问题之外，实际上AIGC还在社会上引发了失业的恐慌。因此，如何创建一种人机共存秩序，防止少数科技精英对大多数赛博朋克们的绝对支配，确保社会分配正义，也构成AIGC时代立法、执法以及司法的重要课题。

第四，在AIGC时代，经济安全保障和社会风险管控具有非常重要而紧迫的意义。各国围绕人工智能治理进行风险沟通，并凝聚制度设计的共识，也具有非常重要的意义。

“要以负责任的AI创新应对可持续发展的挑战”

AIGC拥有光明的未来已经成为共识，但同时如何管理其潜在的风险？

在论坛上，国家开发投资集团特级专家赵建强博士指出，我国应对AIGC可能带来的风险及时反应。此前，我国在“一带一路”峰会上向各国发出了全球人工智能倡议。而近年来，我国结合实际，陆续出台相关制度来保证AIGC技术的良性发展。

“法律法规在具体落地的过程当中还有很多治理的工作要做，把AIGC用好，赋能千行百业，同时还要管好。”赵建强称。

北大法宝创始人兼CEO赵晓海表示，“我们倡导更加包容审慎的分领域分专题的渐进式立法，以及地方立法，人工智能地方立法先行，不断积累经验，发挥法律解释的能动作用使现行的法律法规适用人工智能。”

三井住友海上火灾保险（中国）有限公司总经理菅匡彦介绍称，AIGC可以在风险评估方面发挥重要作用，通过分析大量的风险数据，可以帮助保险公司有效地预知风险的可能性，并制定相应的策略。AIGC也让我们面对一些新的挑战，企业面临更加复杂的数据安全，技术变革，市场竞争、法律法规、社会等多重风险挑战。为了有效管理这些风险，企业需要主动应对变化，用创新型的方法，应用数字化工具提升企业的经营和抗风险能力。

商汤科技亚太区副总裁兼战略执行负责人邹春慧表示，AI1.0到2.0从原来“封闭的风险”发展到“开放的风险”，开发边界无限放大，风险来源来自各个方面，防不胜防，难以界定；数据交互的实现在大幅度降低AI门槛的同时，也造成了AI滥用风险成指数级上升。建立安全机制防范AI风险，以及安全和性能如何平衡，这些都是需要应对的挑战。特别是，今年生成式应用的爆炸式发展，随之而来的是AI伦理更加引起关注。

邹春慧呼吁，“我们倡导AI向善，倡导所有机构、企业、个人树立三个原则：一是可持续发展；二是以人为本，技术可控；三是包容各个国家地区的发展不平衡，以及历史文化经济等方面的差异。要坚持以负责任的AI创新应对可持续发展的挑战，一起推动人类文明的共同进步。”

关于AIGC浪潮对劳动力市场产生的影响，上海交通大学安泰经济与管理学院教授、上海交通大学产业经济研究中心主任史占中认为，对未来的技术变革不要过多的恐慌，技术变革消灭一部分的工作岗位，但是我们相信同时创造更多的就业岗位，汽车替代马车，马车夫的岗位消失了，但是汽车时代到来之后有更多的岗位出来了，驾驶汽车的、修理汽车的、制造汽车的、设计汽车的。“我相信新的技术变革，AIGC新的技术变革，消灭工作岗位的同时，也会创造更多的新的工作岗位，我们要有足够的信心。”

文/樊梦迪