众议AI：应用与安全并非相互掣肘

　　转自：北京商报

　　3月25日至3月28日，博鳌亚洲论坛2025年年会在海南博鳌举行。AI成为今年博鳌亚洲论坛的关注重点之一。在论坛现场，多名外国嘉宾向北京商报记者讲述了使用DeepSeek后的感受，并一致认为这一工具高效有用。而在AI高速发展的当下，有关应用和治理的问题也被热议。3月26日，在“AI：如何做到应用与治理的平衡推进？”分论坛上，多名嘉宾针对AI治理问题发表了不同观点。有观点认为，人工智能的发展应用与安全之间的关系并非相互掣肘。针对如何做到应用与治理的平衡推进，与会嘉宾认为，多方协作、动态治理、伦理优先、技术透明是共识所在。

　　3月26日，在“AI：如何做到应用与治理的平衡推进？”分论坛上，多名嘉宾针对AI治理问题发表了不同观点。

　　中国AI征服老外

　　在横空出世后，DeepSeek凭借开源、低成本、高性能爆火。在博鳌亚洲论坛2025年年会现场，多名外国嘉宾也向北京商报记者讲述了使用DeepSeek后的感受。

　　“它比我之前使用的AI工具更高效。”全球主权咨询公司（GSA）阿布扎比分部董事总经理、委内瑞拉前外交部副部长特米尔·波拉斯向北京商报记者表示，使用DeepSeek后印象深刻，他认为这一工具非常有效。

　　尼泊尔驻华大使克里希纳·普拉萨德·奥利在接受北京商报记者采访时也表示使用过DeepSeek几次，主要用于总结和活动现场，并夸赞，“DeepSeek挺好用的”。

　　在全球主权咨询公司（GSA）创始人兼CEO安妮-洛尔·凯谢尔看来，DeepSeek为人类提供了很大的帮助，不仅可以加快研究速度，还可以让人冷静思考，就其所在行业而言，产生了很大的帮助。

　　“DeepSeek有更好的资源、更开源的模式，是近两年来人工智能领域最大的、最规模性的创新，也是中国对全球的贡献。”中国工程院院士、清华大学智能产业研究院（AIR）院长张亚勤感慨道。

　　事实上，人工智能在实现技术突破后，也推动了产业变革。中国社科院大学教授、国务院原副秘书长江小涓认为，“从经济学角度来看DeepSeek，最重要的是从垄断变成了真正竞争的产业，以往只有寡头才能做AI，如今变成普遍性竞争。从技术化的能力变成产业化的能力，使传统市场经济中的竞争格局形成”。

　　争议与未决问题

　　“从预训练走向推理，从信息智能走向物理智能和最终智能，中国扮演重要的角色。人工智能安全治理方面有进展，也有一些挫折。”张亚勤说道。

　　在AI高速发展的当下，有关风险治理的问题也被热议。DeepSeek的开源模式显著降低AI训练和推理成本，推动技术普及与竞争，但也加剧了对于安全的担忧。

　　“在广泛运用代理商后，AI的安全风险至少上升一倍。”张亚勤认为，人工智能的能力越大，风险就越高，特别是AI从信息智能到物理智能再到生物智能，风险会增加多倍。

　　中国科学院自动化研究所人工智能伦理与治理中心主任曾毅则认为，人工智能的发展应用和安全之间的关系并非相互掣肘的关系，当前人工智能模型在表现上最好的仍是OpenAI和DeepSeek，它们的安全属性也是最好的。

　　对于这一观点，曾毅进一步解释，当提升人工智能大模型安全能力时，对其求解能力的影响几乎可以忽略。可以用科学的方式使人工智能大模型更安全，但同时几乎对其认知能力没有负面影响。

　　“从企业来看，我们会同时关注创新和安全性的关系。”vivo首席安全官鲁京辉还提到，安全性问题不能通过简单地制定一个法律或规则来解决，需要形成共识，但技术共识无法消弭政治分歧，需正视地缘现实。

　　张亚勤则认为，就可能存在的风险而言，需要定义红线和边界。随着技术不断发展，有了这类边界后，问题是可以解决的，但如果完全没有边界，只讲大原则，则较难实施具体方案。

　　值得一提的是，为了促进人工智能健康发展，规范人工智能生成合成内容标识，3月14日，国家网信办、工信部、公安部、国家广电总局联合发布《人工智能生成合成内容标识办法》，要求对生成合成内容添加显式标识，并规范生成合成内容传播活动，自9月1日起施行。

　　不应被少数国家垄断

　　如何做到应用与治理的平衡推进？产业、学界、监管各方有不同的答案。不过对于与会嘉宾来说，多方协作、动态治理、伦理优先、技术透明是共识所在。

　　“伦理安全应该作为人工智能大模型发展的基因，应该作为第一性原理，不可删除、不可违背，同时可以做到稳健发展。”曾毅首先说道。

　　事实上在产业实践之中，全球对“安全性”定义尚未统一。鲁京辉认为，欧洲重合规，美国重发展，中国求平衡，到底哪一种是标准答案，还需要实践来证明。在鲁京辉看来，企业需要一种更动态的、更敏捷的平衡于发展和安全之间的新的治理模式，由政府、企业、学界共建量化指标。

　　相似的“动态”思路同样适用于国家之间。正如以色列民主研究所高级研究员特希拉·施瓦茨·阿尔特舒勒表示，人工智能需要在每一个语境下、每一个经济体下符合自身的需求及弱点，不被美国、不被欧洲、不被中国强大的大模型发展趋同化，保证AI世界中的公平性和多元性。

　　芬兰前总理阿霍同样反对“一刀切”原则，主张各国根据技术应用场景灵活调整政策。他提议组建跨政治、经济、科学领域的独立委员会，吸纳中小企业与学术机构参与。

　　曾毅则呼吁以联合国为核心建立多边机制，智能鸿沟需通过“全球AI基金”弥合。尤其值得一提的是，技术普惠不应被少数国家垄断，社群共创才能实现真公平。

　　对于监管发挥的作用，应聚焦“边界设定”，而非空谈原则。张亚勤提出技术治理路径：一方面通过算法优化提升AI的可控性与可信度；另一方面，严守现有法律框架，“AI无需创造新价值，它只是人类代理，必须遵守版权、专利等既有规则”。

　　而在江小涓眼中，监管的角色则可以进一步“弱化”。AI治理可依赖自发秩序，市场的力量可以自发地解决效率问题，也可以解决安全问题。“正如科学论文需严格溯源，娱乐内容则可包容虚构。DeepSeek可标注文献来源，正是市场自发的‘局部治理’。”

　　北京商报记者 李海媛 董晗萱