全球人工智能（AI）技术正快速迭代并应用到各行各业，未来可能出现自然人、机器人、数字人并存交互的社会形态。但在创造更多发展机遇的同时，AI也带来很多风险挑战。对于AI所引发的风险，科学界存在诸多争议与讨论。在如何加强AI治理这一重要议题上，国际社会尚未形成广泛认可的统一方案与机制。
如何全面科学评估AI的潜在影响和风险以形成国际共识？怎样平衡人工智能应用与治理，既推动创新又防范风险，建立可靠系统？如何加强能力建设，协调和兼容国际及地区不同层次的人工智能治理框架？
3月26日，博鳌亚洲论坛2025年年会期间，“AI：如何做到应用与治理的平衡推进”分论坛对上述问题展开了深度讨论，分论坛由上海科学智能研究院首席战略官、复旦大学经济学教授杨燕青主持，来自多国的各界代表进行了分享讨论。
发展与安全孰先孰后
在全球高度关注人工智能技术发展与治理的背景下，本次分论坛吸引了众多观众，现场座无虚席。在现阶段探讨人工智能治理问题时，首要任务是厘清发展与安全的优先顺序，这关乎治理的本质。
过去一年，AI领域的快速发展超乎想象，这也为治理问题带来了新的机遇。讨论伊始，中国工程院院士、清华大学智能产业研究院（AIR）院长张亚勤提到，这一年人工智能行业正在从生成式AI走向智能体，从预训练走向推理，从信息智能走向无人驾驶、机器人等为代表的物理智能、走向人脑接口等为代表的生物智能。
但在人工智能技术飞速发展的过程中，风险也相伴而生。“随着AI智能体的广泛运用，其安全风险至少增加了一倍。”张亚勤强调，智能体运行过程中的中间路径是不可控的。尽管智能算法并非完全不可理解的“黑盒子”，但其许多运行机理尚未被完全掌握，这使得风险大幅上升。
面对这样的现状，当下，人工智能是应优先发展，还是优先治理？这一问题引发嘉宾的激烈讨论。
在有的嘉宾看来，人工智能治理大大落后于其发展。中国社科院大学教授、国务院原副秘书长江小涓对全球AI治理方面的进展表示遗憾：“从十年前阿西洛马人工智能原则提出，到最近巴黎AI峰会，这些原则的落地非常有限。”她强调，AI治理的关键在于如何将这些原则落地实践，而不是仅仅停留在空谈原则阶段。
张亚勤也指出，人工智能治理虽然已经取得了一些进展，但同时也遭遇了一些挫折。他强调，未来需要进一步探讨如何在人工智能的快速发展与安全治理之间找到平衡点，从而实现两者的协调发展。
在中国科学院研究员、人工智能安全与超级对齐北京市重点实验室主任、联合国人工智能高层顾问机构专家曾毅看来，人工智能的发展与安全并非水火不容，而是可以相辅相成。他举例称，目前，OpenAI和DeepSeek系列的人工智能模型在性能表现上最为出色，其安全属性也最为完善。
“今年应将伦理安全作为人工智能大模型发展的核心基因，作为第一性原理，不可删除、不可违背，同时也能实现稳健发展。”曾毅强调。
治理标准的边界和挑战
在人工智能治理中，另一个关键问题是如何找到最恰当的方法。首先需要探讨的是是否需要设立标准，以及标准的边界究竟在哪里。而这些问题都指向一个最核心的议题：标准是否能够真正解决人工智能的安全问题？如果可以，它又能在多大程度上解决这些问题？
为了回答上述疑问，芬兰前总理阿霍从借鉴历史的角度指出，可以将政府和企业等各方力量结合起来，共同探讨如何在人工智能领域达成共识。通过建立全球性的合作机制，制定统一的技术标准和规范，为人工智能的均衡发展创造更有利的条件。
张亚勤也赞同上述观点，但他强调需要明确的边界和框架。比如对智能体设置诸如不能自我复制一类的红线，如果只谈一些大原则而不去关注具体方案，就比较难应对。
然而，经济合作与发展组织全球关系与合作主任、经合组织七国集团、二十国集团和亚太经合组织协调人绍尔认为，AI治理的复杂性远超单一标准或框架的范畴。他强调，AI治理需要复杂的、立体多维的系统方法，没有单一的联合国机构或协议能够治理AI，而是需要多种原则和标准的结合。
尽管如此，有嘉宾提出了不同看法。vivo首席安全官鲁京辉认为，安全性问题不能通过简单地制定一个法律或者规则来解决，需要形成一个共识。在他看来，技术共识远远不够，其无法消弭政治分歧，还需正视地缘政治、全球化等问题。
曾毅也表达了类似的担忧，他认为，制定简单的标准不一定可行，因为人工智能中还有许多不可预知的风险需要保持警惕。
鲁京辉补充称，尽管大家在安全的基本概念上已经形成了共识，但在安全性具体落实的层面，目前尚未达成一致意见。无论是在技术层面、治理框架，还是标准制定方面，都还存在诸多复杂因素需要进一步探讨和解决。
建立自下而上的全球性治理机构
当前，国际社会已在人工智能治理方面做出了一些积极尝试。2024年9月，联合国未来峰会通过的《未来契约》，其中明确提出联合国将设立人工智能问题独立国际科学小组，并发起人工智能治理问题全球对话。这一举措为加强人工智能治理提供了重要契机，然而，尽管已有初步尝试，但目前全球尚未形成明确统一的组织架构来全面协调全球人工智能治理。
此次分论坛上，与会嘉宾就人工智能下一步的治理路径展开讨论，当杨燕青提出问题：“如果要选择一个可信可靠的组织来负责人工智能治理的全球协调，你会选择哪一个？”时，现场约有半数的嘉宾表示，以联合国为主导的国际多边组织是最值得信赖的选择。
“我选择联合国。”江小涓立即给出答案。
鲁京辉表示赞同：“如果必须提及某一机构，尽管联合国无法解决所有问题，但它仍然是一个较为理想的共识平台。”
张亚勤认同联合国在政策协调和国家层面的统筹方面可以成为重要平台，他还补充道，在技术与产业领域，需要一个专门的标准机构来制定和推广相关标准，以适应人工智能治理中的不同需求。
也有嘉宾认为需要组建一个全新的组织来进行人工智能治理。阿霍称，他并不完全信任联合国在解决人工智能治理相关问题上的能力，主张由新的、小型的利益相关方来主导。
“这些利益相关方涵盖政治、经济和科学等多领域的专家，共同组成一个专家组或委员会来应对AI带来的挑战。”当被问及是否愿意领导或牵头成立这样的委员会时，阿霍表示，企业应当更多地承担起赞助和支持的责任。
英国励讯集团公共事务总裁、爱思唯尔董事长池永硕表示，这是一个复杂事务，涉及企业、医院、大学、国家等多主体，各方都有利益诉求。不能期待通过某种神奇方式一次性解决问题。各部门应先建立自身治理机制，再逐步整合，最终形成自下而上的模式，基于各方利益共同寻求解决方案。
以色列开放大学执行董事会成员、以色列民主研究所高级研究员特希拉·施瓦茨·阿尔特舒勒强调，还必须在外交领域建立一种相互沟通和谈判的机制。同时，还要考虑其经济影响，借助全球资本市场，并联合众多学术研究机构，形成合力。
在讨论的最后，杨燕青总结道，尽管在治理机构的具体形态、建立方式以及资金来源等关键问题上，仍需进一步深入研究与探讨，但与会嘉宾一致达成共识：各方应携手合作，积极为未来的全球人工智能治理做好充分准备，共同推动相关治理机制的建立与持续发展。
来源：博鳌亚洲论坛