制定科学的AI治理框架势在必行

永久会址外风雨交加，永久会址里人头攒动。上午的世界顶尖科学家智能科学大会，座位早早被“秒光”。看着站在会场里满怀期待的听众，主办方指了指角落里多余的空座，也只是一两分钟，“加座”也被一扫而空。

这场大会的主角，是当今热得发烫的AI，其快速发展及普及正为社会带来深刻变革，也带来了不可忽视的潜在威胁，因此，建立一套跨越国界、种族、文化的统一的全球AI监管机制势在必行。

这样的背景下，2024世界顶尖科学家智能科学大会以“为人类永续发展制定科学的AI治理框架”为主题，邀请世界顶尖科学家、中国两院院士、业界杰出专家，以及科技管理者与政策制定者等，探讨如何构建一个真正“目标适应”的全球AI监管体系，并形成具体倡议提交国际社会。

中国新一代人工智能发展战略研究院执行院长龚克与北京科学智能研究院院长鄂维南的开场白，都提到了本月颁发的诺贝尔奖——是的，今年的诺奖，人工智能是“大赢家”。在龚克的理解中，诺贝尔物理学奖代表着“科学成就AI”；而诺贝尔化学奖则是“AI成就科学”。

话锋一转，龚克提到了几天前一则令人痛心的新闻：美国一位14岁少年因迷恋人工智能聊天机器人而自杀。他的母亲认为，推出这款聊天机器人的公司要对孩子的死负责，“我的孩子不幸成为牺牲品”。

“这些都表明，制定科学的AI治理框架对于人类可持续发展的重要性。”龚克指出，“人工智能不是一诞生就带来了威胁，而是机遇中伴随着威胁。”因此，发展AI须要带着三个“同伴”：安全、可靠、值得信赖。他一针见血地表示，如今世界上有几百个由政府、国际组织，抑或是知名国际会议发表的治理框架或者宣言，可它们“是支离破碎的”，在协调和执行上存在不小的问题。

“上世纪90年代初，我们将互联网看成是一个巨大的图书馆。”2024世界顶尖科学家协会奖“智能科学或数学奖”得主乔恩·克莱因伯格教授指出，随之而来的是社交媒体兴起，近十年来，人工智能技术的发展使互联网的发展进入第三阶段，“在这个过程中，算法发挥了至关重要的作用，它们能够处理海量的信息，并从中提取有价值的部分。”

克莱因伯格的获奖理由，就包括了“他在算法公平性领域发挥的智识领导力”。他打比方说，假设你向12家公司投递了简历，你以为会获得12个不同的结果；但如果这些公司都用了相同的算法来“阅读”你的简历，你可能只会得到一个答案。又或许，企业利用算法对求职者排名，这符合自身利益，但会使整个社会的结果变得更糟。“算法可能带给人们更准确或更有效的决策，但很可能对个人而言结果会变得更糟。”克莱因伯格说。

本报记者 郜阳