AI“替人做事”还需“有人负责”

当大模型从“回答问题”走向“替人做事”，当AI智能体开始自主规划、决策与执行，一个绕不开的问题浮出水面：人可以把手上的“权”交给机器多少？万一出了事，谁来负责？以“智能伙伴 共创未来”为主题的2026世界人工智能大会，首次将“治理”写入大会名称。会场内外，一个共识越来越清晰：技术跑得再快，治理这根“缰绳”也得同步拴上，正如上海人工智能实验室主任、首席科学家周伯文所说：“AI可以代表人行动，但不能代表人负责。每一次人类对AI的授权都应该可以撤回，每一个行动都应该可以被追责。”

边界在哪

价值判断不能放手

许多人会问，为什么今年特别提到“治理”？这是因为在这个时间节点上，人工智能的角色发生了实质性的转变。前几年的世界人工智能大会上，大家还在津津乐道于大模型写诗、画画、陪人聊天的“小聪明”。如今，大模型正在迈向智能体（Agent）时代，AI正加速从“回答问题”走向“自主做规划、执行长程任务”。简单来说，AI开始真正“替人做事”了。与此同时，安全、责任等迫切的现实问题也被推到人类面前。

清华大学人工智能国际治理研究院院长薛澜说：人类社会传统的委托代理基于人和人的信任，但是，AI代理既存在信息不对称和目标不对齐的问题，更面临新的挑战，“AI做的事情，对人产生重大危害，无法反悔，需要预先有沙盒实验（即在真实世界之外的‘安全隔离区’里测试），重新创造规则”，而且，“人工智能自动系统是没有办法承担任何责任的”。比如，当人给智能体设定一个“不惜代价提高社区信息平台的点击率”的命令，AI很可能会为了完成指标，自主选择推送大量能引发焦虑甚至博人眼球的虚假信息。更棘手的是，由于它是自主长线运行，等人类回过头发现不对劲时，社会信任的裂痕往往已经无法修补。

那么，什么决策永远不能交给AI？加州大学伯克利分校人类兼容人工智能中心执行主任马克·尼兹伯格的回答尤为坚决：“任何有生死相关后果的事都不行。”薛澜的回答更加直接：“涉及价值判断的问题不能交给AI。”

信任在哪

安全不能靠“打补丁”

AI的“黑盒”属性，让信任问题更令人担忧。尼兹伯格说，现代工程学盖一座桥，工程师能通过严密的力学计算，百分之百保证桥的承重和安全，但现在的AI代理依然是一个“黑盒”，缺乏这种确定性。“现在，很多科技企业都是先把桥盖好，等通了车、发现有了塌方迹象，再急忙去打补丁。这太危险了！必须像建造桥梁一样，让开发系统的人承担举证责任。在写代码、设计架构的最初阶段，在系统设计阶段就融入安全性考虑，做到先造出安全的AI，而不是造出AI再去想办法让它变得安全。”

“AI发展如果盲目崇拜效率，会把透明度‘省’掉。系统的复杂叠加也正在剥夺公众的知情权。”纽约科学院院长兼首席执行官杜宁凯指出：当人类把越来越多的工作、意图和主动性委托给智能体时，往往为了追求极致的效率和生产力而让渡了决策原则。“但是，当千百个智能体开始在社会的各个角落长线运行，它们自己拆解任务、自己调用工具、智能体之间自己进行数据交互。这时候，技术的黑盒开始发生叠加，信息不对称的鸿沟会越拉越大。作为技术成果承受者的普通老百姓，无法去追踪某一个关乎自己切身利益的决定究竟是哪个算法在什么时间、根据什么逻辑做出来的，社会信任将遭遇大麻烦。”

行动在哪

治理评估四维并重

AI治理还需全球合作，让共识变成一套管用的国际机制。2026世界人工智能大会已经释放出了明确的信号：AI全球治理正在从碎片化讨论走向实质性合作。大会开幕前一天，来自29个国家的代表共同签署协定，世界人工智能合作组织在上海正式成立。这是一个独立的政府间国际组织，旨在促进人工智能国际合作和全球治理。大会发布了主席声明，明确四项核心原则：以人为本、智能向善、公平普惠、协同共治。

国家发展改革委会同有关部门发布《人工智能合作发展行动计划》，从数据、算力、生态、赋能、人才、规则、治理和伦理等方面提出八项行动。工业和信息化部指导发布《国际人工智能伦理治理行动计划》。未来5年，中国将面向发展中国家提供5000个人工智能专题研修培训名额。去年成立的全球人工智能创新治理中心也集中发布系列重磅成果，包括伦理审查智能体系统“一鉴”2.0、《全球人工智能治理指数（2026）》等。其中，治理指数首次将“全球南方”视角纳入AI治理评估，覆盖全球40个代表性经济体，确立了能力、责任、普惠、持续四维并重的评估框架。

专家们也开出了各自的“药方”。杜宁凯认为，AI治理可以借鉴航空、金融等行业成熟的监管经验，“而且，AI发展到今天，也需要这样一个多方参与、能真正进行技术审查的国际监管体系”。薛澜则建议，国际社会要确定公认的安全红线，建立一个跨国界的风险预警机制，当模型有欺骗人类的行为就及时发出预警，与此同时，要让大众对人工智能体系更加了解，并且支持人工智能伦理道德相关问题的研究和知识普及。本报记者 马丹 张炯强 见习记者 唐敏