确保AI发展不会超越人类控制

“既要充分认识人工智能的价值，但也不能无限放大它的功能，甚至还有必要限制对它的功能研发。”前、昨两天，2025高校“AI+能源”学术研讨会在上海交通大学国家电投智慧能源创新学院举行。虽然会议聚焦的是AI在人才培养、科学研究、工程应用三大核心领域的前沿议题，但多位与会专家却拿起了批判的武器，提出要重新认识人工智能在现代社会中的角色定位。

AI定位永远是工具

北京大学信息科学与技术学部主任梅宏教授以“对当前人工智能热潮的几点冷思考”为开场白，提出了要给AI设立必要的边界。“AI的角色过去是工具，无论是现在还是未来，无论它发展到多么强大，仍然应该把它定位于‘人类的工具’，是用来帮助我们提升工作效率和质量的工具。AI不能脱离人类的掌控，我们人类更不能主动‘让位’。”他说，人工智能“能做什么”“不能做什么”，这个问题是时候必须认真厘清了。人类拥有认知能力，是成为地球主人的根本。相比其他生物，人类不是体力最强的，不是跑得最快的，甚至不是感知能力最强的。但人类具备基于归纳和演绎的独特认知能力，加上语言的使用，可以相互交流汇聚群智，因而成为地球的主宰。

迫切需要引起高度重视的是，可以接受机器在感知智能方面超越人类，但对机器认知智能研发需要高度的审慎。在这类研发中，必须维护人的尊严和人类独享的“神经权”。也就是说，在技术领域需要严格限制以替代人的认知能力为目标的技术研发，尤其要严格规范植入式脑机接口类的技术研发。

人类才是真正智能体

在梅宏教授看来，对于“可以机械地进行”的智能活动，计算机早就超越了人类。AI发展的现状，是它的感知能力已超越了人类，但认知和行为能力与人类的差距还甚远。现在“智能”这个词很热，梅教授说，这个概念原本是人类用以区别自身和其他动物的专属词，虽然迄今人们对“智能”还没有公认的定义，但在探究“智能”这个概念时千万不要忘了，人类才是地球上真正的智能体。举个例子来说，大多数设计工作均是人类的智力性、创造性活动，是人的智能的体现，如果将计算机辅助设计或AI设计也称为“智能设计”，那么，人类的设计又算什么呢？

“从人类主体地位的视角出发，为什么要去开发可以替代人类自身认知能力的AI呢？这是对人的权利的侵犯。因此，必须从现在起确保AI发展不会超越人类的控制。”梅宏教授在会上提出的这个重要观点，引起了与会者的热烈讨论。有专家表示，AI无法替代人类在价值判断、人文关怀和原创思维方面的独特优势，因此，AI的定位应当是把它当作人的“外骨骼”，是用来增强人类能力的；同时，AI应该成为人类的望远镜，而不是用它来替代人类的眼睛。对于正在席卷全球的人工智能教育热潮，更要坚守育人本质。在拥抱技术革新的同时，要更加注重培养学生的价值观、创新思维和解决复杂问题的能力，从而为智能时代培育兼具科技素养与人文精神的复合型人才。

本报记者 王蔚