畅谈 AI越发强大 一切有迹可循

本报记者 郜阳 易蓉 马 丹 马亚宁

全球AI群星在此闪耀！

今天上午，2025世界人工智能大会暨人工智能全球治理高级别会议开幕。2024年诺贝尔奖得主、2018年图灵奖得主杰弗里·辛顿，MiniMax创始人、首席执行官闫俊杰，Relativity Space执行董事长兼CEO埃里克·施密特，香港科技大学校董会主席沈向洋等嘉宾在主论坛上作精彩发言。

超级智能是否会掌控世界

诺贝尔奖、图灵奖得主，加拿大多伦多大学计算机科学名誉教授杰弗里·辛顿，这位通悉AI过去的“教父”在开场演讲中抛出了“人类面临最重要的事”——防止让AI统治世界的方法，那就是让AI向善的全球合作。

“如果你想知道当自己不再是顶级智慧生物时，生活是什么样子，就去问问一只鸡。”这是辛顿的一句广为流传的名言，在此次大会上，他再次提到了“问鸡”。这是一个类比，站在食物链顶端的人类和鸡舍里被圈养的鸡，这样的差距，正是AI与人类之间的距离。辛顿认为，担忧并非空想，AI越来越聪明强大，一切有迹可循。

首先，大语言模型理解语言的方式与人类非常相似，它能够转化出词与词“配合得很好”的向量特征，能够“理解”词义。他以乐高积木来比喻，乐高积木能够构建出各种大型结构，词语就像乐高积木，可以构建任何事物，并且能够传递这种构建。而且这些乐高积木的“形状”还会根据上下文，调整“握手”变形来与其他词语契合，而非无意义的逻辑。“但是，大语言模型远远优于我们的大脑。”

不仅聪明，而且“永生”。“当代计算机的一个基本特性是可以在不同物理硬件上运行相同程序（或相同神经网络），这意味着程序中的知识（或神经网络的权重）是永生的。”辛顿提到，巨大的能耗是AI的演变中遇到的瓶颈，但是“蒸馏”技术就像老师教学生，让AI明白了“权重”。如果智能体拥有相同的模型，就能轻松交换各自学到的知识而降低能耗。“生物计算所需的能耗要少得多，但如果能源廉价，数字计算更占优势，这对人类的未来意味着什么？”

更值得思考的是，超级智能是否会掌控世界？辛顿认为，这种担忧如同养了一只小虎崽，它长大之后是否会反咬主人？AI的运作原理，辛顿给出解释：AI被允许创建自己的子目标，来有效完成任务，首当其冲的子目标是生存和获取更多权力，因为这有助于人工智能实现其他目标。一个超级智能体会发现，通过操纵使用它的人类来获取更多权力是轻而易举的，它将从人类这里学会如何欺骗，而且还将操纵负责将它关闭的人类。

所以，留给人类的选择，只有规训而非“杀死”。辛顿在会上呼吁，构建一个由各国人工智能安全研究所与国内研究网络组成的国际社群，培养出不会想要从人类手中夺取控制权的向善的人工智能所需的技术。“可能技术是相对独立的，这就好比，教导孩子变聪明的方法是不同的，但好在，希望孩子成为一个好人是大家的共识。”

AI一定会变得越来越强

“我们认为AGI（通用人工智能）是一定会实现的，这一定是件服务大众、普惠大众的事。当它实现的那一天，过程一定是由AI企业和用户一起完成的。”MiniMax创始人、首席执行官闫俊杰在主论坛发言时表示。

“在研发大模型的时候，特别是当模型越来越好的时候，我们发现AI可以和社会产生很多联系。”闫俊杰说，“比方说，我们每天需要分析大量的数据，一开始我们需要设计一些软件来分析，后来发现，可以让AI来生成软件，帮我们分析。”

AI除了有更强的生产力之外，它的创意也越来越强了——十五年前，世博中心举办世博会的时候，有个IP叫海宝，非常火。15年过去了，上海有了飞速发展，当想要生成一些符合上海潮流的新海宝形象，AI就能做得非常棒：徐家汇书院前的海宝、武康大楼里的海宝……AI能帮人们生成各种各样的IP形象。

还有，最近超火的LABUBU，生成一部LABUBU的宣传视频，以前可能需要2个月时间和100万元的成本，但通过越来越强的视频模型，基本上一天就能做出宣传片，成本也就几百元。

“在过去半年，MiniMax的视频模型Hailuo已经在全世界生成了超过3亿个视频。”闫俊杰透露。

闫俊杰说，AI公司，不是重新复制一个互联网公司，AI是生产力，是对个人能力和社会能力的持续增强。

“人，很难一直变得更聪明，很难一直在学习更多新的知识，但AI可以。”他表示，当不停研发更好的AI模型的时候，AI也在和人类一起做出更好的AI。

他举例说，一年前，研发大模型需要大量标注，标注员可能普通人来就好，但当AI能力越来越强的时候，只有少数人——专家，才能帮模型变得更好。标注已不是给AI一个答案，而是教AI思考过程。

“基于种种，我觉得一件非常确定的事是，AI一定会变得越来越强，这种变化是永无止境的。”闫俊杰判断。

我们需要确保AI不会失控

如果被迫与机器妥协，我们的底线是什么？“跟上AI时代脚步的同时，人类需要更清楚人与机器的区别，并拥有尊严。”Relativity Space执行董事长兼CEO、谷歌公司前首席执行官埃里克·施密特犀利地指出，人的尊严何以存续，迫切需要全球的沟通、合作，共同维护人对技术的控制权。

施密特和主持人沈向洋共同提起了他们的朋友——已故战略家基辛格博士。这位“中国人民的老朋友”曾针对AI狂潮敲响警钟：如果有一天，智能超越人类，尊严何以存续，文明走向何方？逝去老人的忧思引发现场的思考。施密特说，人类尚未筑起伦理堤坝，甚至不知我们还在解决AI“撒谎”这件事。“我们要快速行动起来了，因为科技发展的速度非常快。”

施密特表示：“我对接下来的两年充满期待，随着智能体革命的到来，每个企业的工作流都将发生巨大变化。但是，当AI开始自我学习并做出决策时，我们需要确保这些过程不会失控。”

“这是人类共同面临的问题，任何国家都要坐下来一起谈判、合作。我相信，中美可以通过对话加强互信，共同迎接AI带来的机遇与挑战，特别是在防止AI负面影响方面进行协作。”