7月26日，2025年世界人工智能大会开幕，图灵奖、诺贝尔物理学奖得主杰弗里·辛顿在主论坛上进行了“数字智能是否会取代生物智能”的演讲，呼吁全球联合进行AI治理技术的研究。
这次是辛顿首次来到中国参加2025WAIC大会。
辛顿在演讲中表示，人类理解语言的方式实际上很像大语言模型，因此人类也会产生幻觉，经常编造东西，特别是当他们试图回忆很久以前发生的事情时。但他也指出，大语言模型与人类非常不同且优于人类的是，计算机科学的一个基本原则是，应该将软件与硬件分开，正是这一点让人们可以在不同的硬件上运行相同的程序，它使得计算机科学能够成为一个独立于电气工程的领域，如果你做到了这一点，那么程序中包含的知识就是“不朽的”。
辛顿进一步解释称：“如果你能把程序保存在某处，或者能把神经网络的权重存储在某个地方，那么你现在就可以销毁运行神经网络的所有硬件。只要你有权重存储在某个地方，你现在就可以建造新的硬件，并且因为计算是数字化的，你可以在这些新硬件上运行完全相同的计算。所以在这个意义上，数字计算机的程序是‘不朽的’。”
辛顿同时指出，数字计算需要大量能量，但它使得拥有完全相同权重的智能体（Agent）能够非常容易地共享它们从不同经验中学到的东西，生物计算需要的能量要少得多，但共享学到的东西却很困难。如果能源很便宜，数字计算就会好得多。
“这让我非常担忧，因为几乎所有的专家都相信我们将制造出比我们更聪明的AI。我们如此习惯于作为顶尖智能，以至于很多人难以想象一个AI比我们更聪明的世界会是什么样子……”辛顿表示，想知道非顶级智能体的感受。而我们正在创造AI智能体是因为它们更擅长完成任务，这些AI智能体已经具备创造自己子目标的能力。
一旦拥有创造子目标的能力，智能体就会想做两件事：一是生存，仅仅是为了能够实现我们赋予它们的目标；二是更多的控制权，也仅仅是为了能够实现我们赋予它们的目标。因此，人类将会拥有想要生存和想要更多控制权的智能体，“而且我们将无法简单地关闭它们，它们会发现操纵使用它们的人非常容易，我们将像三岁小孩，而它们将像成年人，所以我认为那种当它们比我们更聪明时，我们就能让某人把它们关掉的想法是不切实际的，它们将能够操纵我们，并说服那些应该关掉它们的人不要那么做”。
辛顿将人类目前的处境比作养小老虎当宠物。一般来说，养小老虎当宠物是个坏主意，有两个选择：想办法训练它让它永远不想吃了你，或者摆脱它。对于AI，我们没有摆脱它的选项，AI对医疗保健、教育、气候变化、新材料等太多事情都非常有用，能为几乎所有行业提供帮助并使人类更具生产力。
辛顿强调，如果人类想要生存，必须找办法训练AI，不要让AI消灭人类。目前没有一个国家希望AI接管，每个国家都希望人类继续保持掌控权。因此，他建议建立一个由AI安全研究所和协会组成的国际共同体，致力于研发训练AI向善的技术，实现训练AI向善所需的技术与训练AI变得更聪明的技术，在某种程度上是分离的，让一个真正聪明的AI不想接管世界，即使它比大多数人聪明得多，也非常乐意处于人类的辅助角色。
“我们目前根本不知道如何做到这一点，长远来看，这是人类面临的最重要的问题。好消息是，这是一个所有国家都应该能够合作解决的问题。”辛顿最后称。
以下为辛顿演讲实录（由AI整理）：
这么一个机会，给大家分享一下我自己个人的观点，就是AI的历史和它的未来吧。
大概60多年了，对于AI有两种不同的范式和路径针对它，一个是逻辑性的，那就是过去一个世纪都是以逻辑型的范式，什么意思？都认为这个就是逻辑智能的本质在于推理，我们通过一些符号规则对符号的表达式进行操作来实现推理，那么，这样能够帮助我们更好的去理解知识是怎么代表另外一种？就是生物作为基础的这个理解AI，那就是图灵和冯诺依曼所相信的。那么就是智能的一个基础，就是更好的去学习了解学习网络中的一些连接速度。
那么这个过程中的理解是第一位的，才能够学习，那么和这两种这个理论相结合的，那么就是一个是符号型的那个AI的那个原理的话。难看的就是这些数字，那么就这些数字最后又如何能够成为关关注它词和词的这个关系？
心理学家，他是另外一种理论，显然是完全不同的另一个理论。数字的这个意思，其实它就是一系列语义学的一些特征。然后这些特征它存在，那自然它也会成为了一个特征，在1985年的时候。我做了一个非常小的一个模型，想把这两个理论结合在一起，然后更好的去理解人们是如何理解一个词的。所以，每一个词，我都放了好几个不同的特征。然后把前一个数字的这个特征记录下来，我们就可以预测下一个数字是什么，下一个词是什么，然后再预测再下一个词。
在这个过程中，我们没有存储任何的句子，我生成句子，然后预测下一个词是什么。那么相关联性的这些知识，也是取决于不同的词的特征，语义的特征是如何进行互动的。果你问接下来的30年会发生什么？10年之后，那个beio他也是用了这样的一个模式建模，但是他把它规模做的大了很多，它等于成为了一个自然语言的一个真实的模拟。在20年以后，计算语言学家终于开始去接受特征向量的嵌入来表达词的意思。
然后再过了30年，谷歌就发明了transformer，然后OpenAI的研究人员，也向大家展示了他能够做到了什么。所以我们今天的大语言模型，我已经把它视为就是那个就是微信语言模型的后代，从1985年代以后开始的，他们使用了更多的词作为输入，他们使用了更多层的神经元的结构。因为需要有。大量的模糊不清的一些数字的使用，同时学习特征之间也建立了更加复杂的交互模式。
但是，就像那些我做的小模型一样，单元模型它也与人类去语言理解语言的方式是一样的。基本的理解就是把这些语言转化为一些特征，然后把这些特征以一种非常完美的方式整合在一起，这就是LAM里面各个层次里面所做的事情，所以我的理解就是大语言模型真的理解你是怎么理解问题的，和人类理解语言的方式是一样的。所以我在这里给大家打一个比方，什么叫理解一句话，在这个它包含哪一些？就是符号的AI是什么？
就是把这一套东西，把它转化成一些不模糊的符号，把语言，但是实际的情况不是人类不是这么样理解的。理解的我在这里打一个比方，就是做那个乐高的积木，通过乐高积木，你可以做成任何3D的。一个模式，你可以把一个车子的小模型造出来。你把每一个词就是视为一个多维度的一个乐高积木。它可能几千个不同的维度，那么这种类型的这些乐高的积木，它就可以做这么多的维度，它可以是一个建模，它可以做好多不同的内容。
这就语言变成了一个建模。那么这样的一个语言，也能够随时的沟通给人，然后只要把这些积木给它起一个名字就行。然后每个积木它都是一个词。所以我们现在乐高积木，它有非常多的一些不不是说几个不同的乐高积木的那种差异了。我们有几有无数的词那么乐高的积木它的造型是固定的，但是词，词它的这个符号，它的它的它的形状是它可以基本上的做出一个设定，但是它也可以根据不同的情况来。
进行调整，然后乐高模型，它相对比较确定嘛，一个正方形的插到一个正方形的一个小孔里面去。但是语言不一样，每一个语言它可能想象出每一个词上都有好多个手。
比如说。你想你要想更好的理解这个词的话，就是让这个词和另一个词之间合适的去进行握手。那么，一旦这个词的造型发生一个变形的话，它就怎么和另一个词握手方式就不一样了。这里就有一个优化的一个问题，我我一个词去变形了以后，它的意思变了，那么这个词怎么跟下一个词握上手，带来一个更好的一个意思，这就是什么叫人脑去理解意思，或者说这个神经网络去理解意思。
最根本的就是这样的。所以就有点像是把蛋白质跟蛋白质之间组合起来。蛋白质就是把氨基酸进行不同的模型来进行一个整合融合。之后结合在一起能带来更有意义的内容，这是人脑理解词的方式。语言的方式。
所以我到现在讲的一个观点就是，人们理解语言的方式和大语言模型理解语言的方式几乎是一样的方式。所以人类有可能就是大语言模型，人类也会和大语言模型一样去产生幻觉，因为我们也会创造出来的很多幻觉的一些语言。
那么大语言模型也会怎么做。但是也有一些重点的方根本性的方式，单元模型和人类不一样，而且比人类更厉害。根本性的计算机科学的一个原则就是说我们要把软件和硬件分开看，这就让你在不同的硬件上面跑步。同样的软件，那么。这个和WE是不一样的地方，这就是计算机科学存在。
如果你能够工作的话，在一个软件里面的一个知识，它是永恒存在的，这个软件，这个软件永远会放在程序，永远会放在那里，你可以把你你可以把所有的硬件都把它毁灭掉，就存LM的硬件都毁灭。但只要这个软件继续存在，它随时随地都会被复活的，所以从这个意义上说，这种计算机的程序的这些知识是永恒的，不会死亡的。那么，就这和什么不一样？那么要实现这种永生性，我们就在这些晶体管在非常高功率下去运行，产生可靠的二进制的一些行为，那么这个过程就非常的昂贵。
我们不能利用硬件中丰富的这种粒比的特性，因为这些特性是不够稳定可靠的。每。是是，它是模拟型的，所以你每次计算都会不一样的。人脑是模拟的人脑不是数字的，那每一次神经元去激发的过程中，它所它都是模拟型的，它是每一次都一样的。我不可能把我脑子里的人脑神经元的结构转到你脑子里是做不到的，因为我们每个人的连接方式是不一样的，每个人的神经元连接方式是不同的，所以我的神经元的连接方式是适合我的脑子里的神经结构的。
那么知识的传播和硬件里边去传播，就是人的脑子和硬件是不一样的东西，这就带来了问题了。
如果我们做不到永生这些知识软件。它和硬件是不依赖的，所以它是永生的，那么带来两大好处。
我们可以用很小的功率很小的这个这个电能，我们大脑就只要30个瓦特就足够用了。我们有几万亿的神经元的连接，那么就是和那个电子管的这些情况是一样的，我们也我们不需要就是要花非常多的钱去做一模一样的这些硬件。但是我们现在还有一个比较大的问题，就是从一个模拟的模型，要从一个模拟模型转到另外一个模型，把它的知识转过去，那是非常不高效的，非常难的。我没有办法用我的把我脑子里的东西展示给你，这是不一样的，我们能做的就是用其他的方式。
来给你解释一下，我已经学到的是哪些东西。所以要解决这个问题的最佳方法叫蒸馏DeepSeek就是这么做的，就是从一个大的神经元网络，把它的知识转到一个小神经元网络里面去蒸馏。根据想法就是一教师和学生的关系，在有些情况下，教师他把事情连在一起，他把一个词和另一个词他们互相连接的上下文联系起来，然后学生他也可以说同样的话，但是他调整了这个，Wait, 所以。就是我们训练他的这种方式也是这样的，就是你把一个人的知识转转给另外一个人也是这样的，但是他非常的不高效。
所以可能一句话里面有100个比特的信息不是特别多，这就限制了我们可以把知识转到另外一个人能够转多少，我可以很慢的讲话的方式把知识转化给给你，一秒钟最好最多也就100个比特左右。如果你全听懂了我的话的话，所以效率并不是非常高，但是如果把它去对比数字智能之间转化知识的效率的话，那是有巨大的差别的。我没有同一个神经网络，这个软件做了几百个不同的拷贝放在不一样的硬件里面，他们都是用数字的，他们会以同样的方式用自己的那个rates，然后他们可要平平均化它的这种位置的方式就可以把知识来进行分享。
Internet我们可以有成千上万的拷贝，他们可以自己来改变他们的权重，然后，取一个平均数，这样就能够转移知识，然后这样的转移的速度，取决于你有多少个连接点。
这样每次，能够分享万亿个比特，而不是几个比次，而是几十亿个比次。然后，比人类分享的知识要快几十亿倍。所以，GPT4非常好，他们有很多的不同的拷贝在不同的硬件上运转，他们可以分享他们从网上学到的不同的信息。如果有智能体在现实世界当中运行，这就更重要了，因为他们能够不断的加速，不断的拷贝，有很多的智能体的话，那么就比单个智能体学的更多，他们能分享他们的权重，模拟的软件的或者模拟的硬件就做不到这一点。
所以，我们的看法是数字计算需要很多的能源，但是，智能体可以很方便的获取同样的权重，分享不同的经验当中学到的东西。生物计算当中，用能更少，但是分享知识是很难，就像我现在所展示的这样，如果能源很便宜，数字计算那么就会好很多。那这也让我很担忧。
因为几乎所有的专家都认为我们会生产比我们更智能的AI。
我们习惯成为最智能的生物，所以很多人觉得难以想象，如果在世界当中AI比人更智能会怎么样？我们可以这么来看，如果你想要知道会怎么样，如果不是人类，不是最智能的话怎么样？会怎么样？我们可以问一个鸡，我们在创造AI智能体，他们能够帮我们完成任务。这些智能体，他们已经有能力可以进行拷贝。他们能可给给自己的子目标的评级。那么他们会想做两件事情，他们想要生存，然后来完成我们给他们的目标。
他们也希望能够获得更多的控制，同时也是为了完成我们给他们的目标，所以，这些智能体，他想要生存，想要更多的控制。
我觉得我们不能只是把他们一关了事，他们会很方便的来操纵用他们的人，那们就会像3岁，然后他们像成年人一样，那操纵3岁的人，是很容易的。
所以，有人觉得他们变得聪明，我们就把他们关掉，这是不现实的，他们会操纵，我们会劝说操控机器的人不要把他们关掉。
所以，我觉得我们现在的情况。有个人，把老虎当宠物，那老虎也可以当小虎崽，是很可爱的宠物。
但是，如果一直养这个宠物，那么你要确保它长大的时候，它不会把你给杀掉。
一般来说，养老虎当宠物不是一个好的想法，那么只有两个选择。
你把它训练好，他不来杀你。或者你把它给干掉，用AI的话，我们就没有办法把它给消灭掉。AI非常好的，有很多方面都做得很好，很多都已经提到过，比如说医疗、教育或者气候变化、新材料，AI，这些任务都做得非常好，几乎能够帮助所有的行业变得更有效率，我们是没有办法消除AI的，即使一个国家消除了AI，别的国家也不会这么做。所以，这不是一个选项，这意味着如果我们想要人类生存的话，我们必须找到一个办法来训练AI，让他们不要消灭人类。
现在，那么我是发表个人的观点，我觉得各个国家可能不会在一些方面进行合作，比如说网络攻击，或者是致命的武器，或者是这个虚假的这个操纵公众意见的视频。各国的利益是不一致的，他们有着不同的看法，我觉得不会在这方面会有有效的国际合作。我们可以防止一些人来制造病毒，但是在这些方面不会有什么国际合作，但是有一个方面，我们是会进行合作的，那我觉得这也是最重要的一个问题。
我们看一下50年代冷战的巅峰的时期，美国和苏联一起合作来预防全球的核战争，大家都不希望打核战争，尽管他们在很多方面都是对抗的，但是他们在这一点上面可以合作。我们现在的局面是没有一个国家希望AI统治世界，每个国家都希望人类能够掌控世界。如果有一个国家找到一个办法来预防防止AI操纵事件的话，那么这个国家肯肯定会很乐意告诉其他国家。So, 所以，我们希望能够有一个AI安全机构构成的一个国际社群来研究技能，来培训AI，让他们向善。
我们的希望，是训练AI向善的技巧。可以说和训练AI聪明的技术是不一样的。所以，每个国家可以做自己的研究，让AI向善。他可以在自己主权的AI上进行研究，他不可以不给别的国家，但是，他可以把成果分享给大家，也就是怎么训练AI，让AI向善。
全国高校人工智能与大数据创新联盟
全国高校人工智能与大数据创新联盟（简称:高校联盟）是由清华大学、浙江大学、中南大学、东北大学、上海工程技术大学、重庆邮电大学、东北林业大学、佛山科学技术学院、曲阜师范大学、黑龙江大学、海豚大数据科技等全国54家高校、企业共同发起，于2018年5月26日在北京中国科技会堂正式成立。迄今为止，联盟发展会员300多家, 覆盖全国20多个省市。联盟由一批积极投身于“人工智能、大数据、区块链”教育事业的高校、科研机构、企事业单位和个人自愿组成的公益性、全国性学术交流服务平台。中国工程院原常务副院长、中国工程院院士潘云鹤、中国科学院院士陈国良、中国工程院院士李伯虎担任联盟名誉理事长，中国工程院院士谭建荣担任联盟理事长。联盟工作接受工信部、国家网信办等政府部门行政管理和业务指导。联盟主要工作是推进产教融合、校企合作、协同育人。(加盟微信13651193492)
华算人工智能研究院
华算人工智能研究院全称是“山西省华算人工智能研究院有限公司”，是经山西转型综合改革示范区管理委员会批准，于2023年10月在太原成立的第一批专业研究人工智能、赋能数字经济产业发展的独立法人组织。华算人工智能研究院依托全国高校人工智能与大数据创新联盟专家委员会及理事会资源，按照山西省委省政府、山西转型综合改革示范区管理委员会发展人工智能、数字经济的系列文件精神和工作计划，将研究院打造成为山西省发展人工智能、数字经济的示范应用推广平台，同时面向全国开展人工智能业务。华算人工智能研究院名誉院长由中国工程院院士李伯虎担任。研究院内设AI产业学院共建中心、实训实习就业中心、实验室建设中心、专家智库等6个职能部门。欢迎加入华算人工智能研究院专家智库，共同赋能高校AI人才培养及产教融合事业发展。
高校区块链专委会
全国高校人工智能与大数据创新联盟区块链专委会（简称:高校区块链专委会），是由北京大学、浙江大学、武汉大学、西南财经大学、北京交通大学、郑州大学、贵州大学、桂林电子科技大学、山西农业大学、佛山科学技术学院、陕西师范大学、中国网安、海豚大数据科技等全国40多家高校、企业和机构共同发起，于2019年12月7日在广东省佛山市正式成立。目前发展高校及企业会员70多家。中国工程院院士、浙江大学教授陈纯担任高校区块链专委会名誉顾问；福州大学教授蔡维德、中国计算机学会区块链专委会主任斯雪明教授、中国人民银行数字货币研究所副所长狄刚担任高校区块链专委会名誉主任；北京大学信息科学技术学院区块链中心主任陈钟教授担任高校区块链专委会主任。高校区块链专委会主要工作是促进高校区块链教育，为高校区块链专业建设及学科发展提供专家咨询服务。
高校元宇宙专委会
全国高校人工智能与大数据创新联盟元宇宙专业委员会（简称:高校元宇宙专委会），是由清华大学、湖南大学、浙江大学、四川大学、汕头大学、河北金融学院、保定市元宇宙协会、英伟达中国、海尔衣联网研究院、海豚大数据科技(天津)有限公司等全国20多所高校、企业和机构共同发起，于2022年11月5日在北京正式成立。中国工程院院士、计算机软件与虚拟现实领域专家赵沁平担任高校元宇宙专委会名誉顾问；中国工程院院士、北京航空航天大学电气与自动化学院名誉院长、中国航天科工集团有限公司科技委高级顾问李伯虎担任高校元宇宙专委会名誉主任；清华大学信息国研中心可信软件和大数据部常务副主任邢春晓担任高校元宇宙专委会主任委员。目前已发展高校及企业会员30多家。高校元宇宙专委会主要工作是促进高校元宇宙教育、加强校企合作、推动元宇宙专业建设及学科发展，为元宇宙教育教学提供专家咨询服务。
高校数字经济专委会
全国高校人工智能与大数据创新联盟数字经济专业委员会（简称:高校数字经济专委会），是由华算人工智能研究院、清华大学、北京大学、中国人民大学、中国社会科学院信息化研究中心、四川大学、北京外国语大学、北京科技大学、北京工业大学、北京语言大学、北京化工大学、北京联合大学、北京物资学院、北京印刷学院、西藏民族大学、河北金融学院、重庆财经学院、苏州城市学院、北京中关村软件园、百度、海豚大数据科技等全国60多家高校、企业和机构共同发起，于2024年1月12日在北京正式成立。清华大学经济管理学院教授姜旭平、北京大学信息管理系教授赖茂生、中国社会科学院信息化研究中心主任姜奇平、中国科学院大学经济与管理学院教授吕本富担任高校数字经济专委会主任委员。高校数字经济专委会主要工作是促进高校数字经济专业建设及学科发展，推动产学研合作，为高校数字经济专业教育教学提供专家咨询服务。
联盟“资料图书馆”
微信咨询
说明：转载文章和图片均来自公开网络，推送文章除非无法确认，都会注明作者和来源，如有侵权请联系删除。
往期精彩文章（单击就可查看）：
. 办
. 》
