7月26日，2025世界人工智能大会（WAIC）正式开幕。图灵奖得主、诺奖得主、“AI教父”杰弗里·辛顿（Geoffrey Hinton）发表主题演讲再谈AI（人工智能）安全。
杰弗里·辛顿（Geoffrey Hinton）
辛顿表示，人类理解语言的方式实际上很像大语言模型，因此人类实际上很像大语言模型，也会产生幻觉，经常编造东西，特别是当他们试图回忆很久以前发生的事情时。但他也指出，大语言模型与人类非常不同且优于人类的是，计算机科学的一个基本原则是，该将软件与硬件分开，正是这一点让人们可以在不同的硬件上运行相同的程序，它使得计算机科学能够成为一个独立于电气工程的领域，如果你做到了这一点，那么程序中包含的知识就是“不朽的”。
辛顿进一步解释称：“如果你能把程序保存在某处，或者能把神经网络的权重存储在某个地方，那么你现在就可以销毁运行神经网络的所有硬件。只要你有权重存储在某个地方，你现在就可以建造新的硬件，并且因为计算是数字化的，你可以在这些新硬件上运行完全相同的计算。所以在这个意义上，数字计算机的程序是‘不朽的’。”
辛顿同时指出，数字计算需要大量能量，但它使得拥有完全相同权重的智能体（Agent）能够非常容易地共享它们从不同经验中学到的东西，生物计算需要的能量要少得多，但共享学到的东西却很困难。如果能源很便宜，数字计算就会好得多。
“这让我非常担忧，因为几乎所有的专家都相信我们将制造出比我们更聪明的AI。我们如此习惯于作为顶尖智能，以至于很多人难以想象一个AI比我们更聪明的世界会是什么样子……”辛顿表示，想知道非顶级智能体的感受？不妨问问鸡的生存体验。
辛顿认为，我们正在创造AI智能体是因为它们更擅长完成任务，这些AI智能体已经具备创造自己子目标的能力。而一旦拥有创造子目标的能力，智能体就会想做两件事：一是生存，仅仅是为了能够实现我们赋予它们的目标；二是更多的控制权，也仅仅是为了能够实现我们赋予它们的目标。因此，人类将会拥有想要生存和想要更多控制权的智能体，“而且我们将无法简单地关闭它们，它们会发现操纵使用它们的人非常容易，我们将像三岁小孩，而它们将像成年人，所以我认为那种当它们比我们更聪明时，我们就能让某人把它们关掉的想法是不切实际的，它们将能够操纵我们，并说服那个应该关掉它们的人不要那么做”。
辛顿将人类目前的处境比作养小老虎当宠物，小老虎非常可爱，能成为很好的宠物，但需要确保当它长大后它不想吃了你。“一般来说，养小老虎当宠物是个坏主意，有两个选择：想办法训练它让它永远不想吃了你，或者摆脱它。”辛顿表示，对于AI，我们没有摆脱它的选项，AI对医疗保健、教育、气候变化、新材料等太多事情都非常有用，能为几乎所有行业提供帮助并使人类更具生产力。
辛顿表示，如果人类想要生存，必须找到办法训练AI，不要让AI消灭人类。
辛顿指出，目前没有一个国家希望AI接管，每个国家都希望人类继续保持掌控权，如果任何一个国家找到了防止AI接管的方法，他们会非常乐意告诉所有其他国家。因此，他建议建立一个由AI安全研究所和协会组成的国际共同体，致力于研发训练AI向善的技术，实现训练AI向善所需的技术与训练AI变得更聪明的技术，在某种程度上是分离的，让一个真正聪明的AI不想接管世界，即使它比大多数人聪明得多，也非常乐意处于人类的辅助角色。
“我们目前根本不知道如何做到这一点，长远来看，这是人类面临的最重要的问题。好消息是，这是一个所有国家都应该能够合作解决的问题。”辛顿最后如是说到。
本次世界人工智能大会以“智能时代 同球共济”为主题，共规划了超100场专业论坛，汇聚1200余位全球专家，12位图灵奖、诺奖得主，大会将持续至7月28日。
澎湃新闻记者 秦盛
本文来自作者[92bc]投稿，不代表久爱网立场，如若转载，请注明出处：https://www.92bc.cn/yx/202507-8272.html
评论列表（3条）
我是久爱网的签约作者“92bc”
本文概览： 7月26日，2025世界人工智能大会（WAIC）正式开幕。图灵奖得主、诺奖得主、“AI教父”杰弗里·辛顿（Geoffrey Hinton）发表主题演讲再谈AI（人工智能）安...
文章不错《“AI教父”辛顿：人类对AI没有“摆脱”这一选择，但应该找到“驯服”办法》内容很有帮助