辛顿是AI界的奥本海默?诺贝尔物理学奖的争议与迷思(一)

围炉话今朝 2024-10-21 01:47:21

1.认知与神经科学

人类的记忆和学习过程主要依赖于不断的强化和认知系统的增强。这种动态过程会导致神经元之间的联系形成和断裂。如果长时间没有强化,这些联系就会消失。

基于这一基础原理,Harford提出可以通过数学建模的方式来描述和解释这种现象。他借助了1920年代提出的物理学模型——一星模型(IC model),该模型用于解释铁原子之间的相互作用如何形成宏观的磁性,包括磁性与温度的关系。异性模型的核心理论是铁原子倾向于指向同一方向,从而形成一种稳定的状态。通过能量的描述,我们可以理解物体从高能状态向低能状态转变的趋势。 Harford的创新之处在于他如何将这种物理模型运用到神经网络上。通过构建一个能量函数,描述神经元之间的相互作用,当神经网络处于能量最低点时,就是其最稳定的状态。例如,当你看到一张苹果的图片时,视觉神经网络会首先被激发。

随着神经网络的能量降低,这个视觉信号会传递给更深层次的神经元,激发关于苹果的记忆和推理。 这篇发表于80年代的论文具有突破性的意义在于,它将复杂的认知行为通过数学方式变得可研究,成为智能行为涌现的一个基础理论。

2.涌现行为与复杂系统

通过设计基本的神经元相互作用,尽管不知道如何从宏观上设计认知行为,但通过微观的神经信号传递,可以解释复杂的智能行为。 比如,一个班级里坐满了学生,每个学生遵循一个简单的原理:手举着白牌或黑牌,每个人根据前后左右4个人的牌子的数量来决定自己要举的牌子。这种简单的规则,就可以让我们理解复杂的系统是如何通过基本的单元相互作用来形成整体功能的。 综合起来,Harford提出的能量函数模型为探索理解智能行为提供了数学上的可能,使得人们可以通过微观的神经元互动来解释复杂的认知行为。

那你也举起白色的牌子吧。一开始,大多数人举的是黑色的牌子。但是如果第一排的人中有人开始举起白色的牌子,那这种举白色牌子的行为就会像涟漪一样,不断地影响到后面的人也开始举白色的牌子。因为大家都遵循这样一种举牌子的逻辑和规定。 这是一个微观机制:每个人并不知道整个班级发生了什么,他们只关心自己前后左右四个人举的牌子是黑色的还是白色的。就是这种微观的机制,在不断演化的过程中,使整个班级呈现出一部分人举白色牌子,一部分人举黑色牌子这种模式。这种模式可能没有人设计,很难从某个原理解释为何第一排的人举的牌子会引发这种模式,其实它完全是一种涌现行为。

这篇论文的重要意义在于,它让涌现行为从数学上成为可能。我可以用一套数学模型和方法来模拟这种涌现行为,并将其与神经元的微观机制联系起来,这是认知科学中的一个重要进展。从人工智能的角度来看,这是从无到有的工作,而Hinton则是从有到百的发展。他基于Hopfield网络引发了一系列理论,包括波尔兹曼机、反向传播算法、前馈神经网络和深度神经网络,熟悉人工智能的朋友可能都知道这些已经成为今天人工智能算法的基石。 从认知科学角度来看,它提供了一种可量化的方式去研究认知。从人工智能的角度来说,它奠定了整个神经网络和人工智能网络发展的基础。

3.物理学的本质与边界

你会如何定义物理这个学科?曾写道:物理学有着无可比拟的普世性,也有着明显的边界。当我们在谈论什么是物理时,也需要定义一下什么不是物理,这个学科的边界在哪里。 在书的第一章你提出了这个问题,但没有试图立即回答,因为这问题非常难。你希望读者读完这本书后能有自己的定义。我认为什么是物理可以有很多层面,大部分人首先想到的是本体论层面。物理学作为一个学科,很多人认为它在研究客观世界的真理,探索指导性原理来解释世界的现象,如苹果掉落、月球绕地球、闪电和打雷、彩虹的颜色等。 一些人认为这些现象背后有客观规律,这就是所谓的科学实在论。

然而,另外一些人则认为实在的客观规律并不重要,研究科学的过程完全是从现象到现象。他们注重的是从观察到的现象推测下一个现象,不关心真实存在的规律,而关注如何通过信息构建一个帮助他们预测未来现象的模型或函数。这就是科学的不同理解角度。

4.物理学的认知框架

物理和未来的事件严格一致,他从公理学的角度看待物理学,将其视为内心模型的构建和世界的函数构建。这种观点也可以看作是经验论或逻辑实证主义。 我书里有一章专门讲逻辑实证主义与科学实在论的争论,这是一个本体论的观点,即是否认为有一个本体存在,有一个客观的物理存在,这代表了一种客观存在的规律。

另一个视角是认知论的视角,探讨我们用什么样的形而上学或思维框架去认识物理学。很多人认为物理学是必然存在的,不需要任何先验假设,但事实上,理论的大厦需要大量资料填充,其核心支柱是事先设想的先验内容。 在主流的科学发展过程中,从牛顿时代到20世纪初的科学革命时期,认知论的基本背景包括粒子宇宙图景和机械宇宙图景。粒子宇宙图景认为世界由基本粒子构成,粒子之间的相互作用构成复杂的宇宙状态。

5.数学、物理与人工智能

机械宇宙途径则将世界看作一个钟表,初始状态决定其发展过程。 随着物理学的发展,特别是电磁场理论和量子理论的出现,人们发现场比粒子更为基本。近代物理学提出的标准模型和规范场理论表明,对称性是最基本的语言,既能规定粒子的存在形式,也能规定粒子的相互作用。 第三个视角是人类学的视角,将物理学视为一批从事物理学研究的人的行为,要了解物理学需观察物理学家们的工作,科学共同体的运作,以及科学革命如何通过新观点取代旧观点。

这些视角给我们提供了多种理解物理学的方法。正如诺贝尔物理学奖的结果展示了一样,它拓宽了我们对物理学的边界和路径。 在书的第一章中,我提到数学不是物理学,因为数学研究的是抽象的数、图形和逻辑关系,与实际世界的感官经验无关。无论发生什么,1+1都等于2。尽管物理学依赖数学表述其理论,数学本身是一门不依赖感官经验的学科。 AI在数学和物理学之间的交界地带也具有重要意义,它可以帮助我们探索两者之间的联系,进一步拓宽我们的理解和应用。

0 阅读:3