头图由豆包生成

2024年的诺贝尔物理学奖，颁给了AI教父杰弗里·辛顿，角度出人意料但贡献实至名归。然而辛顿在接到诺贝尔官方电话时，却重点表达了对人工智能发展的深层担忧：“我认为我们正处在历史的某个关键点，在接下来的几年时间里，我们需要弄清楚，是否有办法应对这种威胁……特别是考虑到一旦这些事情（AI）失控，就会接管人类，使人类面临生存威胁。”

辛顿对人工智能的“不安”，与气候变化、生物技术不同。他认为要缓解气候变化，“你需要做什么”是很明确的，生物技术专家对克隆等问题的控制做得也比较好。但是要解决人工智能领域的问题，我们实际上对于即将发生什么以及如何应对知之甚少。应对人工智能带来的挑战，局面要困难得多。

对于“你是否担心人们不认真对待你的警告”这个问题，辛顿非常确定地称，AI大模型有理解能力，乔姆斯基语言学流派认为其没有理解力的判断是错的。现在人们必须研究如何将其置于人类的控制之下。我们需要投入大量的研究精力。我认为政府可以做的一件事情，就是迫使大公司在安全研究上投入更多资源。这样，像OpenAI这样的公司，就不能只是把安全研究放在次要地位。

而OpenAI在“向人类对齐”与“商业化超级加速”之争以首席科学家、对齐派伊尔亚·苏茨克维落败并离开之后，安全团队半数被清洗，昔日高管团队大多去职。山姆·奥特曼一人掌控，融资66亿美元的同时，奥特曼发表长文称 ASI将在「几千天内」降临！人类奇点近在咫尺。

乱纪元倒未必，但走向奇点一定程度上也是走向沸点。人类社会如同一个处在持续加热过程的能量体、能量生态，随着温度、能级不断升高，个体与群体、局部与整体都更为活跃。传统组织、秩序、规则、关系不仅越来越不适应，而且逐渐不再能作为“社会容器”有效承载和容纳。全球化重组、国际关系撕裂、经济竞争与下行挑战、地缘冲突、种族矛盾等，与信息科技、人工智能一起，成为有可能导致熵增的“加热器”。

如何行稳致远？未来的深处如果没有“新三观”，超级智能不仅可能意味着力量与利益失衡，还可能意味着失序，如果应对不当，本来可以实现智能普慧、互利共赢的AI革命，有可能变成零和甚至双输、没有赢家的游戏。

人工智能奠基，神经网络开创，辛顿一路走来最了解AI尤其是强智能、超级智能。最了解的人一直以来对人工智能深深担忧，不了解的人没有理由盲目乐观。

舆论对AI来袭的反应，心态有些复杂，始终是希望与担心并存。一声声惊呼，一次次发问，只不过随着越来越习惯，惊呼少一些，发问多一些了。

不再频频惊呼是因为人们已经越来越清楚地知道，强智能的进化正在加速，必然带来前所未有的改变。

开始频频发问是因为，AI带来的冲击已经近在眼前，与每个人切实相关，而重大关切问题中远期并不明朗。

五种力量正在影响走向，一是智能科技的创新发展原力，二是企业的觉（悟）力，三是国际国内治理规则的约束和推动力，四是需求引力，五是个人和舆论出于权益保护而对智能及相关企业施加的压力。

智能在快进，争议也在快进，史上最剧烈的变革过程刚刚开始

OpenAI创始人Sam Altman之前在《华盛顿邮报》撰文，充满浓厚的意识形态色彩，似乎有意将中美两国的AI从合作引向对立；9月24日，他在社交平台X上发表的长文《智能时代》则声称超级智能有可能在几千天之内到来；但是紧随ChatGPT Voice发布的是多位高管离职和Altman将获得10%股权的传闻。

OpenAI终于从一家使命凝聚的公共平台，转换为一家利益凝聚的一人内控企业。

与此同时，全球范围内争议四起。荷兰法官用AI判案，一些专家称十分荒谬；美国游戏演员因AI威胁发动大罢工；美国加州提起的《前沿人工智能模型安全创新法案》试图为高风险AI模型建立安全标准，以防滥用或引发灾难性后果，李飞飞等业者反对；接连车祸后美国加州无人驾驶出租车投用量砍半，而萝卜快跑在中国武汉投放市场后，有望在“AI取代就业”的争议声中扩展到更多城市……

AI快进，争议也在快进。史上最为剧烈的变革过程，其实才刚刚开始，后续冲击远非当前可比。

超级智能已是全球重大公共事态：人类选择让AI做什么不做什么？

从强智能到超级智能的发展，堪称影响人类命运的全球竞赛，与每个人相关，人人都有权利关注、表达、议价、博弈，面对超级智能维护自己的权利。

非常赞同Elon Musk等上千位科技业者之前发出的呼吁信里的一句话：我们需要负责任地监督AI的发展，并让社会有机会逐步适应AI带来的冲击。

从来不怀疑AI能做什么，但更重要的问题其实是：人类选择让AI做什么（能做什么不能做什么），发展什么样的AI（中心化还是分布式，力量极化还是生态平衡），以及谁的AI（少数人控制还是共同发展，数字鸿沟还是智能普惠，是一部分人控制AI剥夺和驱逐另一部分人，还是让更多人获得发展，扩大人群差距还是弥合差距）。

AI的发展，一半是“技术-产业-市场”问题，一半是公共问题。如果不能从一开始意识到AI其实是有史以来最不是技术问题的人类形态导向，不能摆清人与AI的关系，必将遭遇其反身性。

AI尤其超级智能出现的生态化、平台化、操作系统化、中心化（以及未来的寡头化）发展势头，已经引起警觉。全球AI峰会、美国人工智能发展路线图都是信号，中国的行动也一定在路上。

人智关系：贯穿未来的重要主线，AI变革过程有喜有悲

对这场变革，可能需要有更充分的预期和心理准备。

科技与新全球化，也是个人关系、生产关系、社会关系、国际关系等历经博弈重新塑造的历史过程，而且这个过程在一定程度上是IT、新IT技术革命在生产力和生产关系层面的变革所产生的结果。

由于还存在强智能走向超级智能这个方面，人智关系因此也成为未来一条重要主线，且人智关系将在较大程度上影响其它主线的走向。所以正在到来的变革远不只是技术与应用的局部变化，远不只是生产力变化，而是秩序、规则、机制、组织、形态、经济等相互交织的立体变革。且这个过程正在加速进行。

变革不仅是科技、产业、经济的，也将是社会、文化、心理的；不仅剧烈，也可能引发冲突甚至关系对立。工业革命如此，信息革命如此，智能革命更是如此。革命从来不是一路欢歌。

变革也可能是交锋。比如工作消失必然伴随失业，产业颠覆必然伴随凋敝，社会再造必然伴随动荡。

新职业、新产业、新经济涌现，创造大量新就业机会。但机会不是所有人的，总体就业增加，并不意味着相当一部分人不会失去工作。总有一些人、一些企业会成为时代的牺牲品。

AI快进的过程，有新生，有死亡，有欢欣，有痛苦。人智关系、人机关系这条贯穿未来的主线，需要重点解读。

人智关系螺旋发展的9个重要节点，考验群体智慧

2020-2050年，这个时间区间，智能的发展粗略看，可能陆续会出现九个重要节点。

节点一是强智能产生；

节点二是强智能的军事化；

节点三是多模态驱动AI走向现实世界；

节点四是AGI（通用人工智能）来临；

节点五是AI被应用于人类治理；

节点六是EI内生智能出现；

节点七是智能-生物-量子技术交融驱动生命科学在范式转移的基础上大发展；

节点