冬季达沃斯 关于“通用人工智能”（AGI）—— 这是个和人工智能AI完全不同的概念。如果说AI是工具，那AGI可能是一种新物种。如果简单理解，人工智能是辅助人类做决定，可以让工作更加高效和轻松，但AGI则可以自成体系。如果人类至今都不知道我们的大脑到底是如何运行的，那同样无法理解AGI背后的逻辑。
前天和知名物理学家、宇宙学家、人工智能科学家泰格马特（Max Tegmark）聊了聊。他一直强调的概念很简单：作为工具的人工智能（AI）很棒，但通用人工智能（AGI）确实是一个坏主意。”
通用人工智能（AGI）最终会成为类似一个新物种的机器人，“我们还不知道如何控制它之前就去构建它，那绝对是疯狂之举。”换言之，“人类要继续掌控我们的地球”。
他说了一句比较容易理解的话：人类的大脑极为受限，如果我的大脑大得多，母亲就无法顺利生下我。但机器却没有这样的限制，一旦制造出和我们人类一样聪明的机器，要打造出比我们聪明100倍、1000倍的机器也并非难事。”
他比喻说：“机器人看我们，就会觉得我们像树一样，因为它们思考速度太快，在它们眼中，我们几乎一动不动。”
是不是可能还不如树？
但清华大学苏世民书院院长，清华大学公共管理学院学术委员会主任薛澜教授的看法就乐观很多。他说一直以来，科学都不是可以任意发展和随意创造的。AGI并非完全不可控，只要做好监管体系，随时监控发展动向就可以。别说AI，就是生命科学，也已经发展到了一个阶段，可以创造生物。但科学要遵守某种“社会契约”。
你可以做得到，不代表你就可以这么做。
