我恨巨蟹座当技术与商业之间产生巨大矛盾时，Juergen Schmidhuber才会被公众惦记起来。从四月那封暂停人工智能技术研发的公开信，到本月初为了能更“自由”的谈论AI风险而离开谷歌的Geoffrey Hinton。本世纪最具想象力也最具争议的技术终于站在了最后的十字路口。

　　最近两年，Juergen Schmidhuber的风头一度被获得图灵奖的人工智能三巨头（Yoshua Bengio、Geoffrey Hinton 和 Yann LeCun）所盖过，以致于大众无意识间将这位人工智能思想家与技术先驱放到了一个相对低估的位置。

　　要理解他错失图灵奖的原因，或许南京大学人工智能学院院长周志华教授的评论值得参考，他说：“要论对深度学习的贡献，Hinton 无疑居首，LeCun 和 Schmidhuber 贡献都很大。但HLB总捆绑在一起，Schmidhuber 显然不在那个小团体里。而获奖需有提名有投票，人缘也重要。不过没关系，有LSTM这样教科书级的贡献，他足以淡定。”

　　与大部分倾向于AI威胁论的学术权威与企业家不同，Juergen Schmidhuber是一个十足的技术乐观主义，他也深谙科技、商业化与人性之间的规律。他和他的学生Sepp Hochreiter、Felix Gers、Alex Graves、Daan Wierstra等人一起发表了长短期记忆（LSTM）的架构和训练算法，这种类型的RNN被广泛用于自然语言处理、语音识别、视频游戏、机器人和其他应用。而LSTM已成为20世纪被引用次数最多的神经网络，也被称作是“最具商业价值的人工智能成就”。

　　而更早在 1990年，Schmidhuber明确了 无监督生成对抗神经网络，这些神经网络在极小极大博弈中相互对抗 ，以实现人工好奇心。1991年，他又引入了 神经快速权重程序 ，形式上相当于现在所谓的具有线性化自我关注的转换器（Transformer）。 今天，这种转换器正在驱动着著名的ChatGPT。 2015年，他的团队推出了高速神经网络（Highway Neural Networks），比以前的网络深度多出很多倍。

　　在Schmidhuber的职业生涯中，因其开创性的工作获得了各种奖项和荣誉。2013年，他被授予“赫尔姆霍兹奖”，旨在表彰他在机器学习领域的重大贡献。2016年，他因“对深度学习和神经网络的开创性贡献”被授予IEEE神经网络先锋奖。同时需要注意的是，在Yoshua Bengio、Geoffrey Hinton 和 Yann LeCun还没有获得图灵奖之前，Juergen Schmidhuber就已经被称作是“现代人工智能之父”了。

　　他的声音经常站在“主流”的对立面，但经常是正确的。Schmidhuber在今年早些时候接受了福布斯中国的专访，而又在近期回答了福布斯撰稿人Hessie Jones关于人工智能担忧的一系列问题。我们将相关谈话内容整理如下：

　　福布斯中国：深度学习和神经网络等技术在ChatGPT出现后是否已经预示着发生了本质的变化？

　　Schmidhuber：实际上没有，因为ChatGPT本质上是一个学习神经网络，其基础是在上个千年奠定的，然而，由于不断的硬件加速，现在可以构建比以前更大的神经网络，并向它们输入整个互联网，从而学习预测部分文本（例如聊天）和图像。 ChatGPT的智能主要是这些规模巨大化的结果。

　　福布斯中国： 你去过中国，那么你认为中国的人工智能技术发展如何？中国应该如何赶上像美国这样的技术先进国家？

　　Schmidhuber：虽然深度学习的大部分基本算法是由欧洲人发明的，但美国的大型公司在商业化这些算法方面做得更好。我认为中国的公司并不落后。这些基本方法已经是公开开源的。你需要的是快速的计算机，大量的数据和工程人才。我多次访问中国，知道中国拥有这一切，并且已经是人工智能发表论文最多的国家。所以我对中国的人工智能非常乐观！

　　福布斯中国：目前，大部分的计算能力和数据都掌握在一些行业巨头手中。中小微企业和初创公司如何突破障碍？

　　Schmidhuber：40年前，我认识一个富人。他有一辆保时捷。但最令人惊奇的是：保时捷里有一部移动电话。因此，通过卫星，他可以呼叫其他拥有类似保时捷的人。

　　今天，每个人都拥有一部便宜的智能手机，它在许多方面比保时捷里的东西更好。而且，随着人工智能的发展，情况也将如此。请记住：每5年，人工智能的价格将便宜10倍。每个人都将拥有大量的便宜的人工智能为他们工作。（这是一个比摩尔定律更古老的规律，从齿轮的发现至今已经存在近千年了。）

　　实际上，我公司NNAISENSE的座右铭就是：“人工智能面向所有人”！我们的人工智能已经让人类的生命更长、更健康、更轻松、更幸福。人工智能不会被少数大公司控制。不，每个人都将拥有便宜但强大的人工智能，以多种方式改善他/她的生活。

　　福布斯中国：您认为人工智能和深度学习领域对于企业家和初创企业有哪些机遇？

　　Schmidhuber：我可以从我们自己创立的企业NNAISENSE的角度来谈。它的发音类似于“nascence”（英语中的“birth”），但拼写方式不同，因为它是基于通用神经网络人工智能而诞生。今天，大多数人工智能的利润都在虚拟世界中，用于营销和出售广告——这就是太平洋沿岸的大型平台公司的做法：阿里巴巴、亚马逊、Facebook、腾讯、谷歌、百度等等。但是，营销只占世界经济的一小部分。更大的部分也将被人工智能侵入，就像电影中一样。像我们这样的初创企业有很多机会。

　　福布斯中国：您认为人工智能取代人类工作的趋势如何，考虑到ChatGPT所带来的惊人体验？

　　Schmidhuber：有了ChatGPT，用户可以突然间像与一个非常博学的人交谈一样，该人似乎对所有主题和问题都有精心构思的答案。即使是像“用这个作家的风格写一篇关于这个方面的文章摘要”的复杂任务，也经常能够很快得到解决，以至于后来只需要进行少量编辑。许多办公桌任务将通过这样聪明的人工智能伙伴得到极大的便利。

　　今天哪种类型的人工智能表现得相当不错？答案是那些为桌面工作者服务的人工智能。例如回答法律考试问题、总结公司文件、击败您在虚拟世界中的对手（例如视频游戏）或者跟踪您在互联网上的行动并向您提供量身定制的广告。

　　为现实的物理世界构建人工智能要困难得多。虽然早就有超级棋手和模式识别器，但没有由人工智能驱动的机器人能像一些小男孩那样熟练地踢足球。相当多的桌面工作者比手艺人赚得更多，但现在事实证明：手艺人很难被人工智能取代。

　　Schmidhuber：这将是一场AI之间的军备竞赛，一些AI会为某些道德和道义标准、隐私和安全而战，而其他一些则不那么仁慈。

　　Schmidhuber：自15岁左右起，我的主要目标就是构建一个比我更聪明的自我改进的人工智能，然后退休。目前的发展符合我的预测。

　　请记住，自1941年以来，每5年，计算机的价格便宜了10倍。这种指数级趋势的朴素外推预测，21世纪将会看到廉价计算机，其原始计算能力将达到所有人类大脑的千倍之多。很快将会有数百万、数十亿、数万亿这样的设备。

　　以下为福布斯撰稿人Hessie Jones针对人工智能担忧的一系列问题和Schmidhuber的对话内容，为保证文本清晰连贯，以下经过编辑整理。

　　Jones：你已经签署了关于AI武器的警告信。但你没有在最近发表的《暂停人工智能大模型实验： 一封公开信》上签名，有什么原因吗?

　　Schmidhuber：我已经意识到，许多在公开场合对人工智能的危险提出警告的人只是在寻求宣传。我不认为最新的这封信会产生任何重大影响，因为许多人工智能研究人员、公司和政府将完全忽视它。

　　那封公开信里多次使用了“我们”这个词，指的是“我们所有人”，即人类。但正如我过去多次指出的那样，世界上并不存在每个人都能认同的“我们”。问10个不同的人，你会听到10种关于什么是“好”的不同意见。其中一些观点是完全不相容的。不要忘记许多人之间的巨大冲突。

　　信中还说，“如果这种暂停不能迅速到位，政府应该进行干预。”问题是，不同的政府对什么对自己好、什么对别人好也有不同的看法。大国A会说，如果我们不这样做，大国B就会做，也许是偷偷地做，以便获得对我们的优势。大国C和大国D也是如此。

　　Jones：每个人都承认这种对当前生成式人工智能技术的恐惧。此外，OpenAI首席执行官Sam Altman本人也公开承认了这项技术的存在性威胁，并呼吁对人工智能进行监管。从你的角度来看，AI是否对人类构成了存在性的威胁?

　　Schmidhuber：人工智能确实可以被武器化， 我也毫不怀疑会有各种各样的人工智能军备竞赛，但人工智能并没有引入一种新的存在性威胁。 来自人工智能武器的威胁似乎与来自核氢弹更古老的威胁相比相形见绌，不值一提。 我们应该更害怕 半个世纪前的氢弹火箭技术。  1961年的沙皇炸弹（20世纪60年代初冷战期间苏联研制的一型氢弹）的破坏力几乎是二战中所有武器总和的15倍。  尽管自20世纪80年代以来各国已经进行了戏剧性的核裁军， 但全世界仍然有足够的核弹头在两个小时内消灭人类文明，且不需要任何人工智能的帮助。我更担心的是古老的生存威胁，而不是相当无害的人工智能武器。

　　Jones：我意识到，虽然你把人工智能与核弹的威胁相提并论，但目前存在一种危险，即当前的技术可能被人类掌握，并使他们能够“最终”以一种非常精确的方式对群体中的个人造成进一步的伤害，比如有针对性的无人机攻击。正如一些人指出的那样，你给了人们一个他们以前从未有过的工具集，使坏人能够比以前做更多的坏事，因为他们原来没有这项技术。

　　Schmidhuber：原则上，这些听起来很可怕，但我们现有的法律足以应对这些由人工智能驱动的新型武器。如果你用枪杀了人，你会进监狱，用无人机杀人也一样。执法部门将更好地了解新的威胁和新的武器，并将用更好的技术来应对这些威胁。让无人机从远处瞄准目标，需要一些跟踪和一些智能来完成，这在传统上是由熟练的人力来完成的，但对我来说，这似乎只是传统武器的改进版本，比如现在的枪，你知道的，它也只是比老式的更聪明一点。

　　但原则上，所有这些都不是新的发展。几个世纪以来，我们已经研发出了更好的武器和更致命的毒药等等，执法部门也随着时间的推移不断发展他们的政策来应对这些威胁。所以，这并不是说我们突然有了一种新的、比我们六十年来所拥有的更令人担忧的生存威胁。大型核弹头不需要花哨的面部识别来杀死一个人。不，它可以只是简单地摧毁一座拥有一千万居民的城市。

　　Jones：隐含的生存威胁是人类对这项技术的控制程度。我们看到一些机会主义的早期案例，正如你所说，这些案例往往比积极的突破会得到更多的媒体关注。但你的意思是这一切都会平衡吗？

　　Schmidhuber：从历史上看，我们有一个悠久的传统，那就是技术的突破会导致武器的进步，既用于防御，也用于保护。从棍棒到石头，从斧头到火药，从大炮到火箭，再到现在的无人机，这对人类历史产生了巨大的影响，但纵观历史，那些使用技术来达到自己目的的人也要面对同样的技术，因为他们的对手也正在学习使用这种技术来对付他们。这种情况在几千年的人类历史上一直在重复，而且还会继续下去。我不认为新的人工智能军备竞赛会像老式的核弹头那样构成生死存亡的威胁。

　　你说了一些很重要的事情，有些人更喜欢谈论这项技术的缺点，而不是它的好处，但这是误导，因为95%的人工智能研究和开发都是为了让人们更快乐，促进人类的生活和健康。

　　Jones：让我们来谈谈人工智能研究中那些有益的、能够从根本上改变目前的方法，并取得突破的进展吧。

　　Schmidhuber：好的!例如，11年前，我们的团队和我的博士后Dan Ciresan是第一个通过深度学习赢得医学成像比赛的团队。我们分析了女性乳腺细胞，目的是分辨无害细胞与癌前阶段的细胞。通常，一个训练有素的肿瘤学家需要很长时间才能做出这些决定。我们的团队对癌症一无所知，但却能在大量此类数据上训练出一个人工神经网络，虽然这个网络在开始时是非常愚蠢的。它的表现优于所有其他方法。今天，它不仅用于乳腺癌，还用于放射学和检测动脉中的斑块以及许多其他方面。  我们在过去30年里开发的一些神经网络现在已经广泛应用于数千种医疗保健应用，可以检测糖尿病和新冠肺炎等疾病。这最终将渗透到所有医疗保健领域。这种类型的人工智能的良好结果比利用人工智能进行犯罪的吸引眼球的新方法重要得多。

　　Jones：应用是强化结果的产物。大规模的应用要么让我们相信人们被引入了歧途，要么相反，技术对人们的生活产生了积极的影响。

　　Schmidhuber：后者是更可能出现的情况。我们面临着巨大的商业压力，需要好的AI而不是坏的AI，因为公司想要卖给你东西，而你只会购买你认为对你有益的东西。所以在这种简单的商业压力下，你会对优秀的AI产生巨大的偏见，而不是糟糕的AI。然而，与改善人们生活的人工智能纪录片相比，施瓦辛格电影中的世界末日场景更能吸引人们的注意。

　　Jones：我认为人们会被好故事所吸引——那些包含对手和斗争的故事，但最终都有圆满的结局。这与你对人性的评价是一致的，以及历史尽管有暴力和毁灭人性的倾向，但在某种程度上倾向于自我纠正。

　　Schmidhuber：让我们以一种技术为例，你们都知道——生成式对抗网络（GAN, Generative Adversarial Networks），它今天很容易被用于假新闻和虚假信息相关的应用。实际上，GAN发明的目的与今天的用途相差甚远。

　　GANs这个名字是在2014年创建的，但我们在90年代初就已经有了基本的原则。30多年前，我称它为人造的好奇心（Artificial Curiosity）。这是一个非常简单的方法，它可以将创造力注入到小小的两个网络系统中。这种创造性的人工智能不只是试图奴颜婢膝地模仿人类，相反，它正在创造自己的目标。让我解释一下：

　　现在你有两个网络。一个网络正在产生输出，可能是任何东西，任何行动。然后，第二个网络正在观察这些行动，并试图预测这些行动的后果。一个动作可以移动一个机器人，然后再发生一些其他事情，而另一个网络只是试图预测会发生什么。

　　现在，我们可以通过减少第二个网络的预测误差来实现人工好奇心，同时，这也是第一个网络的奖励。第一个网络想使其奖励最大化，因此它将发明一些行动，这些行动将导致第二个网络吃惊的情况，也就是那些它还没有学会很好地预测的情况。

　　在输出假图片的情况下，第一个网络将试图生成质量足够好的图像来欺骗第二个网络，而后者将试图预测环境的反应：图像是真的还是假的？第二个系统试图拥有更强的预测能力而第一个网络将继续在生成图像方面改进，使得第二个网络无法判断其真伪。因此，它们两个系统互相争斗。第二个网络将继续减少它的预测误差，而第一个网络将试图使预测系统的误差最大化。

　　通过这种零和游戏（Zero-sum Game），第一个网络在产生这些令人信服的假输出方面变得越来越好，生成的图片看起来几乎是完全真实的。因此，一旦你有了梵高的一组有趣图像，你就可以利用他的风格生成新的图像，而梵高本人并没有创作过这些艺术品。

　　Jones：让我们来谈谈未来。你曾说过，“传统的人类不会对在宇宙中传播智能方面发挥重要作用”。

　　Schmidhuber：首先让我们从概念上区分两类人工智能。第一种类型的人工智能是由人类指导的工具。它们被训练来做特定的事情，如准确检测糖尿病或心脏病，并在其发生前预防疾病发作。在这些情况下，人工智能的目标是来自人类的。而更有趣的人工智能正在设定自己的目标。他们正在发明自己的实验并从中学习，他们的视野不断扩大，最终他们成为现实世界中越来越普遍的问题解决者。他们不受父母的控制，他们学到的大部分东西是通过自我发明的实验。

　　例如，一个机器人正在旋转一个玩具，当它这样做的时候，它可以通过摄像头传来的随时间推移而变化的视频，开始学习这个视频的变化，并学习如果以某种方式旋转玩具，它的三维性质将如何产生某些视觉变化。最终，它将学会重力如何工作，学会世界的物理学如何工作等等，就像一个小科学家一样！

　　而我几十年来一直预测，未来这种人工智能科学家的放大版将想要进一步扩大他们的视野，并最终去大多数物理资源所在的地方，以建立更大更多的人工智能。当然，几乎所有这些资源都在远离地球的太空中，那里对人类是不友好的，但对适当设计的人工智能控制的机器人和自我复制的机器人工厂是友好的。因此，在这里我们谈论的不再是我们微小的生物圈；相反，我们谈论的是大得多的宇宙其他部分。在几百亿年内，拥有好奇心的、会自我改进的人工智能将以一种对人类来说不可行的方式在可见的宇宙中开展“殖民”。听起来像科幻小说，但自20世纪70年代以来，我一直无法看到这种情景的合理替代方案，除非发生全球性的灾难，如全面的核战争，在它冲上云霄之前阻止这种技术发展。