聆听深度学习：挖掘智能未来

取《深度学习》这个名字的书太多了，并且很多是技术书籍。因此，该书的命名似乎有些不合适。我对如何编写一本关于深度学习的科普书非常感兴趣，所以决定来听一听。解读者指出，如果将深度学习的内容分为过去、当下和未来这三个部分，当下部分已经非常熟悉，比如AlphaGo、人脸识别和无人驾驶等技术都非常火热，所以不再介绍当下部分。解读者将这本书的内容拆分为过去和未来两个部分，重点介绍过去和未来的内容。第一部分是过去。深度学习技术伴随着人工智能历史上的三次危机。人工智能的诞生普遍认为是在1956年，当时人们第一次讨论起“人工智能”这个概念。在那个年代，人工智能主要有两个不同的技术流派，即“设计派”和“学习派”。当时的我以为这种流派是“符号派”和“链接派”，但现在想来，“设计派”和“学习派”更像是抽象层面的道路之争，而“符号派”和“链接派”可以说是学习派的两个子流派。设计派认为任何计算机系统都是自上而下设计出来的，即我让计算机实现什么样的功能，就设计出什么样的功能。人工智能这个计算机系统也不例外。但很快人们发现，使用计算机完成复杂计算，甚至完成数学定理的证明，是可以自上而下设计出来的。然而，人工智能系统要想自上而下设计出来却非常困难。那时，人们设想了一个简单的任务，即使用几个机器人的机械手臂搭积木，原本以为很容易实现。但事实上，却遇到了超乎想象的挑战。值得一提的是，这个任务是在1960年代设计的，直到2016年才被解决，这充分证明了这个问题有多么困难。这就是第一次人工智能危机。从那时开始，设计派陷入了沉默，学习派开始崭露头角。1970年代，感知机问世并成功解决了美国国防部的一个“坦克图像识别”问题，当时引起了巨大的轰动效应。人们发现，感知机是一种非常好的学习派结构。第一次人工智能危机因此被克服了。第二次人工智能危机发生在1970年代的一篇论文中。该论文中提到了感知机以及如何将多个感知机连接起来，以解决更复杂的问题。然而，作者认为这种感知机是无法学习出来的，所以这只是一个美好的梦想。作者实际上认为有一个完美的结构，但是却没有算法可以学习这个结构。几十年后，这位论文的作者被本书作者讽刺为“70年代人工智能的衰落负责人”。直到1985年左右，误差反向传播算法的发明才最终解决了这个问题，第二次人工智能危机也被克服了。第三次人工智能危机是指现在，人们既有了结构，又有了训练这个结构的算法。看起来，人工智能的曙光就在眼前了。然而，人们很快发现，当时的算力只能支持大约20个神经元节点的训练，而人类的神经元数量可达到数百亿级别。这使得这种模型和算法的应用场景受到了严重限制。这就是第三次人工智能危机，即缺乏足够的算力。直到2003年，在摩尔定律的推动下，杰弗里·欣顿等人终于等到了算力帮助深度学习突破的那一天。自此，深度学习的三个要素，即结构、算法和算力齐备，终于迎来了爆发时刻。第二部分是未来。作者在这里提到了深度学习在未来可能面临的挑战。首先，未来人工智能可能不再受到数学或计算领域的挑战，而是来自人类自身。因为人类已经无法理解深度学习的判断。例如，当AlphaGo下出那著名的“神之一手”时，突破了人类对围棋任何定式的理解。但人类至少可以通过事后的分析来学习。然而，在很多深度学习场景下，人类连这种分析的机会都没有。那些人类无法理解的算法如何更好地为人类服务，这是一个挑战。其次，人类对自身大脑的了解仍然非常有限。如果我们认为未来的人工智能“获得智能”的方式与人类类似，那么我们对人类大脑的了解可能成为制约未来人工智能发展的重要瓶颈。毕竟，如果我们都无法理解自己的智能是如何产生的，又如何教会机器具备人类的智能呢？当然，这里的基本假设也可能被质疑，正如欣顿所说，机器智能“获得智能”的方式可能与人类根本不同。机器对智能的理解和表现形式与人类完全不同。因此，这个约束条件可能是一个伪命题。最后，摩尔定律正在失效，它可能接近芯片领域的物理极限。当摩尔定律失效时，人类算力的快速增长可能会遇到瓶颈，从而成为制约人工智能和深度学习发展的一个因素。