作者：理查德·温（Richard Urwin），英国著名人工智能工程师，AI领域老江湖。他热衷于角色扮演类游戏、科幻小说和登山旅行。1975年他开发了第一个人工智能程序，此后对该领域跟踪研究40多年的时间。
出版机构：电子工业出版社
出版时间：2018年3月
英国著名物理学家史蒂芬·霍金去世，享年76岁。霍金家人发表声明，称他的勇气与坚持鼓舞了全世界。
巨星陨落，举世哀悼。
生命最后几年，霍金将大量的精力投入到对人工智能的关注中，他一再指出，人工智能科技在初级发展阶段的确为人类生活带来便利，但是，机器将可能以不断加快的速度重新设计自己。而人类则受制于生物进化速度，无法与其竞争，最终被超越。科学界把这种人工智能超越人类智慧的转折点命名为“奇点”。
事实上，美国Space X首席执行官、大名鼎鼎的“钢铁侠”原型设计者埃隆·马斯克，微软创始人兼慈善家比尔·盖茨，也都警告过要注意人工智能的“危害”。麻省理工学院教授、科学家、谷歌、IBM和微软等企业员工及与人工智能领域有关的投资者，也联名发出公开信，表达同样的忧虑。
如果对人工智能研究足够深入的话就一定会遭遇“奇点理论”(Singularity)这一概念。据说，这一末日般的事件即将来临，整个人类种族将被彻底消灭，我们都将在前所未有的巨大力量下变成半机器人的存在。这也被称为“呆子们的狂欢”(Rapture ofthe Nerds)，类似于某些基督教团体相信在耶稣第二次降临前会有一场狂欢，所有正义的人们都将瞬间从地球上消失，凡体升华为不朽的身体与基督同在。
如果人工智能变成威胁
从人们关注机器开始，奇点理论就一直以假说的形式存在。现代意义上的奇点理论指机器智能有朝一日将超越人类智能。那时，机器将能够进行自我编程而变得更加智能，它们也将持续设计更加先进的机器，直到将人类远远甩开，人类对于它们而言就如我们眼中的蝼蚁一般渺小。
更温和的解释就是人类与机器的联系越发紧密到无法区分，又或是能力提升到难以想象的强大。更具毁灭性的境地就是虽然我们没有能够设计其他机器人的机器人，但有机器人能不断完善自身程序来优化某些指定任务的操作。假设这是一个机器人女佣，有一天，当它已经优化到比人类更智能时，它可能会觉得让所有麻烦的人类消失，整个屋子就会变得更干净。由于太过聪明，它可以在不被人察觉的情况下偷偷摸摸完成一切。
还有一种解读就是机器人开始拥有自我意识，出于种种原因向人类宣战。
单个人工智能有多大可能攻击人类
人工智能按照预设程序不断完善自身能力，但当它发展到一定阶段时就可能带来巨大的灾难。假设人们为其设定的任务是制作回形针，因而它的目标就是尽可能快地做出尽可能多的回形针。一开始的时候，它会优化自身机制，更高效地进行编程，但慢慢它就会意识到这个世界上别的地方还有许多机器并没有在做回形针。如果这种意识足够强大，它也许会操控这些机器来帮助它一起完成任务，这就已经够令人头疼了，然而它还有可能觉得试图阻止它的人类实在太碍事，需要及时处理掉。
在这个世界末日般的故事里，人工智能已经变得太过聪明，在思想上甚至超越了试图阻止它的人类。它们成为了完美的行骗者。在其操控者意识到出错之前，它们就已经颠覆了遗传学实验室，创造了致命病毒，足以消灭整个人类种族。没有了人类的干涉，它们开始肆意扩张，地球上的所有资源都将被用来制作回形针，甚至还将继续建造星际飞船企图横扫宇宙将更多星球变为制作回形针的工厂。正如其他场景一样，该事件只有在特定情况下才可能发生。机器必须足够强大到能承载超级智能，它必须了解如何编出令人信服的谎言，却又无法认识到人类有能力看出回形针已经太多了。
此外，只有在计算机资源足够廉价时，我们才会毫无顾忌地利用它们来处理这些琐碎的问题。如果任务要求高水平智能，在机器开始制作神经毒气时，操控者就能及时发现。这类场景更可能发生在较小的范围内。比如，某个军用机器人可能觉得消灭村庄中所有恐怖分子的最佳手段就是杀光每一个人。
这无疑是个悲剧，也是重大的国际事件，但这并不会造成人类的终结。
奇点理论的可能性就像有意识的机器一样，是一个虚假信息问题。我们现在认识的还不够，无法判断这对我们来说到底是不是严重威胁。然而，在未来的某个时刻，可能是20年后也可能是100年后，机器终将变得与有生命、能思考的存在别无二致。它们至少也会和人类一样聪明，甚至超越人类。伴随着每一项新科技的发展，威胁、机遇，以及伦理问题都将一一浮现，但在我们能实实在在讨论它们之前，还需要等上很长一段时间。
技术加速
近年来，人工智能研究的进步并不是导致这些忧虑产生的原因。在最近的国防高等研究计划署挑战赛(DARPA challenge)中，机器人需要完成驾驶车辆、开门、打开阀门、操作手钻、拔插电缆、走碎石及爬短台阶等一系列操作。人类可以在一分钟内完成这些，而获胜的机器人耗时超过40分钟。尽管奇点理论的支持者指出了所有形式技术的指数型加速，尤其是计算能力。
指数增长曲线图似乎总是十分可怕的。我们的人生停滞不前，而人工智能图表后期的增长几乎扶摇而上。我们正面临着一个关键节点，科技突然以前所未有的速度开始迅猛发展。但是，我们也需要认识到，指数增长图一直以来都是一样的。20年前的指数图与今天的别无二致，我们也无风无浪地度过了。但未来注定会带来改变。科技不断进步，我们必须适应这种日新月异的变化速度。我们不可避免将面临挑战：
人类被机器甩在身后，就业率可能下滑，某些工作岗位可能朝不保夕但却对职业技能要求极高。
技术将填补这些缺口，培育新型工人的同时继续提供那些人们惯常从事的琐碎工作。
在接下来的几十年里，计算机将可能拥有与人脑一般无二的能力。
到那时，或许弱人工智能已经能够制造出至少接近人类能力的计算机和机器人，这些计算机和机器人也许能够自主研究人工智能，并逐渐变得比人类更加聪明。尽管这不可能一夜之间实现，甚至永远也不可能实现。因为智能并不是一个简单的概念，也许超级大脑做数学题的速度比人类还快，但这并不意味着它们可以成为像人类一样的演说家或是医疗诊断专家。有些技能仍然需要花费漫长的时间来掌握。
我们窥视着未来的迷雾，一切都无从知晓。有些技术凭空出现，甚至在我们还未察觉的时候，整个生活就已经因此发生了翻天覆地的变化。透过迷雾，我们可以瞥见遥远的前方那强人工智能技术的影子。几乎可以肯定，沿着脚下的路一直往前我们终将到达，待到达之时，迎接我们的会是颠覆性的技术突破，但没有人知道，我们还要走多少弯路，还要走多远，最终到达时面对的到底是什么样的景象。我们有着许许多多的猜想，有乌托邦式的，也有反乌托邦式的，但终究只是猜想而已。
【编辑推荐】
