人工智能并不是一个新概念，如果把古代的一些精巧的装置也算上的话，人工智能已经存在很长时间了。第一个现代意义的人工智能研讨会始于1956年的美国。很多现在仍然让人惊奇的技术，很早就已经开始，比如下棋，符号运算，定理证明，自然语言识别等。六十多年来，现代人工智能研究经过了一些起伏。但每过一段时间，就会出现一些成果，引起人们的热议，憧憬和担忧。

　　上世纪80年代，出现了各种各样的专家系统。90年代，人工智能下国际象棋战胜了最强的人类选手。还有后来的人机百科知识竞赛，围棋大战，自动驾驶，图像识别，语音识别，机器翻译，等等，都给社会带来了强力冲击。

　　2011年，在美国电视百科知识抢答竞赛Jeopardy中，IBM公司的计算机Watson，大胜人类冠军

　　早期人工智能依赖计算机的快速计算能力，也就是暴力计算。传统的智力问题，如百鸡百钱，鸡兔同笼，完全数，水仙花数，回文数，等等，可以简单穷举计算。基本的数学问题，比如四色问题，可以算尽所有可能。国际象棋也可以简单地凭借暴力计算胜过人类。

　　复杂一些的问题，比如围棋，简单的暴力计算不可行。通过神经网络，深度学习等算法的改进，加上剪枝等一些操作之后，同样可以进行暴力计算。人工智能对问题理解的深度和广度都可以远远超过人类。

　　2016年，谷歌公司的围棋软件围棋王（AlphaGo），以4:1胜韩国棋手，世界冠军李世石

　　我们一直相信自己比机器聪明。但是，在下棋，数学推导，创作，设计，百科知识抢答竞赛，等这些典型的智力领域，我们已经被人工智能接近，赶上，或者超过。我们的自信受到了巨大的冲击。事实上，到今天为止，在几乎所有人工智能深度介入的领域，人都已经不是人工智能的对手。

　　举些例子：任何两个人交谈，人工智能对对话的理解，比另外一个人更准确；任意一张照片，人工智能能够比人更准确地分辨上面有什么东西；人工智能的医生误诊率比人更低，对诊断数据的解读更准确。人工智能的教师，知识面更广，态度更好，更有耐心，对学生更专注，更了解，讲授更有针对性；人工智能法官，更公正，对法律条文、法庭判例的理解更准确或者更广泛；人工智能服务员，态度更好，更耐心，能记住更多顾客的需求，做事更有条理，效率更高；人工智能警察，态度和耐心更好，能够提供更多的帮助，不被收买；人工智能的作家，知识面更广，创造力更强，更不知疲倦，作品更少错误，更少矛盾；人工智能的设计师，更能满足用户的需求，提供效果图的速度更快，修改更快，设计错误更少。

　　图像识别网站ImageNet上软件图像识别错误率的变化，2015年，已经超过人类的识别水平

　　目前人工智能的突破，对人的超越，还只是体现在部分领域。不久的将来，人工智能完全可以在所有的领域超越人类，甚至包括道德和价值观。道德和价值观，目前还是一个人工智能没有介入的领域。在这个领域，人类自己也争吵不休，难以形成共识。

　　虽然从事上述专业工工作的人的数量会大量下降，但是多数行业方向，专业职位仍然需要，并且要求更高。这些人需要监控和维护人工智能系统的运行，为人工智能纠错，虽然他们提出的质疑可能多数都是错的。可能也会需要很多人，辅助人工智能，把事情做得更好。

　　机器人售货员

　　从不同的角度看，人工智能也可能给我们带来问题。以自动驾驶为例，虽然还没有大量推广，但最好的人工智能自动驾驶，在安全度，平稳度，特别是遵守规则上，已经超过了大多数人类司机。可以长时间在高速公路上安全快速驾驶，可以自己寻找停车位，平稳停车。自动驾驶的出现，给普通消费者带来了福音。老人，小孩，没有驾驶能力的人，可以自己坐车了，司机也得到了解放，不需要专注地应对公路上的复杂情况。交通秩序大幅变好，交通事故大幅减少（现在全世界，每年有超过100万人因为交通事故丧生），交通能耗大幅下降，交通拥堵也大幅减少，甚至红绿灯都可以取消。一些艰苦的司乘职位，如长途大巴，大型货车，可以没有司机，改善安全性，提高系统运行效率。但是，大量的司机会因此失业，带来一些社会问题。考虑安全性，人类司机将被禁止开车，只能在一些特定的主题公园手动驾驶汽车。由于交通的关联性和安全性，在整个系统逐步完善的过程中，可能会出现一些未知的风险。比如高速公路交通瘫痪，会不会因为禁止乘客下车而引起不必要的焦虑（也许可以通过加强与乘客沟通解决）？一次事故，或者一台车辆故障，会不会引起大范围的交通问题？难以预计的问题还包括，以前大城市卫星城的设计，安排在离主城区一百公里左右的位置，是为了避免卫星城和主城区的大量通勤。如果交通问题大幅改善，一百公里的通勤可以接受，主城区的功能疏解就会失败，带来新的交通问题。

　　另以教育为例，未来的人工智能教育系统，结合虚拟现实、增强现实，等沉浸式情景式教育方式，可以让人很快轻松愉快地学会一套专业技能，一门外语，或者某种抽象理论。学习不再枯燥乏味，不再有难度。学习过程中，教育系统一直在评估学生的掌握和理解情况，考试变得没有必要。或者发现学生学习该专门知识时有障碍，建议学生放弃，或者先学习一些相关知识。人工智能教育系统，不但能讲授专门知识，还能传播价值观，培养人格，培养耐心，激发创造力，等等。但是，一些有潜在危害的专业技能，如格斗，欺骗，化学毒品，生物毒性，如果不加限制，可能造成重大危害。反社会人士，恐怖组织，掌握这些专业技能的门槛大幅下降。这一技术，还可以用来洗脑，传播极端思想。另外一个问题是，专业知识的特殊性下降，也就是知识贬值。

　　再比如个人助手。很快，个人助手会变得无所不知，无所不能。它对你比你自己更了解。知道你喜欢吃什么，喜欢穿什么，喜欢干什么。它有能力把你惯坏，也能把你培养成一个礼貌向上，有知识，有担当的人。但是我们会不会过度依赖个人助手？我们会不会失去自信？依赖是肯定的，但各种心理缺陷，个人助手会避免它出现，或者扼杀在萌芽阶段。我们会不会感到失去了自由？失去了选择的权力？你的确失去了，但你不会感觉到。你会很满足，很幸福。

　　对人工智能的最大担心之一，是随之而来的大量失业。但这不一定会成为一个严重的问题。工业革命以来，技术进步带来的原有工作岗位消失，发生过很多次，但总体就业人数依然大幅上升。最早的大规模失业潮，发生在农业领域。但大部分农民并没有感到失落，而是渴望脱离农村，进入城市，从事现在看来不怎么健康和自由的产业工人工作。同样，像开车，当教师，做医生，对很多人来说也是枯燥乏味的工作。如果有更有意思的工作，并且收入不会下降，我相信对大多数人来说无所谓。另外，人工智能的出现，导致人类整体生产率提高，大量的艰苦工作留给了人工智能，人类更轻松，能够获得的物质和时间都更多更充裕，整体上当然应该更幸福，没有理由过得更悲惨。我们不需要做一些工作，但是这些工作有机器在做，而且做得更好。

　　由于人工智能和机器人的各种能力全面超越人类不可避免，也引起了很多人的担忧，例如比尔盖茨，霍金，马一龙等。他们认为人工智能超越人类很危险，人类有灭种之虞。这种担忧一直就有，并且很普遍，在影视作品中也可以常常看到。在人工智能还没有发展到今天这个程度的时候，像《终结者》、《黑客帝国》等电影就描绘了一个恐怖的或者灰暗的未来。人类被奴役，被赶尽杀绝，或者被当作宠物豢养起来。影视作品是为了追求惊人的效果，但实际上，这种场景不可能发生。

　　霍金认为人工智能很危险

　　因为，第一，人工智能和人类是一种共生关系，人类离不开人工智能，人工智能也离不开人类。即使人工智能完全自主判断，也会维持人类社会健康发展。第二，人工智能是人类创造的，相当于我们的孩子，是人类智慧的传承。虽然可能出现不孝子，但下一代整体，仍然会尊重和爱护上一代。第三，人工智能可以辅助我们做出决定，但是最后的决定一定是由人类做出的。人工智能只是给我们提供所有的相关信息，协助决策。这在技术和操作上都是可以保证的。第四，虽然我们现在还没有进入这一领域，但是人工智能也需要有价值观，需要有道德。整个系统的平稳和健康发展，人类的幸福，可以定义为人工智能的第一准则（阿西莫夫的机器人三原则是原始和不可行的）。

　　到目前为止，人工智能在很多专门能力上已经超过了人类，但是还没有我们通常意义上的自我意识。我们担心它出现自我意识，自我觉醒。从而不受人类约束，做出对人类不利的决定，并执行。其实，自我意识并不是一件特别神秘的东西。人有，其它高等生命有，低等一些的生命也有。一个团体，一个社会，一个国家也有自我意识，通过个体和共同的行为准则体现。这种不由个人决定的自我意识已经存在，并且在起作用。这种意识，也就是一种集体信仰，集体价值观，会平滑地转移到人工智能上，继续更有效地起作用。它从我们的信仰传承而来，不是不可预知的。
那么，人工智能全面超越人类之后的世界，会是个什么样子？我们完全可以相信，这样的世界会更美好，人类生活更轻松，更幸福，更健康，更自由，受教育程度更高，寿命更长，生活质量更高，满意度更高。社会更公平，更安全，生产效率更高，更环保，发展更可持续。人工智能不会奴役人类，而是和人类结为一体，共同成为人类下一层文明的一部分。

　　但是发展是一个过程。在这个过程中，总会出现一些问题，会有一些混乱和不安，也许还会相当严重。但是问题终将解决，未来会更美好。

　　也许，像在《黑客帝国》中那样，人类的感觉、知觉、新陈代谢，都被一个系统接管。但这并不一定是一件坏事。首先，这是你自己的选择，系统不会强迫你接受。但你自己会发现，这样其实更好，因为你会觉得更自由，感受更强烈，可以体会和经历更多的事情，各种梦想都能实现。甚至因为你身体不受风霜雨雪侵蚀，阳光辐射侵害，老化磨损减慢，病变减少，你的寿命可以更长，活到几百岁不是梦。你也可以选择，每过一段时间就让系统提醒你现在的生活状态，你可以随时选择回到自然状态，但很可能你已经不再愿意做回一个自然状态的人。

　　电影《黑客帝国》（The Matrix）中，每个人实际上由生命维持系统维持生存，经历和感觉的现实生活都是虚拟的

　　如果人工智能真的发展成一个庞大的决策管理系统，它也必然是多中心，多制衡，公开，透明，的一套系统，是现有政治体系的延续和改进，但更有效，更公平。最后的决定，形式上仍将由人做出。它更像一个万能的仁慈的神，负责把每一个人培养成圣人，还让每个人很快乐，很有成就。

　　是人点化人工智能，还是人工智能点化人？