发布时间：2023-09-12 17:09:33
序言：写作是分享个人见解和探索未知领域的桥梁，我们为您精选了8篇的人工智能的伦理思考样本，期待这些样本能够为您提供丰富的参考和启发，请尽情阅读。
人机大战落幕，阿尔法狗（AlphaGo） 4：1取胜李世石。这是前段时间颇受关注的一则新闻，也由此引发了人们对人工智能的广泛讨论。
“人工智能是一项技术，作为技术它是中性的，并没有伦理和价值观的判断。它的好和坏，是我们从社会学和伦理学的角度来判断的。单纯从技术上来说，我们关注它的科学价值与效率。” 工信部副部长怀进鹏在接受《财经国家周刊》记者专访时如是说。
人工智能进化的速度实在是太快。“人类脑细胞总量这三五千年没有多大发展，但单个芯片集成电路的集成度到2018年将超越脑细胞数量。”怀进鹏说，随着经济的发展，社会劳动力成本的提高和对精密高端加工产业的需求，开始出现从过去简单的自动化进入现在的数字化和智能化。
在他看来，制造业创新变局就在未来3～5年。
那么，下一个五年信息技术重塑整个生产生活格局，世界会变成什么样？中国将会在哪里？
2015年，“互联网+”行动指导意见出台，人工智能被摆到了一个重要位置，而《中国制造2025》的核心，正是加快新一代信息技术与制造业深度融合，推进智能制造。
“目前一些互联网公司，都形成了自己在人工智能方面的研究力量，大数据分析能力获得了巨大的提升。”怀进鹏说，人工智能正处于一个全面融合与加速发展的时期，并且在行业运用当中有很多的机会，在这个方面中国的机遇和前途非常大。
威胁还是契机？
《财经国家周刊》：前段时间的人机围棋大战，阿尔法狗的表现也让世人大开眼界，人工智能时代是不是真的狼来了？
怀进鹏：人工智能正一步一步走向现实，未来不仅可以跟人下棋，甚至可以跟人打球、陪人聊天等，这就是信息技术带来的变化。
自上个世纪50年代开始，人工智能就一直很受重视。当时的学术界都比较关注机器是否能像人一样有智能。最早的一个判断方式叫图灵测试，简单地说就是一台机器与人在拉上帘子或背靠背的情形下进行交流，如果无法分辨出机器人身份的话，就认为这个机器具有智能。
为达到这样一个目标，学术界一直在努力。现在进入了互联网时代，一些重要的差别凸显出来，一是理论模型与算法在不断地创新、完善，二是数据的规模从量变到质变，可以通过对大数据的获取、分析、处理来更有效地寻找出一些规律。
从深蓝下象棋，到阿尔法狗下围棋，数据的规模也发生了巨大变化，从简单的小样本发展到大规模的量。阿尔法狗可以把过去围棋所有的规则复盘，计算走过的路径与优化等，且现在机器速度又足够快，它可以算得又快又好。对博弈过程中的每一手棋，它都能通过数据的处理和存储以及模型的建立选择，决定下一步怎么去做。
一些优秀的棋者，他在脑袋里也会复盘，记着很多残局，也有很多应对的技巧。但是机器能存储海量的数据，它不光学一个人，可以把这个领域所有人的数据都装进去，选择最佳策略。
这次围棋大战，与其说是人工智能与人的大战，我觉得更多的是阿尔法狗在数据处理、机器的海量运行、记忆的存储、复杂设计的有效性等方面，都取得了很大的成就，但关键的是，所有这些都是人的设计与智慧的结果。
因此，在固定的领域计算机在与人比赛时，通过大数据的分析和规则的有效利用，成功的概率比较大。
《财经国家周刊》：有人开玩笑说，如果阿尔法狗主动输给人，就更可怕了，很多人担心人工智能拥有和人一样的神经感知，担心人工智能将来不久会超过人类，人类是否就面临着末日，你怎么看人工智能？人工智能究竟是威胁还是契机？
怀进鹏：人工智能是一项技术，作为技术它是中性的，并没有伦理和价值观的判断。它的好和坏，是我们从社会学和伦理学的角度来判断的。单纯从技术上来说，我们关注它的科学价值与效率。当它能被有效地利用时，就可以为社会做贡献。如果它被无效或者恶意地利用，就会带来问题。
阿尔法狗主动地、有意识地输给人类，这种可能性也是有的，前提是给它设定了这样的程序，且是由人来设定的。或者是人在设计时，出现了一点失误。机器自己是不会做到这一点。
另外，机器的一些行为也可能被远程控制或干扰。比如行驶在路上的无人驾驶汽车，因为它要接受很多来自手机和后台云计算的数据，也可能会遇到黑客的攻击。如果后台突然被控制，汽车都停下来是一种可能，汽车无理性地横冲直撞也是一种可能。机器没有好和坏之分，它只有执行。现在机器能做的，还是基于人设定的这些规则。
机器通过数据的分析，具有一定的学习能力，如果设定机器程序的学习能力去恶意模仿那些不好的行为，就容易带来危险，所以人在设定程序时，应该尽量给机器的学习能力注入正能量。
技术发展到一定程度还是取决于如何被应用。社会也应该有一系列的法律规则来约束机器背后的人，约束设计者应该遵循社会的道德规范，考虑人类的心理承受能力。一个中性的科技在实际中的应用，应该有伦理价值和社会价值的规范。
同时，我们也要储备超级技术，能够控制和恢复机器的状态，能控制机器新的演变，不然我们确实会遇到危险。
“也要渐进式创新”
《财经国家周刊》：我国人工智能现在处于什么样的发展阶段？
怀进鹏：2015年，国家印发了“互联网+”行动的指导意见，已经把人工智能放到了一个很重要的位置。同时，我们也了实施制造强国战略的第一个十年行动纲领――《中国制造2025》，其核心正是加快新一代信息技术与制造业深度融合，推进智能制造。
随着经济的发展，社会劳动力成本的提高和对精密高端加工产业的需求，开始出现从过去简单的自动化进入现在的数字化和智能化。
基础理论的研究需要长期进行下去。人工智能的基本原理，通过数学、计算机科学、社会学和心理学的融合、交叉创造新的内容。人们利用数据的能力是一直客观存在的，但是社会生活、社会行为等大量人造数据的出现，使得我们的基础研究有了很大变化和新的机会。
在制造业，定制化、个性化的生产，正在对企业生产、服务和经营模式带来很大的变化。现在服装、家具已经做到了定制化服务，工业产品正在走向定制。工业化加上信息化带来的智能化，其最终目的，应该是实现生产活动高度整合，使得工业系统能够像人一样思考和协同工作，特别是满足用户定制化需求的生产技术，将传统的刚性生产模式转变为柔性生产模式。企业则要关注上下游产业链、生态链，关注从设计生产到服务维护的产品全生命周期。
未来，高端服务机器人也将是很大的亮点。健康机器人、服务机器人将会有利于产业的发展。当前，中国的工业机器人发展速度稍微过快，重复发展较多，差异也比较大。与发达国家相比，还存在很大差距，主要是产业链关键环节缺失，核心技术创新能力还比较薄弱，高端品质可靠性低。其实在机器人发展中，还需要关注和发展一些高端的内容，我们国家也正在对此进行布局，推动高端智能机器人的发展，以期解决机器人发展的瓶颈问题。
《财经国家周刊》：未来3-5年，制造业创新将面临重大变局，到时候世界会变成什么样？中国将会在哪里？
怀进鹏：未来三五年，从产业来说，竞争将会在更多的领域展开。无人驾驶汽车、智能汽车以及通讯业等都将发生变化，5G将要在2020年成为现实，并实现规模商用。芯片的集成度如果按当前方式发展达到人的神经源的集成度的话，在2018-2019年，计算能力和处理能力会有巨大的变化。同时各种传输、获取技术快速发展，可以在2公里以外用传感器感受你数据的存在，人的感知处理的能力也会大大加强。互联网、移动互联网、工业互联网或者物联网都将统筹起来。
技术的变化，使得制造业的组织模式、商业模式都会产生一些新的业态。有的新业态未必能成功地大规模运营，但它的影响也是潜移默化的，是渐进式的。新的融合力量会创造出什么样的空间？技术上的创新，也是想象力与现实的比拼。
作为科学家来说，探索未知要超越人的想象，超越人的思考。目前一些互联网公司，都形成了自己在人工智能方面的研究力量，大数据分析能力获得了巨大的提升。但尚没有形成世界范围内共识的理论基础和垄断的产业局面，中国的机遇和前途非常大，同时中国在这方面的部署和在产业初步应用方面，已经取得了实实在在的效果。
《财经国家周刊》：在当前技术大变革时期，企业如何获得核心竞争力？
怀进鹏：企业最知道它需要什么，市场上的竞争靠什么。现在正处于科技创新和产业结构调整的剧烈变革时期，我的建议是在技术转折和发展当中要敢于创新，但是创新必然面临着风险。不光要聚焦颠覆性的创新，还要渐进式融合创新。许多产业正在通过迭代优化、集成交叉创新实现了产业壮大和质量提升。我并不认为阿尔法狗是颠覆性的创新，我们不能设想创新是一天完成的，创新是需要很多积累。持续创新并包容创新，对于创新能力的建设是最重要的。
另外，作为传统企业，可能也会面临科技的快速变更和产业变更。比如纯制造业看上去都是被一百五十年前牛顿力学原理设定好了，但实际上随着制造业和信息产业的深度融合，已经在发生事实性的变化。我们要更多地去看现实，也要看到下一步发展可能的转折点。在竞争中生存下来，很大程度看你在发展的转折点中，准备了什么，思考了什么。
关键词：人工智能；教育变革；智慧教育
近年来大数据、云计算等信息技术飞速发展，人工智能在一些特殊领域（如图像识别、语音识别、自然语言等）不断取得突破性进展。人工智能作为新的技术驱动力正引发第四次工业革命，为医疗、教育、能源、环境等关键领域带来新的发展机遇。人工智能专家预测，人工智能在通用技术领域可能尚不能替代人类，但在一些特殊领域，人工智能将会淘汰现有的劳动力。在国外，许多国家纷纷把人工智能作为国家发展的重要竞争战略，我国学者也密切关注着人工智能的最新理论进展和实践应用，国务院于2017年7月颁布《新一代人工智能发展规划》，明确人工智能发展的重点策略。“人工智能变革教育”的潮流，引发了教育研究领域的“人工智能热”。当前全球范围内，人工智能在教育领域的大量研究和应用催发形成了教育人工智能概念。目前梳理学术上关于研究人工智能与教育的文献主要集中于：
（一）教育理念的革新。“人机一体”将成为未来新的教育方式[1]，由新技术和新手段的出现所应运而生的智慧教育[2]，将对原有教育进行改进和完善。智能技术在改变教育的手段和环境的同时，还有利于构建出系统解决教育问题的教育新体系，从而真正触及教育的根本[3]。
（二）关注技术的革新。机器深度学习、智能学习的算法、视觉识别以及智能语言识别这些基础技术的突破，为人工智能的教育应用奠定了坚实的基础[4]。
（三）探究教育的应用。人工智能在学校教育中的学业测评、交叉学科、角色变化等应用领域具有巨大潜力，教师角色内涵也将在与人工智能的协同共存中发生改变。AI监课系统能够数据化、可视化评估教师的授课情况，将人工智能技术的运用渗透到整个教学过程中，教师可以根据评分实时调整授课内容，以促进个性化学习，从而提升教学效果。教育深受技术发展的影响，新技术融入教育并促进教育方式的转变已成为必然趋势。一方面技术为教育提供了新的、更加广阔的可能性；另一方面技术具有变革人类的教育方式与学习方式的能力。然而，技术是一把“双刃剑”，如何获取或实现以人工智能为代表的新兴信息技术所拥有的特征、优势与功能，使其在教育中最大限度地发挥其应有的价值呢？人工智能技术如何继续被安全使用到教育领域？如何通过教育变革来促进新兴信息技术在教育教学中的广泛与深入应用，实现教育深层次革命等问题，是目前需要关注和探讨的主要问题。
1人工智能时代下教育变革的背景
1.1人工智能的内涵及具备的强大能力
人工智能最早由美国达特茅斯学院于1956年提出，其研究主要包括机器人、图像识别、自然语言处理、语音识别等，实质是一种自动感知、学习思考并做出判断的程序。人工智能具有自主学习、推断与革新的能力，推动了图像识别、自然语言处理等方面的技术突破。人工智能同时具有理性判断力、超强的工作力，只要电力供应不断，几乎可以无限制地工作下去，而且适应不需要情感投入的工作。它的超强能力，源于三个重要的技术：深度学习、大数据和强算力。
1.2人工智能时代的机遇和挑战
人工智能在精力、记忆力、计算力、感知力以及进化力等方面与人类相比，具有突出优势。在医药领域，人工智能的出现使普通民众可以享受更为高效、稀缺的医疗资源，解决医疗诊断领域诊断质量不均衡、医生资源不足等问题。在教育领域，人工智能促进教学质量进一步提升、教师角色多样化、学生学习能力的提升；为教育研究提供新技术和数据支撑；极大拓展了教育研究新视域；使教育在立德树人方面、教育方法创新方面、教育手段和环境方面以及教育服务供给方式方面均发生改变。然而，看到人工智能以其强大的处理能力带来机遇的同时，也需要正视人工智能带来的新挑战。在人工智能浪潮冲击下，如何借助人工智能发展的机遇推进教育的变革与创新？人工智能技术如何继续被安全使用？首先，人工智能专家大都认为，人工智能将会淘汰大量现有的依靠非脑力劳动为生的劳动力，需要培养人工智能时代的新型劳动力。而且，人工智能技术本身的不太成熟使很多人工智能技术只是应用在儿童教育领域，再者，人工智能潜在的道德伦理问题缺乏法律制度规范。除此之外，人工智能时代将对社会结构以及人的地位构成挑战。综上所述，人工智能时代所带来的机遇是大于挑战的。教育需适应人工智能技术所带来的突破和飞跃，不断调整和更新教育的方向和目标，实现育人成人的发展目标。
2人工智能与教育变革
2.1人工智能与教育目的的变革
人工智能带来的巨变不仅影响人类未来如何发展，而且极大释放了人类的生产力，这些在一定程度上使得人类需要重新思考教育是何目的。人工智能影响教育目的的变革主要表现在：第一，人工智能可能会使人类陷入精神危机。这源于两方面的结果：一方面，人工智能将取代大部分人的工作岗位，工作的丧失将会导致人的价值和尊严丧失。另一方面，人工智能技术的发展将可能导致所有基于自由主义的想法破产，转而人类所拥有的价值和尊严可能转化为一种“算法”，人工智能带来的职业替代风险在教育领域同样存在，主要是对教师角色的挑战。第二，人工智能有利于培养人的学习能力。从某种角度上讲，人工智能剥夺人的就业机会，但同时，人工智能助教机器人将协助教师实现个性化指导，从而有利于将学习的过程视为寻求自我价值和意义的过程。除此之外，人工智能有利于使教育注重培养人的精神能力，这种精神能力大致包括实践动手能力、价值追求能力以及创造能力，从而有利于学生知识以便于更好地完善自我、丰富自我，使教育跳脱“知识为本”的陷阱，发挥“立德树人”的正向作用。
2.2人工智能与学习方式的变革
第一，深度学习。深度学习也称为深度结构学习或者深度机器学习，是一类算法的集合。深度学习概念的提出，一方面尊重了教学规律，另一方面也是应对人工智能时代下的挑战。深度学习在机器学习、专家系统、信息处理等领域取得了显著成就，提倡学教并重、认知重构、反思教学过程，进而达到解决问题的目的。第二，个性化学习。个性化学习区别以往传统班级课堂授课，尊重学生的个性发展，因材施教。人工智能技术与大数据的应用有利于学生享受个性化的学习服务，可提供个性化的学习内容，可视化分析学生的学习数据，快速提高学生的学习效率。第三，自适应学习。自适应学习是指人工智能基于对个体学习进行快速反馈的基础上，根据学习者特征，为其推荐个性化的学习资源和学习路径，从而最大程度上适应学生的学习状态，是实现个性化学习的重要手段。人工智能技术有利于快捷、科学地判断学生的学习状态，进行学习反馈；持续收集学生的学习数据，其中包括学习目标、学习内容；高效地为学生提供海量的学习资源。
2.3人工智能与学习环境的变革
首先，有利于搭建灵活创新的学校环境。不仅可以使空间规划更具弹性，而且可以调节性增强物理环境。其次，人工智能时代的教育区别于以往传统教育强调的统一秩序，更注重个体的用户体验。创客空间、创新实验室等学习环境的不断增加以及人工智能技术的不断发展，个性化的空间环境与学习支持将改变目前学习的学习空间环境。除此之外，随着对话交互技术的逐渐成熟与不断普及，有利于实现虚实结合的立体化实时交互。VR、AR等技术的同步协作也有利于搭建新的学习环境，满足学习者的一系列要求。脑机互动技术的突破有利于实现将人工智能植入人脑，从而改变人类自然语言的交流方式。最后，人工智能通过即时、准确、高效的大数据分析有利于进行精准且个性的学习评价与反馈。人工智能将综合收集所有同学的学习记录，互相比对、优化，从而进行综合提升。更为重要的是，人工智能的人脸识别以及语音识别技术可以运用到教师的教学过程中，进行学生的学习情绪感知，学习状况的了解，从而促进学生学习的科学化；智慧校园、智慧图书馆等的出现，为教学环境的建设提供重要参考。
3人工智能在教育领域的应用
人工智能被认为是最有潜力和影响力的教育信息化技术，将通过人工智能数据挖掘分析、3D打印、模拟仿真等技术的应用，实现人工智能与教育的深度融合，对计算机辅助教学、个性化教育服务、教育人工智能生态环境等产生根本影响。2018年《地平线报告》（高等教育版本）指出了教育领域的信息化发展，未来一段时间内将通过人工智能与信息技术的结合，进而影响教育阶段的不同过程。具体见表1所示。
【关键词】 人工智能 大脑智能 智能机器人
0 引言
人工智能（Artificial Intelligence），英文缩写为AI，是研究使计算机来模拟人的某些思维过程和智能行为（如学习、推理、思考、规划等）的学科，主要包括计算机实现智能的原理、制造类似于人脑智能的计算机。二十世纪七十年代以来被称为世界三大尖端技术之一（空间技术、能源技术、人工智能）。也被认为是二十一世纪（基因工程、纳米科学、人工智能）三大尖端技术之一。
1 人工智能的发展历程
（1）人工智能的思想萌芽可以追溯到十七世纪的巴斯卡和莱布尼茨，他们较早萌生了有智能的机器的想法。十九世纪，英国数学家布尔和德摩尔根提出了“思维定律”，这些可谓是人工智能的开端。十九世纪二十年代，英国科学家巴贝奇设计了第一架“计算机器”，它被认为是计算机硬件，也是人工智能硬件的前身。1936年，24岁的英国数学家图灵提出了“自动机”理论，把研究会思维的机器和计算机的工作大大向前推进了一步，在定义智慧时，图灵做出了解释，如果一台机器能够通过称之为图灵实验的测试，那它就是智慧的，图灵实验的本质就是让人在不看外型的情况下不能区别是机器的行为还是人的行为。（2）上世纪三四十年代，维纳、弗雷治、罗素的数理逻辑，和丘奇、图灵的数字功用以及计算机处理发展促使了1956年夏Dartmouth会议上人工智能学科（由“人工智能之父”麦卡锡提出，麦卡锡曾是Stanford人工智能实验室主任）的诞生20世纪60年代以来，采用生物模仿来建立功能强大的算法，包括进化计算等，人工生命以进化计算为基础，研究自组织、自复制、自修复以及形成这些特征的进化和环境适应。70年代以来，Conrad等研究人工仿生系统中的自适应、进化和群体动力学，提出不断完善的“人工世界”模型。80年代，人工神经网络再度兴起促进人工生命的发展。（3）1992年贝兹德克提出计算智能。专家系统在90年代兴起，模拟人类专家解决领域问题。
2 人工智能的研究
强人工智能的观点认为有可能制造出真正能推理和解决问题的智能机器，并且，这样的机器能将被认为是有知觉的，有自我意识的。弱人工智能的观点认为不可能制造出能真正地推理和解决问题的智能机器，这些机器只不过看起来像是智能的，但是并不真正拥有智能，也不会有自主意识。现在主流科研集中在弱人工智能上，强人工智能的研究则处于停滞不前的状态下。
目前人工智能主要研究内容是：知识表示、自动推理和搜索方法、机器学习和知识获取、知识处理系统、自然语言理解、计算机视觉、智能机器人、自动程序设计等方面，分布式人工智能与多智能主体系统、人工思维模型、知识系统、知识发现与数据挖掘、遗传与演化计算、人工生命应用等等。未来人工智能可能会向以下几个方面发展：模糊处理、并行化、神经网络和机器情感。
3 人工智能的应用
IBM公司“deep blue”电脑击败了人类的世界国际象棋冠军，美国Sandia实验室建立了国际上最庞大的“虚拟现实”实验室，拟通过数据头盔和数据手套实现更友好的人机交互。国际各大计算机公司相继开始将人工智能作为其研究内容，几乎包括所有IT企业，以及很多金融巨头，纷纷建立自己的人工智能产业部，利用“智能”来解决问题。无人驾驶车的诞生，打破了汽车靠人驾驶的时代。
MIT开发出了SHRDLU，STUDENT系统可以解决代数问题，而SIR系统则开始理解简单的英文句子了，SIR的出现导致了新学科的出现：自然语言处理。在70年代出现的专家系统成了一个巨大的进步，它头一次让人知道计算机可以代替人类专家进行工作。在理论方面，计算机开始有了简单的思维和视觉，而不能不提的是人工智能语言Prolog语言诞生了，它和Lisp一起几乎成了人工智能工作者不可缺少的工具。
4 人工智能的影响及发展必须注意的问题
（1）人工智能对自然科学的影响。在需要使用数学计算机工具解决问题的学科，AI带来的帮助不言而喻。更重要的是，AI反过来有助于人类最终认识自身智能的形成。（2）人工智能对经济的影响。专家系统更深入各行各业，带来巨大的宏观效益。AI也促进了计算机工业网络工业的发展。但同时，也带来了劳务就业问题。由于AI在科技和工程中的应用，能够代替人类进行各种技术工作和脑力劳动，会造成社会结构的剧烈变化。（3）人工智能对社会的影响。AI也为人类文化生活提供了新的模式。现有的游戏将逐步发展为更高智能的交互式文化娱乐手段，今天，游戏中的人工智能应用已经深入到各大游戏制造商的开发中。
伴随着人工智能和智能机器人的发展，不得不讨论是人工智能本身就是超前研究，需要用未来的眼光开展现代的科研，因此很可能触及伦理底线。作为科学研究可能涉及到的敏感问题，需要针对可能产生的冲突及早预防，而不是等到问题矛盾到了不可解决的时候才去想办法化解。
5 智能机器人
智能机器人具有类似于人的智能，它装备了高灵敏度的传感器，因而具有超过一般人的视觉、听觉、嗅觉、触觉的能力，能对感知的信息进行分析，控制自己的行为，处理环境发生的变化，完成交给的各种复杂、困难的任务。而且有自我学习、归纳、总结、提高已掌握知识的能力。目前研制的智能机器人大都只具有部分的智能，和真正的意义上的智能机器人，还差得很远。
6 结语
当然，虽然人工智能一直都处于计算机技术的最前沿，但人工智能的发展也并不是一帆风顺的，并不象我们期待的那样迅速，也曾因计算机计算能力的限制无法模仿人脑的思考以及与实际需求的差距过远而走入低谷。人工智能的问题的在于，一方面哲学、认知科学、思维科学和心理学等学科所研究的智能层次高而抽象；另一方面AI逻辑符号、神经网络和行为主义所研究的智能层次太基本。由于对中间机制知之甚少，这种背景下提出的各种AI理论，就只能是或者完全不同于人类思维，与人类的思维模式相距太远，同时在人类思维方式的理解上也有待突破，不然很难形成更新的AI框架和理论体系。尽管如此，多学科的联合协作研究也带来了足够引人注目的增长。因为人工智能的基本理论还不完整，我们还不能从本质上解释我们的大脑为什么能够思考，这种思考来自于什么，这种思考为什么得以产生等一系列问题。但经过这几十年的发展，我们相信它会给世界带来难以预料的变化。
参考文献：
[1][美]StuartJ.Russell[美]PeterNorvig人工智能：一种现代的方法（第3版）.
[2]人工智能及其应用蔡自兴徐光佑.
[3]游戏人工智能编程案例精粹[美]MatBuckland.
瑞克・拉希德（Rick Rashid）这么紧张是有原因的。他在中国的天津迈上讲台，面对2000名研究者和学生，要发表演讲。问题在于，他不会讲中文，而他的翻译以前糟糕的水平，似乎注定了这次的尴尬。
“我们希望，几年之内，我们能够打破人们之间的语言障碍”。这位微软研究院的高级副总裁对听众们说。令人紧张的两秒钟停顿之后，翻译的声音从扩音器里传了出来。拉希德继续说：“我个人相信，这会让世界变得更加美好。”停顿，然后又是中文翻译。
他笑了。听众对他的每一句话都报以掌声。有些人甚至流下了眼泪。
这种看上去似乎过于热情的反应是可以理解的：拉希德的翻译太不容易了。每句话都被理解，并被翻译得天衣无缝。令人印象最深的一点在于这位翻译并非人类。
曾几何时，执行这样的任务远超最复杂的人工智能的能力，而且并不是因为人们没有为此付出努力。多年以来，人工智能领域被那些旨在复制人类意识功能的宏大计划统治着。我们梦想着拥有一台机器，能够理解我们、识别我们，帮助我们做出决定。近几年来，我们已经实现了这些目标，然而实现的方式，是先行者不曾想象的。
如此说来，我们已经研究出了复制人类思想的方法了吗？还差得远呢。相反，实现这些目标的方法，与我们最初的愿望大相径庭。人工智能在你周围无处不在，它的成功可以归因于大数据和统计学，也就是利用海量信息执行复杂计算。我们已经创造出了意识，只不过它们与我们的意识相去甚远。它们的推理过程，对人类来说深不可测――这一进展所预示的前景，正在引起人们的关注。既然我们正在愈加依赖这种新型智能，我们或许需要改变自己的思维方式去适应它。
复制思维
半个多世纪以前，研究者列出了一系列目标，是我们向具备人类智能的机器挺进时必须要达成的。英国布里斯托尔大学的尼洛・克里斯蒂亚尼尼（Nello Cristianini）说：“从20世纪50年代开始，我们就有了一张待办事宜的清单。”他曾写过人工智能研究历史和演化方面的著作。
清单上的很多项目可以追溯到1958年在英国特丁顿召开的思想过程机械化会议。参与那次会议的，不仅有计算机科学家，还有物理学家、生理学家和心理学家。按照我们的样子建造思考机器的前景，令这些人全都激动万分。他们一致认为，智能的特征应该包括对理解话语、翻译语言、识别图像以及模仿人类决策的能力。
然而时间在流逝，那张清单却丝毫没有变短。很多研究者试图以逻辑公理为根基，使用程序化的规则来模拟人类思考。他们以为，只要创建足够多的规则就能成功。但事实证明，这太难了。几十年过去了，人工智能研究成果寥寥，资金告罄。
那么，究竟是什么发生了改变呢？“我们并没有找到智能的解决方案，”克里斯蒂亚尼尼说，“我们算是放弃了。”然而，这便是突破。“一旦我们放弃制造精神和心理特性的尝试，成功之道便开始出现在眼前了。”
说白了，他们放弃了预编程的规则，而是投向了机器学习的怀抱。利用这种技术，计算机教会自己从数据中建立模式。有了足够大的信息量，你就能让机器学会做看上去有智能的事情，别管是理解话语、翻译语言，还是识别人脸。英国剑桥微软研究院的克里斯・毕肖普（Chris Bishop）打了个比方：“你堆积足够多的砖块，然后退上几步，就能看到一座房子。”
这种方法的原理大概是这样的。很多最成功的机器学习系统，依据的都是贝叶斯统计，这种数学框架能让我们测算可能性。根据给定情境以及先前在类似情境中观察到的关联数据，贝叶斯统计能够给出出现某个结果的可能性数值。
比如，我们想让人工智能回答一个简单问题：猫吃什么。基于规则的方法要从零开始，采取有逻辑的步骤，建立一个关于猫及其饮食习惯的数据库。采用机器学习技术，你只需要不加选择地输入数据――互联网搜索、社交网络、食谱书籍等。通过计算特定词汇出现的频率以及概念之间如何彼此关联，系统便建立了一个统计模型，能够估计猫喜欢某些食物的可能性。
当然，机器学习所依赖的算法已经出现多年。新鲜之处在于，现在我们有了足够的数据，让这种技术大显神威。
就以翻译语言为例。20世纪末，
IBM将加拿大国会生成的英法双语文档输入计算机，利用机器学习技术教它在这两种语言之间互译。那些文档就像罗塞塔石碑一样，包含了几百万被写成两种语言版本的例句。
IBM的系统辨别出两种语言单词和短语之间的关联，并将这种关联应用于新的翻译任务。结果却满是错误。他们需要更多的数据。“这时谷歌跟了上来，差不多输入了整个互联网。”英国牛津大学互联网学院的维克托・迈尔-舍恩伯格（Viktor Mayer-Sch?nberger）说道。
和IBM一样，谷歌在翻译领域所做的努力，一开始也是发展算法，在多语言文献之间交互参考。然而，研究者开始意识到，如果翻译器学习了说俄语、法语和韩语的人们实际的讲话方式，翻译质量将有很大提高。
谷歌转向了被它索引过的庞大网络。这张网络正在朝豪尔赫・路易斯・博尔赫斯（Jorge Luis Borges）1941年的短篇小说《巴别图书馆》中那座假想的图书馆迅速演进。小说中的图书馆收藏的书籍，囊括了所有可能的词语组合。假设谷歌翻译器正试图将英语翻译成法语，它便可以将它最初的尝试与互联网上用法语写就的每一个句子作比较。迈尔-舍恩伯格用翻译“light”一词来举例：表示光照时，要翻译成法语词“lumière”，表示重量时，则要翻译成“léger”。谷歌翻译器自己学会了如何做出与法国人一致的选择。
除了大量词序的相对频率，谷歌翻译器以及拉希德使用的微软翻译器，对语言可谓一无所知。这些人工智能无非是一个词接一个词地计算接下来出现什么词的可能性。对它们而言，这只是个概率问题而已。
这些基本原理多少显得有些直来直去。当巨量数据中产生海量关联时，事情就复杂了。比如，谷歌的自动驾驶汽车，为了对周围环境作出预测，每秒钟要收集差不多1GB的数据。亚马逊这么善于诱导人们购买更多的商品，是因为它做出推荐所依据的基础，乃是几百万其他购买行为中的几十亿关联关系。
大者为王
翻译拉希德的演讲，展现了统计人工智能可以有多么强大――不仅要猜测他说了什么，思考该怎么翻译，还要判断这句中文由他说出来是什么效果。“这些系统的表现并非神迹，”毕肖普说，“但仅仅是探究一下巨量数据的统计信息，就能取得这么大的成就，我们常常为此感到惊讶。”
这些智能算法正开始影响生活的每一个方面。就在拉希德演讲一个月之后，荷兰国家法证科学研究所就雇了一套名叫波拿巴（Bonaparte）的机器学习系统，辅助他们寻找一名已经潜逃了13年的谋杀犯罪嫌疑人。波拿巴能够分析和比对大量DNA样本，这个工作由人工来做的话将非常耗时。保险和信用行业也在拥抱机器学习，部署这种算法为个人建立风险评估简况。医学界也在利用统计人工智能，筛选大得令人类无法分析的基因数据库。IBM公司的沃森（Watson）甚至能够诊断疾病。
“大数据分析能够发现被我们遗漏的事情，”迈尔-舍恩伯格说，“它对我们的了解，比我们自己还要深刻。但它也需要一种迥然不同的思考方式。”
在人工智能发展早期，“可解释性”被赋予了很高的价值。当机器做出选择时，人类能够追查到原因。然而，如今，那些由数据驱动的人工意识所做的推理，是对巨量数据点进行高度复杂的统计分析。换句话说，为了得到“是什么”，我们放弃了“为什么”。
就算一位高超的技师能够搞懂其中的数学过程，可能也没有什么意义。毕肖普说，那并不会揭示为什么系统会做出某个决定，因为这个决定并不是经由人类能够解读的一系列规则而得出的。他认为，为了得到有用的系统，这是个可以接受的取舍。早期的人工意识或许是透明的，但它们都失败了。“你可以得到一个解释，但那是对错误预测的解释。”一些人对这种转变提出了批评，但毕肖普和其他一些人主张，是时候放弃对人类解释的期待了。
“可解释性是一种社会契约，”克里斯蒂亚尼尼说，“过去我们认为它很重要，现在我们认为它不重要。”
英国布里斯托尔大学的彼得・弗拉赫（Peter Flach）试图向他计算机科学专业的学生，讲授这种从根本上不同的思维方式。编程讲究绝对，机器学习分析的却是不确定程度。他认为，我们应当更习惯怀疑。比如，亚马逊的人工智能推荐了一本书，这究竟是机器学习的结果，还是亚马逊有一些书不好卖？再比如，亚马逊可能会告诉你，和你差不多的人购买了它所展示的书，它所说的“和你差不多的人”以及“与此差不多的书”究竟是什么意思？
“也许，在某种程度上，我们终将不得不信任机器，即便我们无法完全理解它。”弗拉赫说。
危险在于，我们不再提出问题。我们会习惯于在不经意间由机器替我们做出决定吗？由于智能机器已经开始针对抵押申请、医疗诊断，甚至你是否有罪，做出神秘莫测的决断，我们押在人工智能上的赌注更大了。
比如在医疗方面，如果一套机器学习系统认为，你在未来几年中将开始酗酒，会怎么样？医生可以据此拒绝给你施行器官移植手术吗？如果没人了解结论从何而来，便很难讨论你的病情。一些人可能会信任人工智能甚于其他。“人们太愿意接受算法发现的事情，”弗拉赫说，“连计算机都说‘不’了。而这正是问题所在。”
此时此刻，某个地方，可能有一部智能系统正在判断你是什么样的人以及将成为什么样的人。看看发生在美国哈佛大学拉坦娅・司维尼（Latanya Sweeney）身上的事情吧。有一天，她惊讶地发现，她的谷歌搜索结果附带的广告问道“你被逮捕过吗？”白人同学的搜索结果中却没有这条广告。这件事促成了一项研究，表明谷歌搜索背后的机器学习系统，无意中成了种族主义者。在深不可测、浩如烟海的关联当中，跟犯罪记录相关的广告与黑人惯常使用的名字被联系了起来。
“人工智能会遇到很多伦理困境，”迈尔-舍恩伯格说。很多人已经对大数据时代的隐私问题表达了关切。 “说实话，相对于隐私，我更担心统计预测遭到滥用。”
人工智能逐渐演变为一种社会需要，机器也不再是人们眼中冰冷的工具，而是拥有自我意识的机器。
作为科幻作品中很大的母题，人工智能经常在科幻电影中出现，比如《我，机器人》《黑客帝国》《机械姬》，其中人工智能往往扮演反叛者的角色，对人类造成伤害。结合现实来说，这样的事情会不会发生?
清华微电子专业毕业后在外资企业从事半导体研发，这只是江波的工作之一。更令人瞩目的是，作为中国更新代的科幻作家，从处女作《最后的游戏》到《时空追缉》，再到恢弘磅礴的《银河之心》三部曲，他用冷峻而优雅的文字、超越寻常的想象力以及对人类未来发展的终极关怀征服了一众科幻爱好者。江波认为，“将机器赋予文明，将文明赋予机器。这是人类的使命，也许是最后的使命。”这是他对人工智能的期待和展望，也是未来人工智能科技发展的方向。
生物智能与自我意识
回答这一问题，首先要提到生物智能。生物智能是目前已知唯一产生了自我意识的智能，所以它是人工智能唯一的参考。将人类和蚂蚁做比较，人类是智能生物，蚂蚁是本能生物。所谓智能，就是可以设计出各种方法适应环境;所谓本能，就是生来具有的一种能力，诸如蚂蚁生来就能筑巢觅食。
为什么把这两种生物放在一起比较?如果把所有人类重量和蚂蚁重量都相加起来，在天平的两端，蚂蚁和人类的总质量是差不多的。所以从这个意义上来讲，两种同样成功的生物可以用来做比较，人类在分类学上属于哺乳纲灵长类人科，蚂蚁属于昆虫纲膜翅目蚁科，在纲目科属种的分类上，可以用同样的“科”级衡量。人科人属人种，事实上只有一种，但是蚂蚁有11 700余种，从这个意义上来说智能相对于本能的好处是以一敌万，一种智能生物通过调整行为方式，可以适应地球表面上的任何地形地貌，但是蚂蚁为了做到这件事情却用了11 700多种，这是智能带给生物的好处。
生物形形，怎样去衡量它的自我意识?生物学家采用了“镜子实验”——就是让生物照镜子，如果它能够从镜子中辨认出影像就是自身，就通过了测试，可以认为它具备自我意识。“镜子实验”有很多模糊的地方，不算非常客观标准的测试，但作为目前研究自我意识的一个参考，它可以代表自我意识的存在。
黑猩猩、鲸鱼、大象诸如此类可以通过镜子测试，像蚂蚁、水母等神经系统很简单的生物，不可能存在自我意识。也有两种生物在关系上和人类比较接近，一种是猴子，一种是猩猩，它们的镜子实验是什么结果?
一只非常强壮的银背大猩猩，看到镜子当中的自己，认为是另外一个对手直接撞上去，所以它失败了。
一只猴子从镜像中发现了自己脸上的红点，也就是说它已经通过了镜子测试。而实际上猴子是没有自我意识、不能通过镜子测试的，这只猴子的确通过了，它是怎么做到的?这只猴子是2015年中科院神经科学研究所最新的研究成果，通过某些程度的训练，让原本不具有自我意识的猴子产生一定的自我意识，从而能够辨认出镜子中的自己。
这个研究说明，自我意识的边界具有模糊性，并不存在非黑及白的世界。从没有自我意识跨入到自我意识并没有截然的边界，最有可能的情形是这个过渡是连续而模糊的，这点非常重要。
通过以上的实验和研究可以得出结论：自我意识并非高级智能的神秘功能，变化的环境不断推动智能向着更复杂的方向发展，当智能复杂到能意识到本体的存在，自我意识便自然产生，它是复杂智能的伴生物，学习是获取智能的唯一途径。
现在的拟智能与未来的可能性
既然学习是获取智能的唯一途径，那么人工智能的学习就是通过对外界环境的认识来改变自己的内在逻辑。如果这个智能体设计当中本身有一个变量是2，通外界刺激之后我认识到是6，把2改成6这不叫逻辑变换，这只是变量的变换。逻辑变换的意思是，通过环境刺激到神经系统最后接受最佳答案，对机器来说就是它的学习。
有了对学习的定义之后，就可以定义什么是拟智能了，Google的自动驾驶汽车、亚马逊的无人机、微软小冰，这些都可以称之为拟智能，是所有不通过学习得来的智能。这些智能通过预先编制的程序锁定了它的行为是什么，它很强大，但因为是不通过自主学习得来的，所以它不会产生自我意识。
我们生活中广泛存在的智能被称为拟智能，如果拟智能不能产生自我意识，它就不是我们担心的对象，那么什么东西是我们未来的可能性?
第一种未来的可能性是神经网络。2004年初，Google以4亿美元(约合26亿元人民币)价格收购了一家做算法的公司，简单地说，这个算法的任务是玩游戏。一个大屏幕上方有些不断落下的方块，这个算法所控制的是一个方块，这个方块在屏幕下方前后左右可以移动，游戏目的是延长生存的时间，这个算法当中如果上方出现一个方块，叫做输入，引起下方一个动作之后这个游戏就失败了，这个神经网络能够记住这一点，在下次游戏当中尽量避免这样的动作。
同样，如果一个输入引起动作之后，这个游戏能够延长更长的时间，它就可以获得奖励，在下一轮游戏当中，它还有可能采用同样的动作，这个就是学习的过程。它用分层结构对人类神经系统进行了很好的模拟，在神经网络深度学习的过程中，没有人预先告诉它该往哪边走，它通过不断地试错最后得到自己的最佳策略。
未来的另外一种可能是人脑芯片，大概意思是指根据神经元的结构组合成大脑皮层，科学家已经用物理芯片实现了，它用56亿个晶体管大概模拟了100万的神经元，有2.56亿个突触。这种人脑芯片是突破性的成就，但还有两个方面的问题：第一是规模，100万的神经元听起来很多，对比140亿神经元是人脑的神经元数目，人脑的突触以万亿记，这个规模只有人脑的万分之一，但是规模一旦提出来就是时间问题。还有一个问题，算法，怎么让人脑芯片工作?一般的智能需要预先编制好它的行为方式，但是这块芯片需要的是和认知世界一样的方式，通过外界刺激修正内部逻辑编程。从这两方面来说，人脑芯片还有很长的路要走。
赋机器予文明
人工智能的发展会带来很多问题，一旦人工智能和人类并存在世界上，就面临一个问题，什么样的人工智能可以融入到人类社会?
科学家们想到了“图灵测试”——让一个机器跟人对话，如果30%的人认为他是人，他就是人。图灵测试实际上有两端，目前认为人工智能的产生是单向性，一旦跨过一个界限达到一定复杂度就变成了人，将来社会中一旦人工智能跟人类并存，它是否是人就要交给人来判断。
通过对以上内容的分析，我们可以给出这样的结论：人工智能的自我意识只是一个时间问题。那么，科幻电影当中出现的灰暗的现实有一天会变成真的吗，人类该怎么办?
回顾18世纪的工业革命，人类在工业化的道路上狂奔，从来没有停止过，不断发明各种各样的机器充实人类文明，发明各种各样让大家生活得更好的物质，这个过程可以称为“赋文明予机器”，不断用机器填充文明。
拥有自我意识的机器必然是能够学习的机器，因为学习是自我意识的源泉，就像一个孩子，刚开始就是一张白纸，如果教给他的是暴力、战争、侵害，那么他学会的也是这些，如果教给他的是和平、爱、仁慈，那么他学会的也将会是这些。而“赋机器予文明”，可以通过一些方法方式来规范引导将要产生的人工智能，从而避免科幻电影中描述的黑暗未来。
人工智能的终极影响会怎样
人工智能指研究、开发并扩展人的智能的新学科，既是计算机科学的一个分支，也指能以与人类智能相似的方式作出反应的智能机器。说穿了，人工智能是对人的意识、思维过程的模拟。尽管它不是人的智能，却能像人那样思考，能完成财务查账、疾病诊断、危险操作，甚至使盲人恢复阅读能力……随着大数据的运用，将其与相关算法结合，人工智能便具备了深度“ 自我学习”的本领，可以模仿人脑神经元处理海量数据，“ 自己教自己”如何去执行一些过去只有人脑才能完成的任务，如驾驶无人飞机与汽车等。这就给警醒的人类带来了很大的疑虑：发达的人工智能技术对人类社会的终极影响将会怎样?
客观地分析，目前人工智能技术仅局限于某一具体领域的特定能力，能“形似”地模拟人脑，但不具备范围广泛且灵活变通的人类思维能力，也不具备人类的自主性、欲望与情感。但科学的进展是难以预测的，毕竟人工智能正在飞快地向自我学习、自我决策等高级认知层次演进。有朝一日机器是否会拥有比人类更灵敏的认知能力?拥有与人类冲突的利益观?甚至主宰人类……难怪霍金也会提出：人工智能可能是一个 “真正的危险”。
直面迅猛发展的人工智能，激起人们对其负面效应的谨慎和担忧是毫不奇怪的。毕竟，人工智能须接受人类伦理的监督，其研发者虽无法预见所有情形，但至少要做出在危急时刻能及时终止设计的超前安排，这是科学工作者必须具备的人文精神。我们并不赞同因对人工智能的过度忧虑而导致研究上停滞不前，在关注人工智能可能带来危机的同时，还要看到其无可估量的学术价值和经济效益。预见问题总比视而不见更理智。
延伸阅读：
过去20年，这4次“人机大战”载入史册
从第一台计算机问世以来，人们就梦想造出一种可以完美模拟甚至超越人脑的计算机系统。过去20年中，有4次“人机大战”给人们留下格外深刻的印象，也成为人工智能发展的绝佳注脚。
深蓝——蛮算的“硬汉”
1997年，美国IBM公司的“深蓝”超级计算机以2胜1负3平战胜了当时世界排名第一的国际象棋大师卡斯帕罗夫。“深蓝”的运算能力当时在全球超级计算机中居第259位，每秒可运算2亿步。在今天看来，“深蓝”还算不上足够智能，主要依靠强大的计算能力穷举所有路数来选择最佳策略：“深蓝”靠硬算可以预判12步，卡斯帕罗夫可以预判10步，两者高下立现。
浪潮天梭——以一敌五的“铁人”
2006年，“浪潮杯”首届中国象棋人机大战中，5位中国象棋特级大师最终败在超级计算机“浪潮天梭”手下。中国人发明的这项充满东方智慧的模拟战争游戏，被中国超级计算机独占鳌头。
从那场比赛开始，象棋软件蓬勃发展，人类棋手逐渐难以与之抗衡。
沃森——察言观色的全才“学霸”
2011年，“深蓝”的同门师弟“沃森”在美国老牌智力问答节目《危险边缘》中挑战两位人类冠军。参赛者需要大量历史、文学、政治、科学及流行文化知识，还需要解析隐晦含义和谜语等。虽然比赛时不能接入互联网搜索，但“沃森”存储了2亿页的数据，包括各种百科全书、词典、新闻甚至维基百科的全部内容。
“沃森”最终轻松战胜两位人类冠军，展示出的自然语言理解能力一直是人工智能界的重点课题。
AlphaGo——有棋风的“深度思考者”
围棋一直被看作是人类最后的智力竞技高地。据估算，围棋的可能下法数量超越了可观测宇宙范围内的原子总数，显然“深蓝”式的硬算在围棋上行不通。
2015年10月，美国谷歌公司旗下的人工智能公司研发的AlphaGo人工智能程序以5∶0战胜欧洲围棋冠军樊麾，这是人工智能程序首次在不让子的情况下战胜人类围棋选手。2016年3月初，拥有十多个围棋世界冠军头衔的李世石与AlphaGo力战5局，以 1∶4告负，这被认为是人工智能发展最新的里程碑。
【关键词】人工智能 情景意识 人机环境系统交互 哲学
【中图分类号】TP18 【文献标识码】A
【DOI】10.16619/ki.rmltxsqy.2016.07.001
前言
人工智能是人类发展到一定阶段而必然产生的一门学科，它既包括人，也包括机和环境两部分，所以也可以说是人机环境系统交互方面的一种学问。它同样“有一个漫长的过去，但只有短暂的历史”。它的起源可以追溯到文艺复兴，接着，又在第一、二次工业革命浪潮中逐渐崭露头角。法国人帕斯卡尔研制了第一台现代意义上的数字计算机，第一、二次世界大战大大加快了该学科发展的进程，剑桥大学巴贝奇的差分机和图灵的测试进一步把人工智能领域的研究范围扩展到了人类学习、生活、工作等方面。到目前为止，研究人工智能的学科不但包括生理、心理、物理、数理、地理等自然科学技术领域，而且还涉及到哲理、伦理、法理、艺理、教理等人文艺术宗教领域。
1997年5月11日，名为“深蓝”的电脑毫无悬念地在标准比赛时限内击败了国际象棋男子世界冠军卡斯帕罗夫，从而证明了在有限的时空里电脑“计算”可以战胜人脑“算计”，进而论证了现代人工智能的基础条件（假设）――物理符号系统具有产生智能行为的充分必要条件（Newell and Simon，1976）是成立的。更有意思的是，2011年2月17日，一台以IBM创始人托马斯・沃森的名字命名的电脑在智力问答比赛中“狂虐”两位最聪明的美国人而夺得冠军，2016年3月9日至3月15日，“围棋名誉九段”AlphaGo在首尔以4：1的比分战胜了围棋世界冠军李世石九段，从而引发了人工智能将如何改变人类社会生活形态的话题。
人工智能是人机环境系统交互的产物
众所周知，当前制约机器人科技发展的瓶颈是人工智能，人工智能研究的难点是对认知的解释与建构，而认知研究的关键问题则是自主和情感等意识现象的破解。生命认知中没有任何问题比弄清楚意识的本质更具挑战性，或者说更引人入胜。这个领域是科学、哲学、人文艺术、神学等领域的交集。尽管意识问题如此重要，令人啼笑皆非的是：无论过去还是现在，一旦涉及到意识问题，大家不是缄口不提，就是敬而远之，避之唯恐不及。究其原因，不外乎意识的变化莫测与主观随意等特点严重偏离了科学技术的逻辑实证与感觉、经验、验证、判断，既然与科学技术体系相距较远，自然就不会得到相应的认同与支持了，这好像是顺理成章、理应如此的！然而，最近科技界一系列的前沿研究正悄悄地改变着这个局面：研究飘忽不定的意识固然不符合科技的尺度，那么在意识前面加上情境（或情景）二字呢？人在大时空环境下的意识是不确定的，但“格物致知”一下，在小尺度时空情境下的意识应该有迹可循吧！自古以来，人们就知道“天时地利人和”的小尺度时空情境对态势感知及意识的影响，只是明确用现代科学的手段实现情境（或情景）意识的研究是源自1988年Mica Endsley提出的Situation Awareness（SA）概念框架：“…the perception of the elements in the environment within a volume of time and space， the comprehension of their meaning， and the projection of their status in the near future.”（在一定的时间和空间内对环境中的各组成成分的感知、理解，进而预知这些成分的随后变化状况）但这只是个定性分析概念模型，其机理分析与定量计算还远远没有完善。
在真实的人机环境系统交互领域中，人的情景意识（Situation Awarensss）SA、机器的物理SA、环境的地理SA等往往同构于统一时空中（人的五种感知也应是并行的），对于人而言，人注意的切换产生了不同的主题与背景感受/体验。在人的行为环境与机的物理环境、地理环境相互作用的过程中，人的情景意识SA被视为一个开放的系统，是一个整体，其行为特征并非由人的元素单独所决定，而是取决于人机环境系统整体的内在特征，人的情景意识SA及其行为只不过是这个整体过程中的一部分罢了。另外，人机环境中许多个闭环系统常常是并行或嵌套的，并且特定情境下这些闭环系统的不同反馈环节信息又往往交叉融合在一起，起着或刺激或抑制的作用，不但有类似宗教情感类的柔性反馈（不妨称之为“软调节反馈”，人常常会延迟控制不同情感的释放），也存在着类似法律强制类的刚性反馈（不妨称之为“硬调节反馈”，常规意义上的自动控制反馈大都属于这类反馈）。如何快速化繁为简、化虚为实是衡量一个人机系统稳定性、有效性、可靠性大小的主要标志，是用数学方法的快速搜索比对还是运筹学的优化修剪计算，这是一个值得人工智能领域深究的问题。
人机环境交互系统往往是由有意志、有目的和有学习能力的人的活动构成，涉及变量众多、关系复杂，贯穿着人的主观因素和自觉目的，所以其中的主客体界线常常模糊，具有个别性、人为性、异质性、不确定性、价值与事实的统一性、主客相关性等特点，其中充满了复杂的随机因素的作用，不具备重复性。另外，人机环境交互系统有关机（装备）、环境（自然）研究活动中的主客体则界线分明，具有较强的实证性、自在性、同质性、确定性、价值中立性、客观性等特点。无论是在古代、中世纪还是在现代，哲学宗教早已不单纯是意识形态，而且逐渐成为各个阶级中的强大的政治力量，其影响不断渗透到社会生活的各个领域，更有甚者，把哲学、政治、法律等上层建筑都置于宗教控制之下。总之，以上诸多主客观元素的影响，进而导致了人机环境交互系统异常复杂和非常的不确定。所以对人机环境交互系统的研究不应仅仅包含科学的范式，如实验、理论、模拟、大数据，还应涉及到人文艺术的多种方法，如直观、揣测、思辨、风格、图像、情境等，在许多状况下还应与哲学宗教的多种进路相关联，如现象、具身、分析、理解与信仰，等等。
在充满变数的人机环境交互系统中，存在的逻辑不是主客观的必然性和确定性，而是与各种可能性保持互动的同步性，是一种得“意”忘“形”的见招拆招和随机应变能力。这种思维和能力可能更适合复杂的人类各种艺术过程。凡此种种，恰恰是人工智能所欠缺的地方。
人机之间的不同之处
人与机相比，人的语言或信息组块能力强，具有有限记忆和理性；机器对于语言或信息组块能力弱，具有无限记忆和理性，其语言（程序）运行和自我监督机制的同时实现应是保障机器可靠性的基本原则。人可以在使用母语时以不考虑语法的方式进行交流，并且在很多情境下可以感知语言、图画、音乐的多义性，如人的听觉、视觉、触觉等具有辨别性的同时还具有情感性，常常能够知觉到只可意会不可言传的信息或概念（如对哲学这种很难通过学习得到学问的思考）。机器尽管可以下棋、回答问题，但对跨领域情境的随机应变能力很弱，对彼此矛盾或含糊不清的信息不能有效反应（缺少必要的竞争冒险选择机制），主次不分，综合辨析识别能力不足，不会使用归纳推理演绎等方法形成概念或提出新概念，更奢谈产生形而上学的理论形式。
人与机器在语言及信息的处理差异方面，主要体现在能否把表面上无关之事物相关在一起的能力。尽管大数据时代可能会有所变化，但对机器而言，抽象表征的提炼亦即基于规则条件及概率统计的决策方式与基于情感感动及顿悟冥想的判断（人类特有的）机理之间的鸿沟依然存在。
人工智能与哲学
人类文明实际上是一个认知的体现，无论是最早的美索不达米亚文明（距今6000多年），还是四大文明之后日新月异的以西方为代表的现代科技力量，其原点都可以落实到认知这个领域上。历史学家认为：以古希腊文化为驱动力的现代西方文明来源于古巴比伦和古埃及，其本质反应的是人与物（客观对象）之间的关系；而古印度所表征的文明中常常蕴含着人与神之间的信念；排名最后的古代中国文明是四大古文明中唯一较为完整地绵延至今的文化脉搏，其核心之道理反映的是人与人、人与环境之间的沟通交流（这也许正是中华文明之所以持续的重要原因吧）。纵观这些人、机（物）、环境之间系统交互的过程中，认知数据的产生、流通、处理、变异、卷曲、放大、衰减、消逝无时无刻不在进行着……
有人说人工智能是哲学问题。这句话有一定的道理，因为“我们是否能在计算机上完整地实现人类智能”，这个命题是一个哲学问题。康德认为哲学需要回答三个问题：我能知道什么？我应该做什么？我可以期待什么？分别对应着认识、道德、信仰。哲学不是要追究“什么是什么”，而是追求为什么“是”和如何“是”的问题。自2013年10月回国后，笔者一直在思考人机交互的本质问题，偶然与朋友交谈时聊及“共在”（Being together）一词，顿感很是恰当，试想，当今乃至可见的未来，人机之间的关系应该不是取代而是共存吧：相互按力分配、相互取长补短，共同进步，相互激发唤醒，有科有幻，有情有义，相得益彰……非常巧合的是，2014年以来，机器学习、互联网、机器人、人工智能等领域的发展也相当迅速，深度学习、类脑计算、情景感知一时间成了关键词，成了时髦语，但细细品来，其核心实质都不过是解释与建构的问题，形而上后竟会变成高大上的哲学问题。
其实哲学与科学、宗教一样，都是一个人为了能够获得理解而必须相信（除非你相信你不应当理解）的过程，这不是盲从，而是一种先信仰后理解的先验！比如，在科学中，物理学研究世界是什么样的（解释世界），计算机（数学）研究怎么造一个世界（建构世界），在这两者之间若没有相信、信任、信仰等先于理解而存在，恐怕是难以坚持进行下去的，毕竟在伸手不见五指的黑夜中，人是很难自行产生前进动力的（如一个没有利润的环境常常少见商人身影一般）。而信仰是一种赞同的思考，常常是一种非理性的激情、冲动情感，通过非理性而达到理性（通情达理），这不能不说是一个有趣的悖论！或许，这同时也是无中生有的禅理（以情化理）吧！
实际上，目前以符号表征、计算为代表的计算机虚拟建构体系是很难逼真反映以物理、生理、心理等理论解释真实世界的（数学本身并不完备），而认知科学的及时出现不自觉地把各“理”（物理、生理、心理）解释与各“机”（计算机、飞机、拖拉机）建构之间对立统一了起来，围绕是（Being）、应（Should）、要（Want）、能（Can）、变（Change）等节点展开融合进而形成一套新的人机环境系统交互体系。
有时候，世界是确定的，不确定的是我们自己，面对相同的文字、音乐、视频等情境事物，我们常常会随心情的不同而产生不同的觉察和理解，境随心转。有时候，世界是不确定的，确定的反而是我们自己，面对不同的文字、音乐、视频等情境事物，我们却能够处变不变而产生恒定表征，形成概念，心随境转。不管怎样，世界包括我们自己是由易、不易、简易、迁易、无易、有易、一易、多易……等诸多演化过程构成的，在这些纷繁复杂的变化中，都需要一种或多种参考框架体系协调其中的各种矛盾、悖论，而若追溯到这些框架体系的起源，应该就是人机环境之间的交互作用。或许，最好的智慧/智能真的就隐藏在这些交互的自相矛盾之中？！若果真如此，那又该如何破译呢？
哲学意义上的“我”也许就是人类研究的坐标原点或出发点，“我是谁”“我从哪里来”“要到那里去”这些问题也许就是人工智能研究的关键瓶颈？！
结束语
人工智能，尤其未来的强人工智能很可能是一种集科学技术、人文艺术、哲学宗教为一体的“有机化合物”，是各种“有限理性”与“有限感性”相互叠加和往返激荡的结果，而不仅仅是科学意义上的自然秩序之原理。它既包含了像科学技术那样只服从理性本身而不屈从于任何权威的确定性知识（答案）的东西，又包含着诸如人文艺术以及哲学、宗教等一些迄今仍为确定性的知识所不能肯定的思考。它不但关注着人机环境系统中的大数据挖掘，而且对涉及“蝴蝶效应”的临界小数据也极为敏感；它不但涉及计算、感知和认知等客观过程，而且还对算计、动机与猜测等主观过程颇为青睐；它不但与系统论、控制论和信息论等“老三论”相关，更与耗散结构论、协同论、突变论等“新三论”相联。它是整体与局部之间开环、闭环、自上而下、自下而上交叉融合的过程，是通过无关―弱相关―相关―强相关及其逆过程的混关联变换。
通过研究，我们是这样看待指人工智能技术问题的：首先人工智能过程不是被动地对环境的响应，而是一种主动行为，人工智能系统在环境信息的刺激下，通过采集、过滤，改变态势分析策略，从动态的信息流中抽取不变性，在人机环境交互作用下产生近乎知觉的操作或控制；其次，人工智能技术中的计算是动态的、非线形的（同认知技术计算相似），通常不需要一次将所有的问题都计算清楚，而是对所需要的信息加以计算；再者，人工智能技术中的计算应该是自适应的，人机系统的特性应该随着与外界的交互而变化。因此，人工智能技术中的计算应该是外界环境、机器和人的认知感知器共同作用的结果，三者缺一不可。
研究基于人类行为特征的人工智能系统技术，即研究在不确定性动态环境中组织的感知及反应能力，对于社会系统中重大（战争、自然灾害、金融危机等）的应急指挥和组织系统、复杂工业系统中的故障快速处理、系统重构与修复、复杂坏境中仿人机器人的设计与制造等问题的解决都有着重要的参考价值。
鉴于研究人工智能系统涉及面较广，极易产生非线性、随机性、不确定性等系统特征，使之系统建模研究时常面临着较大困难。在之前的研究中，多种有价值的理论模型被提出并用于描述表征、学习、理解、自主、预测等系统行为，但这些模型在对人工智能的实质及影响因素方面考虑还不够全面，也缺乏对模型可用性的实验验证，所以本文重点就是针对人机环境系统的实质及对人工智能影响因素这两个关键问题进行了较深入探讨，追根溯源，以期早日实现高效安全宜人可靠的强人工智能系统。
责 编M樊保玲
我们应该注意的是，第四次工业革命给中国带来新的机遇，但同时也带来新的挑战，这个挑战，具体有四个方面。
首先是对经济活动和经济增长的影响。
工业革命和经济发展中间，其实存在两个悖论。首先是生产率悖论，就是说新技术的进步并没有给我们带来预期的生产率的增长。以美国为例，美国劳动生产率的年增长在1947-1983年以及2000-2007年，两个时段里，分别是2.8%和2.6%左右，但是从2007年到2014年，也就是科技大幅改变我们生活的这段时间，劳动生产率的年平均增L率只有1.3%左右，这要怎么解释？这主要是因为第四次工业革命很多技术是平台型技术，它们创造的价值是免费的，并没有通过市场交易反映出来。
其次还有创新悖论。政治经济学家熊彼得提出过一个概念叫“创造性毁灭”，是指有新的技术创新带来更大的社会收益，但同时会让旧产业消亡，通过这种毁灭，使社会不断进步。例如，电力机车代替蒸汽机车、数码相机代替胶卷相机，都是创造性毁灭。
但荷兰学者卢克索特近来提出“毁灭性的创造”这么一种可能，就是指一些创新仅仅对少数企业有利，对整个社会是不利的。比如，金融领域放松监管会导致很多创新只对少数金融企业有很大利益，但可能会给整个金融世界带来危害，甚至带来金融危机。比如现在的社交媒体让人们长期沉溺于手机和电子游戏，很难进入到深入思考，长此以往，是否会对人类社会进步产生影响，等等。
第二个挑战是对未来工作的颠覆。
牛津大学的一项研究指出：美国2010年的各项职业中，将近一半的工作在今后十年到二十年有可能被机器或人工智能替代。其中很多工作在今天是高级白领在做的，比如律师助手、房地产评估师等等。未来，也许很多人在同时做很多的临时性工作，传统意义上的稳定工作将不复存在。
第三个挑战是对社会公正、伦理道德和社会规范的冲击。
比如说，收入分配差距有可能变大，大量中等技能的工作被替代，社会收入分配将形成两极化状态，少数有高技能的工作者收入特别高，大批中等或低技能者则失业。再比如，生物医学进展会带来伦理道德问题，基因检测是否会带来就业歧视、保险歧视。如果未来出现可定制婴儿、延长寿命、记忆提取时，是否有一系列伦理道德的困扰出现？又比如，人工智能也可能会带来社会问题。
最后一个挑战是对公共治理的影响。
这主要表现在三个方面，首先是政府对市场的监管可能更加困难。政府规章制度的演变非常慢，而技术变化太快，两者很可能无法同步。其次，政府对社会的有效治理更加困难。社交媒体的普及使个人可以成为公众媒体，公众常常比政府获得信息更快更多；最后，政府对公共安全的保障会更加困难。社会如此依赖网络和信息，我们的数据安全、网络安全如何保障？
【关键词】机器人；人的本质；机械唯物主义；
1737年，法国人雅克•瓦坎森制作出了一个真人大小的人形机器，可以吹出十二首笛曲，其精巧性已经超越了一般的玩具，标志着人类的第一个机器人诞生。人们在惊叹的同时也产生了恐慌之感。1818年，英国女作家玛丽•雪莱创作了被认为是第一部科幻小说的《弗兰肯斯坦》，小说的副标题是“现代的普罗米修斯”，她把创造了“怪人”并最终与“怪人”同归于尽的弗兰肯斯坦比作普罗米修斯，给人类带来了文明，自己却受尽惩罚，而“怪人”所隐喻的就是科技。从第一个机器人诞生至今的三个世纪里，机器人的智能化水平不断提高，与此同时，机器人恐慌也随之增强，科幻小说和影视作品无一不涉及“机器人威胁人类”的情节。
一、对机器人恐慌是对机器恐慌的加剧化
对机器人恐慌并不是无中生有，而是自工业社会以来人们对机器恐慌的加剧化。
（一）害怕被机器人取代。机器是一种工具，但与手工工具有着本质的区别。手工工具的运用需要人的技艺和气力，人的因素在产品形成中起着主导作用。机器的结构分为发动机、传动机、工作机三个部分[2]，远比手工工具复杂，因而具有不为操作者意志所控制的自动化的特点，对产品形成起主导作用的是机器而不是操作者。由于机器在力量、标准化、生产效率上远远胜过人类，人的力量的一部分——技艺和体力被机器代替，于是机器一出现就让人的生存受到威胁，“英国蒸汽织机把80万织工抛向街头”，衣食无着，工人处于恐慌而爆发了捣毁机器的“卢德运动”。机器人相比于机器，在自动化程度上实现了新的飞跃——智能化，不仅能更有效地替代人的体力，而且能替代人的脑力，在计算速度上、准确性上不断超越人类，车间、操作台、控制室、设计室等全方位的劳动领域上人的位置越来越多地被机器人所取代，人的安身之地在哪里？人前所未有地感到自己的渺小和无力。
（二）害怕被机器人伤害。在工业化早期，不少工人因反应慢于机器，被机器夹断肢体的事情经常发生，而更多的人成为《摩登时代》中卓别林饰演的工人，像机器一样做着紧张、单调的机械运动，连挠痒这样的人类基本生理需求也被机器剥夺了。在体质上由钢筋铁骨组成、在智能上有光速般计算速度的机器人面前，人受到伤害的可能性及其危害会更大。1920年捷克斯洛伐克作家卡列尔•萨佩克写了一部名为《洛桑的万能机器人》的剧本：一群不再甘愿被人奴役的机器人，把不再有什么作用的人类都杀了，成了地球的主人。这个剧本反映了人们对机器人的深度恐慌，如果说机器对人的伤害是让人变为畸形，那么机器人对人的伤害则是让人毁灭。萨佩克的预言在一定程度上已经得到应验：据统计，美军在2004年至2012年间，针对阿富汗恐怖组织的无人机空袭有300多次，杀死人数3000余人，但误杀平民和儿童1100人。
（三）害怕被机器人统治。马克思指出：“在工场手工业中仆人的角色总是由工具来担当”，而在机器生产中，“实行（简单）协作和把协作工人当作一个巨大的总自动机的活动附件和仆人而分配到这个自动机的各个部分上”。在工业化初期，机器统治人已经成为现实，许多人更有理由相信比机器智能得多的机器人将更有力地实现对人的统治。法兰克福学派代表人物马尔库塞认为：“工艺的基本原理就是统治的基本原理”，“旨在启蒙的技术能力的进步伴随着非人化的过程”。机器人的身体具有人类无法比拟的强大，如果还拥有高过人的智力，甚至具有情感的话，那么无论从身体还是思想上来看，机器人都是比人类更高形态的生命，如同人对低等生命所做的那样，机器人必然统治人类，机器人“待人类可能就像拍死一个蚊子这么简单”，人将会变成或害虫，被“在将来的动物园里”。科幻电影《黑客帝国》就展现了看似正常的现实世界实际上是由一个名为“矩阵”的计算机人工智能系统控制的未来景象。
二、对机器人恐慌的哲学根源是机械唯物主义
上述三种对机器人恐慌都可以归结为一点，即认为机器人的智能将会发展成为意识。这个认识与“人是机器”的观点同出一辙，因为只有肯定了“人是机器”，那么才有可能创造出和人一样会思考、有情感的机器，才能最终使机器人超越人类。工业化初期产生的机械唯物主义在人的本质上所提出的“人是机器”的观点，看似已经成为一个历史笑话，但实际上机械唯物主义并没有退出历史舞台，而是以新的话语形式表现出来，其中以行为主义、符号主义、联结主义为主要代表。机械唯物主义既是当时对机器恐慌的哲学根源，也是当今对机器人恐慌的根源。
（一）行为主义把机器的功能与人的行为等同起来。行为主义又称控制器学派，20世界40、50年代产生的控制论是其理论基础。控制论的代表人物维纳提出：“机器的自适应、自组织、自修复和学习功能是由系统的输入输出反馈行为决定的。”该学派认为，感知是对环境刺激产生的一种反应，而行为就是对这种反应的陈述，因此只要机器人能够像人一样行动就说明他们能够像人一样感知现实世界和环境，那么通过不断改进传感器、执行器就可以使人工智能不断进化，最终达到和超越人的智能。人工智能的创始人图灵认为，不要问“机器能否思维”，而要问“机器能否通过表征智能行为的测试”，如果对后者的回答是肯定的，那么对前者的回答就必然是肯定的。显然，图灵用转换命题的方式回避了“机器能否思维”问题，而不是回答了该问题。农民挑水浇灌菜地和天下雨淋湿菜地，结果都是菜地湿了，难道就能得出老天会挑水浇地的结论吗？只选取行为片段，而忽略行为发生的全过程，这是片面地、孤立地、静止地分析问题的机械唯物主义的认识方法。
（二）符号主义把人的思维与计算机的信息处理等同起来。符号主义是人工智能的主流学派，主要代表人物是美国赫伯特•西蒙、艾伦•纽厄尔等。该学派认为，人类智能的基本元素是符号（Symbol），因而是一个物理符号的系统，计算机也是一个物理符号系统，所以计算机可以具有与人一样的智能。符号主义源远流长，笛卡尔的理念论是其鼻祖。笛卡尔认为，任何种类的问题都可转化为数学问题，进而转化为代数问题，最终转化为方程（组）问题，而方程组的根就是问题的答案。功利主义的集大成者边沁将笛卡尔的理念论明确地拓展到人的心灵世界，人的情感、欲求、感受等的产生都是基于心灵对苦乐程度的计算和比较，因此计算才是心灵的本质，情感等只是一些外在的托词，完全可以将之归结为人体内分泌的调节，比如“荷尔蒙”的刺激作用。1674年，莱布尼兹发明了第一台机械式四则运算机，并毫不掩饰地宣称他的“计算机”的运算能力要强过人的运算能力，甚至还宣称它将会“象显微镜和望远镜取代视力一样”取代人的智能。符号主义用符号替换了笛卡尔的数字，用符号（信息）处理替换了笛卡尔的数学计算，却为笛卡尔“提供”了一台既能全面模拟人类心灵、又能实现人类身体功能的计算机，使笛卡尔的身心二元论得到了和解，因此符号主义是对理念论的继承和发展。理念论和符号主义将人的思维中的一部分过程——数学计算或信息处理夸大为人的思维的全过程，这仍然是以偏概全、一叶障目的机械唯物主义的认识方法。
（三）联结主义把人脑的生理结构与计算机网络等同起来。联结主义又称人工神经网络学派、神经计算学派、仿真学派或生理学派，联结主义中的机器人没有人形结构，而是一个试图实现人脑功能的计算机系统。1943年，麦克卡洛奇和匹兹创立了人工神经细胞模型（MP模型），并宣称人的大脑中每一个神经元都是一个简单的数字信息处理器，而大脑作为一个整体是一种形式的计算机器。依此观点，每一台计算机就是一个神经元，多台计算机连接起来的网络就形成神经元网络，多个网络系统相互连接就构成神经系统，多个具有简单应激性的单个计算机通过相互之间的信息交流来进行协同工作，就能够达到人的智能。20世纪90年代，联结主义发展到多智能体系分布式研究阶段，即按照人类社会活动是多人进行的且在地理上是分离的特征，致力于研制多台单智能体（一台计算机器）组成的，在分布式环境中由具有自洽性、交互性、协作性、实时性和自适应性的多智能体系统。尽管多智能体系结构远比MP模型复杂得多，但其基本的逻辑前提是人脑是计算机器，这个观点其实就是“人是机器”的翻版：人脑是人的最重要的器官，计算机器也是机器，连人脑都可以是机器，还有什么其他的人体器官不可以是机器呢？这就必然得出“人是机器”的结论。
三、人的本质学说是消解对机器人恐慌的良方
机器人具有或终将具有意识的观点，不是一点作用也没有，它以“人造人”的幻景激励着研究者们开展人工智能的研究和开发，但是由于哲学上错误性，它一方面导致社会对机器人的恐慌，即对机器人研制的质疑，另一方面导致机器人研制陷入永动机式的困局，这两方面都不利于人工智能的深化发展。机器人的出现和演化体现着、推动着人对自身本质的认识和反思，只有坚持人的本质学说，才能消除对机器人的恐慌，促进人工智能健康发展。
（一）机器人永远不可能具有人的意识。马克思指出：人的本质“是一切社会关系的总和”。意识作为人的机能具有两个基本属性：一是社会性。人及其意识是在劳动过程中产生和发展的。劳动使人实现消费、交换、分配，获得生存、繁衍和发展，因而是一种集体协作，必然形成一定的社会关系，因此劳动从一开始就具有社会性，决定了人及其意识的本质特征也都是社会性，无论是抽象思维还是形象思维，无论是情感还是潜意识，都是对人所处社会关系的反映。二是能动性。人在改造世界的劳动中生存和发展，因而人的意识具有能动性，不仅能够通过纷繁复杂的现象中发现事物的本质，而且可以通过想象在头脑中创造出世界上没有的新事物，为改造世界提供指导。以此反观机器人：其一，机器人工作不为消费、交换、生存、发展，不会结成一定的社会关系。
机器人，包括多智能体分布式系统，都不可能具有社会性，因而不具有产生意识的基础。其二，尽管CPU、传感器等元器件的性能越来越好，机器人的自动化程度越来越高，看起来具有越来越好的灵活性，但是机器人按照人所设定的程序进行运算而行动的机理没有变，因而不具有能动性，不能主动地、创造性地反映和改造世界。凡是主张机器人能够具有意识的观点，一个普遍性的倾向就是把人和意识割裂开，脱离人的本质来理解意识。例如，大卫•J•查默斯试图“严肃地对待意识”，却提出“任何具有适当功能组织的系统是有意识的，不管这一系统由何物形成”；“实施一个适当运算对于意识是充分的”。离开了对世界上最复杂的事物——人的本质的分析，意识就可以被想当然地任意简单化，可视为“适当功能”，也可视为“逻辑运算”等等，似是而非，结果是谬以千里。机械唯物主义肯定了意识在一定物质基础上产生，坚持了唯物主义，但是由于在社会领域上的唯心论和机械论，因而始终陷入“人是机器”或者“机器可以是人”的怪圈而不能自拔。
（二）机器人控制人的实质是人对人的控制。马克思认为，工人捣毁机器是工人运动不成熟的标志。他指出：“工人要学会把机器和机器的资本主义应用区别分开，从而学会把自己的攻击从物质生产资料本身转向物质生产资料的社会使用形式。”物是受人控制的，物对人的控制实际上是人对人的控制，即物的所有者对劳动者的控制。机器生产是生产力的进步，落后的是资本主义私有制，工人要捣毁的不应当是机器，而应当是资本主义制度，否则不仅不能改变工人阶级的命运，反而会受到资本主义制度更加残酷的迫害。1812年，英国国会通过《保障治安法案》，动用军警对付工人。1813年，政府颁布《捣毁机器惩治法》，规定可用死刑惩治破坏机器的工人。1813年，在约克郡绞死和流放破坏机器者多人。1814年，企业主又成立了侦缉机器破坏者协会，残酷镇压工人。
机器人对人的威胁，其根源仍然是资本主义制度。无人机滥杀无辜，是发达资本主义国家利用高科技实施霸权主义的恶果。美国科幻作家阿西莫夫曾给出了著名的“机器人学三定律”：第一定律是机器人不得伤害人类，也不得见人受到伤害而袖手旁观；第二定律是机器人必须服从人的命令，但不得违反第一定律；第三定律是机器人必须保护自己，但不得违反第一、第二定律。”这三个定律局限于人和机器的关系，回避了人与人的关系。事实上，机器人只会听从其所有者的命令，是否遵守第一定律取决于机器人所有者的意愿，最重要的第一定律变得最不重要，只是一个美丽的泡影而已。消解对机器人的恐慌，最根本的出路就是人压迫人的资本主义制度，建立社会主义制度，将少数人掌控的科学技术置于人民群众的掌控之中，让机器人为最大多数人服务，才能彻底消除机器人对人的伤害。
（三）人的全面自由发展是机器人发展的条件。曾任美国数学会主席的斯梅尔向全世界数学家提出了21世纪需要解决的24个数学问题，其中的一个问题是:“人工智能的极限是什么？”并指出这个问题与哥德尔不完全性定理有关。如果用一个数学定理证明人工智能的极限，这就是将人工智能看作是数学问题，又回到符号主义的窠臼中去。弱人工智能观和强人工智能观对这个问题做出了一定的回答：前者认为人工智能终将低于人的意识，是有极限的；后者认为人工智能终将超越人的意识，是无极限的。强人工智能观是机械唯物主义观点，而弱人工智能观否定了科技发展的无限性，两者都有局限性。回答人工智能的极限问题，不能离开人的本质问题，即只有科学地认识人的本质，才能正确认识人工智能的极限。马克思指出，科技发展是“历史有力的杠杆，是最高意义上的革命”，“对人的彻底解放具有彻底的意义”。
马克思认为，科技是人类社会实践的产物，是人类智慧发展的结晶，科技发展的程度表明人的本质力量得到自由发展的程度，同时科技发展也对人的发展提出了新要求，即要求人的更加自由全面的发展，只有自由全面发展的人才能更加推进科技的进步。人工智能开拓了人类利用自然物质的反应特性制造工具的极其广阔的领域，是人的本质力量——认识和改造世界的能力的一个崭新的革命性飞跃，使人们从繁重、危险的体力劳动和繁琐、计算性的脑力劳动中解脱出来，为人类能动性发挥提供了有利的条件，也提出了新的要求。1996年国际象棋棋王卡斯帕罗夫战胜了计算机“深蓝”，1997年输给了计算机“更深的蓝”，这不能证明人工智能超过了人的智能，而是呼唤人类不走常规棋谱的老路，创造出新的棋招，人类终将能够做到，“再深的蓝”也不能战胜。人的本质力量发展是没有极限的，人工智能也是没有极限的，它将随着人的发展而发展。人的全面自由发展是机器人发展的条件，只要人类解决了自身的发展问题，就不会再有对机器人的恐慌，也不必去担忧人工智能的极限问题。
参考文献：
[1]参见维基百科中的robot词条.
[2]马克思:《资本论》(第1卷),人民出版社1975年版,第410页.
[3]同上,470页.[4]朱启超:《滥用无人机反恐后果严重》,科技日报,2013年9月24日.
[5]《马克思恩格斯全集》(第47卷),人民出版社1979年版,第525页.
[6]转引自《法兰克福学派研究》,欧力同,张伟著,重庆出版社1990年版,270页.
[7][美]约翰•华生.行为主义心理学,李维译,浙江教育出版社1998年版,第56页.
[8]冯天瑾:《智能学简史》,科学出版社2007年版,第115页.
[9][英]笛卡儿:《探求真理的指导原则》,管震湖译,商务印书馆1991年版,第89页.
[10]周辅成:《西方伦理学名著选辑》(下卷),商务印书馆1964年版,第227页.
[11]参见《莱布尼兹自然哲学著作选》,中国社会科学院出版社1985年版,第6页.
[12]《马克思恩格斯选集》(第1卷),人民出版社1995年版,第56页.
[13][美]大卫•J•查默斯:《有意识的心灵——一种基础理论研究》,朱建平译,人民大学出版社2013年版,第1页.
[14]同上,第379页.[15]同上,第380页.[16]马克思:《资本论》(第1卷),人民出版社1975年版,第469页.
