一、人类与人工智能如何相处

在回复《人工智能具有思维和自我意识吗？（ ）》中，提到了在AI的助力下，机器人完成了对人类的外形及基本功能的模仿，并预计在未来十年内可能会出现具有自我意识的机器人。那么在面对拥有自我意识的机器人，人类该如何与之相处？又该遵从哪些伦理道德？

从机器人被造出来的那一刻，机器人和人类的关系就从未停止过讨论。上世纪五十年代，著名科幻**艾萨克•阿西莫夫（Isaac Asimov）在为其科幻小说《我，机器人》所写的《引言》中提到了后来著名的“机器人学三**则”：

第一定律：机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手旁观；

第二定律：机器人必须服从人给予它的命令，当该命令与第一定律冲突时例外；

第三定律：机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。

虽然机器人学三**则并没有实际应用在现实机器人工业领域当中，但却在阿西莫夫小说中大放异彩，并影响了很多科幻小说的作者，还受到了许多AI和机器人领域的技术专家的认同。

2005年根据阿西莫夫同名小说改编的电影《我，机器人》（I, Robot）上映，该影片讲述了在人与机器人和谐相处的2035年，警察Del Spooner（德尔·斯普纳）受命调查Dr. Alfred Lanning（阿尔弗莱德·蓝宁博士）自*案时，与智能机器人Sonny（桑尼）合作揪出了幕后凶手——NS大楼的主控电脑Wiki（维基）。

电影里的Wiki虽然产生了自我意识，但受限于机器人学三**则，它无法直接伤害人类。于是它便修改了NS-5机器人的程序，从而导致整个世界的NS-5机器人叛变并意图控制人类，由此掀开了一场制造者与被制造者之间的战争序幕。

机器人由人类创造，人类用AI赋予机器人灵魂。所以，人类在思考该如何与机器人相处的时候，其实也是在思考该如何与AI相处；人类在恐惧机器人有可能取代人类的统治地位的时候，其实也是在恐惧AI有可能会取代人类的统治地位；人类在讨论机器人的伦理道德的时候，其实也是在讨论AI的伦理道德。

随着AI技术向电影里想象的那样发展，社会也开始广泛关注AI所带来的伦理道德问题。微软公司总裁史密斯曾公开表示，“*手机器人”的出现在未来将无法避免，人类社会应该有一个新的“数字《日内瓦公约》”也就是一套道德标准来约束与引导AI的发展。

AI不可能凭空产生，AI伦理道德也不可能凭空出现。所以为避免类似《我，机器人》电影中的情节出现在现实生活当中，人类在发展AI技术的同时，也在不断探讨和完善AI伦理道德，比如世界电气电子工程师学会IEEE全球人工智能与伦理倡议，比如阿西洛马人工智能23条伦理原则等等，其目的都是使AI在不同的条件下能够做出符合人类伦理的决策。

AI是人类手中的一把双刃剑，如果能够得到正确的应用，那将会极大的提高生产力改善人类生活环境，如阿斯利康利用AI赋能*品研发，加快*品上新速度；特斯拉利用AI赋能汽车驾驶，帮助用户*控汽车；小i机器人利用AI赋能客服行业，替企业减少用工成本……

相反则也有可能**人类生活并带来伦理层面的挑战，如ZAO推出的“AI换脸APP”让用户在体验换脸的**时，不自觉侵犯他人肖像权；如Deep Nude推出的“一键脱衣”软件可以自动“脱掉”照片中人物身上的衣服，使部分人成为该技术的受害者；如某些APP悄悄收集用户信息分析用户情况，以此来给用户推送他可能感兴趣的资讯或商品等……

目前，对于AI伦理道德主要聚焦在算法歧视（指算法开发设计者有可能会将自身价值判断嵌入算法系统）、数据隐私（指滥用个人信息、制造导向等问题）、安全与责任（如何保证数据不被串改，以及发生事故后如何判责等问题）、机器人与人的关系（机器人是否会对人进行反控制及如何界定机器人与人之间的关系）及科技贫困（AI取代人工会是否会造成贫富差距扩大化）等五大领域。

对此，欧盟委员会在2019年发布了一份人工智能道德准则，提出了实现可信赖AI的七个要素，并要求不得使用公民个人资料做出伤害或歧视他们的行为；同年，美国总统特朗普签署了一项名为“维护美国人工智能**地位”的行政命令，该行政命令以五项原则为指导，维持和加强美国在AI研发和部署方面的科学、技术和经济**地位；而中国国家新一代人工智能治理专业委员会也在同年发布了《新一代人工智能治理原则——发展负责任的人工智能》，提出了AI治理的框架和行动指南，并强调发展负责任的人工智能。

除了部分国家有所作为外，不少科技公司和行业协会也有所行动。如微软成立了人工智能伦理道德委员会，负责对每一款AI产品的道德伦理风险进行评估；如亚马逊、微软、谷歌等全球百余家科技公司创建了人工智能合作组织（Partnership on AI），提出了公平、没有伤害、公开透明以及问责等伦理道德框架；比如IEEE在《人工智能设计的伦理准则》中提出了人权、福祉、问责与透明的伦理标准……

AI由人类创造，由人类推动，并为人类所用。在这个AI高速发展的时代，AI将如小i机器人创始人兼CEO袁辉博士所预期的那样——人工智能将无处不在，就像空气和水一样。

（上图：小i机器人创始人兼CEO袁辉博士）

在AI大范围应用的同时，也将会导致部分人失业。但回顾过去，科技革命在消灭很多职业的同时，也会产生新职业，比如汽车取代马车，马车夫消失，但出现了司机。AI会取代一部分岗位和职业，但也会有新的工作岗位因此诞生。

为了应对扑面而来的AI浪潮，我们只有努力提高自身能力和认知水平（如培养分析理解和利用数据的能力，培养与机器沟通的能力等等），才能紧跟时代步伐。

将在回复《AI（人工智能）到底是什么？（ ）》中，再接着详谈介绍一些AI的基础底层技术（如算法、自然语言处理等），以便大家对AI有更进一步的全面了解。

后，再顺便打个小广告，“陈思进财经漫画”系列第一部《漫画生活中的财经》新鲜出炉，谢谢关注！

你对这个问题有什么更好的意见吗？欢迎在下方留言讨论！

这是一个很大问题。前几天，沙特授以机器人索菲亚为沙特公民身份，这是个里程碑**，已将机器人提升到与人平等的关系。

当然，这还是弱人工智能时代，大部分机器人都是通过人的程序，人训练的交互模式运行的，机器人还是人类可控的机器。

未来，人类进入强人工智能时代，机器人有意识、有情感，在智能活动上甚至远超于人类。如何处理人类与智能机器人的关系，令很多科学家和科技大佬头疼。这是需要从法律和道德伦理等方面重构人与智能机器人的关系。毫无疑问，建立一种基于人类的可控的人机协作伙伴关系是理想的，但也要严密预防机器人不当的利用给对人类带来灾难。

人工智能与人类应当是从属关系，人工智能只能从事辅助类工作，而并不能跟人类平起平坐。比如你可以给一家公司让它帮你管理，但这家公司永远不可能是属于它的。简单的说，它并不能拥有专属于人类的基本权力。

因为如果一个人工智能如果权力与人类相当甚至超过人类，那对人类来说将是非常危险的。因为在它们看来，机器生命也许比自然生命更为有效，因而可能会引起对人类的捕*。

所以，人类对人工智能的开发应当保持克制，在没有能力完全控制住它时，不能让它的智能无限提高。更不能让它拥有人类的自我意识，要不然，它成佛便罢，要是自带魔性，人类末日就到了。。。

二、人工智能与人类的关系

分类:教育/科学>>科学技术>>工程技术科学

解析:

近50年来，人工智能走的是一条曲折发展的道路。1990年代初，研究者深感人工智能理论及技术的局限性，从而从不同角度和层次进行反思。同时，人工智能有待于人类对人脑工作机理的深入了解，需要神经生理学、神经解剖学给出更加详细的信息和证据。

人工智能交融了诸多学科，与哲学更是密不可分。尽管事实上，新近的哲学进展基本上没给科学带来任何冲击，并且哲学的讨论对象往往是悬而未决的（Russell S，Norvig P. Artificial Intelligence: Amodern Approach. NJ：Prentice Hall，1995. 817），但科学却在继续改变着我们对自己的认识。

正如恩格斯所说（恩格斯.自然辩证法.北京:人民出版社, 1972. 187）：“不管自然科学家采取什么样的态度，他们还是得受哲学的支配。问题只在于：他们是愿意受某种坏的时髦的哲学的支配，还是愿意受一种建立在通晓思维的历史和成就的基础上的理论思维的支配。”

着眼于更宽泛的视野和更远大的目标，要求从哲学角度寻求更加有效的人工智能研究方法。坚持物质决定意识的观点，辩证地看待已有的认识和方法，融合与集成各相关学科的成就和意见，是正确的出发点。

人工智能的哲学意义

人工智能是对人类智能的一种模拟和扩展，其核心是思维模拟。

思维

思维科学是研究思维的规律和方法的科学，钱学森将它划分为基础科学、技术科学和工程技术三部分，人工智能属于工程技术范畴（钱学森.关于思维科学.上海：上海人民出版社，1986.20）。人工智能研究中逻辑学派和心理学派之争，有时似使人感到迷惘而莫知所从，但从思维科学的角度来看，无非是形象思维和逻辑思维的关系问题，两者都属于思维科学的基础科学。抽象思维的不足在于缺乏结构的综合能力。只有形象思维才能综合出新的结构。这也许就是创造和学习终必须具有形象思维的原因（潘云鹤.模式识别与人工智能, 1991, 4(4): 7）。

不同的划分观点认为，思维科学体系的基础科学包括两大类：一类是总结人类思维经验、揭示思维对象的普遍规律和思维本身普遍规律的各种思维科学，包括哲学世界观、哲学史、认识论和逻辑学，是理论的思维科学。另一类思维科学包括研究思维主体——人脑的生理结构和功能，揭示思维过程生理机制的神经生理学和神经解剖学等。这种观点将认识论归在思维科学的基础科学范围内。其实两种观点，

都不否认人工智能和哲学通过认识论相联系。

认识论

认识论研究认识的源泉、发展、过程、能力、作用等一般规律问题。换言之，认识论研究的是知识及其形式和局限性。哲学家强调通过大机会的观察和计算，明确什么是潜在可知的；而人工智能注重通过现有的观察和计算途径，弄清什么是可知的。而在实际情况中，人工智能和认识论在本质上是互相交融和兼备的。

认识论对人工智能的研究方向和方法具有指导意义，但并不意味它能替代具体的研究，也不表示任何人工智能的研究都要显式地考虑到认识论。由于对诸如世界的一般表达等问题还未真正达成一致，如果仅依赖从哲学中获得具体的丰富信息来编写计算机程序，人工智能将会处于非常无望的状态。

心智哲学和认知科学

心智是指人们的记忆、思想、意识、感情、意向、愿望、思维、智能等多种心理行为（章士嵘，王炳文.当代西方著名哲学家评传（2）.心智哲学.济南：山东人民出版社，1996）。普特南（H.Putnam）根据计算机科学对软件与硬件的划分，将心智与大脑的关系理解为功能状态和物理状态。西蒙（H.Simon）根据信息加工理论，认为人类思维本质上是信息加工过程，计算机也是信息加工系统，所以，计算机能思维而且能模拟人的思维。人们的心灵、精神世界历来是哲学家反思的对象，这一研究领域构成了心智哲学的主题。心智哲学在人工智能、脑科学、认知心理学、控制论、语言学等的推动下，呈现出生机勃勃的景象。

胡塞尔（E.Husserl）是第一位把心智表达的指向性作为其哲学中心的哲学家，他在心智哲学中第一次提出了关于心智表达作用的一般理论。他认为，智能是一种由语境规定的和由目标导引的活动，是一种对预期事实的搜素。

与心智哲学互相渗透的认知科学是1970年代末正式宣告诞生的交叉学科。它是人工智能、认知心理学、语言学、哲学、人类学、神经生理学等学科的综合，研究智能系统的工作原理。其核心思想是称为认知主义的思想，其中一个中心命题是智能行为可以由内在的“认知过程”即理性的思维过程来解释。因而，一个很自然的假设就是从与计算机相类比的心智模型出发来研究心智的工作原理，把认知过程理解为信息加工过程，把一切智能系统理解为物理符号系统。

心智哲学是较认知科学高一层次的理论，但两者的相互作用和影响是毋庸置疑的。心智哲学不应超越认知科学的研究成果而作任意的理论假设，认知科学也不应排斥心智哲学的理论成果去作盲目的探索。

认知心理学

认知心理学和人工智能，是认知科学的两个组成部分。人工智能使用了心理学的理论，心理学又借用了人工智能的成果。将人脑和计算机相类比，是发展认知心理学的一条主要途径。

认知心理学旨在认识人类的认知心理，将这种认识通过计算机程序语言表达出来；人工智能致力于用计算机语言描述人的智能，并用计算机加以实现。两者的共同点在于用计算机程序语言刻划人类智能。然而，它们也存在一个重要的区别。人工智能试图且已经给计算机施加了一个模拟人类智能的程序，该程序包括知道这个系统本身的过程，然后给系统以一定任务，它就会产生行为。这说明人工智能是确

实的、得到证实的。而认知心理学，还不能肯定信息加工过程是人类智能的唯一心理原因，就连此信息加工过程本身也没有直接的明确证据。认知心理学只能从行为去推断心智用什么程序来造成行为，带有很大假说性。

德雷福斯（L.Dreyfus）把胡塞尔看成当代认知心理学和人工智能的先驱。他认为超验现象学在两个方面与人工智能有关系：第一，胡塞尔十分自觉地把探索心里结构作为他的哲学研究的中心。第二，胡塞尔具体地说明了在意向活动中人们所期望的对象世界的构成，及其所包含的复杂的形式结构。德雷福斯指出，人的认知能力是通过实践而发展的。这种独特的认知能力为人类存在于世界的方式提供了无

限的丰富性，构成了人类所有智能行为的基础。认知心理学企图通过纯认识结构来把握一切智能而根本不考虑头脑的非认知方面，这种想法注定不会成功。一切智能和智能行为都必须追溯到人类对自身是什么的理解上，而这一点由于会陷入无穷的递归，所以人类永远不能完全弄清。人类智能的基础既不可能被分离出来，也不可能被清晰地理解。他还指出，胡塞尔的意识与明斯基（M.Minsky）的框架理论十分类似。人工智能在发展过程中终不得不面对日常知识的表达问题，它们是困难的、关键的、在哲学上引人入胜的，人工智能至今仍在为之奋斗。

人工智能的物质基础

早在1950年代，就出现了两种争论激烈的观点：一种认为计算机是处理思维符号的系统，另一种认为是对大脑建模的媒介；一种致力于用计算机示例世界的形式化表达，另一种则仿真神经元的交互；一种把问题解决当作智能的范型；另一种强调学习；一种使用逻辑，另一种基于统计；一种是哲学上理性主义和还原主义的继承者，另一种将自己视作神经科学。事实上，它们分别代表了符号主义学派和连接

主义学派。

心理学中，定位于复杂思维与神经元之间的符号层次的理论很重要。符号是思维的材料，但也是物质的样式。“观念”与大脑可触知的生物物质之间有明显、根本的不同，这无疑对人工神经网络的建模具有意义。但很遗憾，目前人类对真实神经系统的了解非常有限，对自身脑结构及其活动机理的认识还十分肤浅，众多神经网络的模型实际上是极为简略粗糙并且带有某种“先验”。譬如，波尔茨曼机引入随机扰动来避免局部小虽具有独特之处，然而却缺乏必要的神经生理学基础（董军，潘云鹤.人工智能与认识论问题的思考提纲.见：中国人工智能进展.北京：北京邮电大学出版社，2001. 22）。

有观点认为，对神经信息处理机制的深入分析可能会引起计算科学革命性的变化。语言能力是人脑特有的高级功能，但对语言的中枢表象目前仍只有很模糊的认识，甚至连研究这类信息处理过程所采用的合适研究方法还至今阙如。为此，迫切需要方**的指导，因为它对神经网络的研究及其作用是毋庸置疑的。

1980年代中后期，人们发现脑中存在混沌现象，由于它可能揭示脑活动的深层机制而受到广泛重视。从生理本质出发是研究神经网络的根本手段。混沌神经网络研究探索非稳状态下网络的动态行为和信息处理能力。混沌动力学为研究人工神经网络和人工智能提供了新的契机。这里并不是单纯提倡纯粹意义上的生理模拟，因为人类把握自然和社会的规律并非是一种“照搬照抄”的过程，人工神经网络的初衷也非“逼真”地描***实神经系统，而只是根据物质基础和客观依据进行简化、抽象和模拟。

神经网络的基础结构更类似于脑，而不是标准计算机的结构。它们的单元并没有真实神经元那样复杂，它们的结构与新皮层的回路相比也过于简单。尽管神经网络具有这些局限性，但仍然显示出惊人的完成任务的能力。人脑对信息的处理采用的基于符号的串行逻辑推理过程，一开始就被现代数字计算机所采用。

有趣的是，仿佛有这样一条人工智能的“定理”：一旦某种思维的功能被编成程序，人们就不再认为它是“实际思维”的基本组成部分了。而人工智能的核心总是指那些还未能编制成程序的部分。

人工神经网络还有很多根本性、基础性的问题需要解决。在某种程度上，它仅仅作为一种算法，但这不能掩盖神经网络是在思维是物质世界的产物、是人脑的机能这样的前提下的尝试和产物。无论是对史前文明的探索，还是“天”外智能的好奇，都没有理由否认物质决定意识这个基本观点。

人类智慧与人工智能

对人的特质作出解释的模型很多是来自宗教、艺术等。例如，原始艺术的象征语言把人类的原始本能和超自然世界的各种意象以特有的符号手段结构化，它们被赋予特有的形式，从而组合成各种表现形态的形象系统。这让我们不仅了解到人类智能有着不同的具体表达，也明白智能是依赖于社会生活和客观现实的。

然而，道途艰辛。把人类原始的、潜意识的思想加以分解，有如分解佛教禅宗**为迷惑心智以达到绝对虚无所下的玄秘功夫那样，十分困难。况且，要到达人类级的人工智能已被证明是困难的，而且进展缓慢。

辩证唯物主义不同意那种机器能够独立地思维、机器可以比人更聪明的观点，很重要的理由在于思维是生物长期进化、特别是社会活动的产物。哥德尔赞同人类的心智超过所有的机器的结论。计算机中能不断繁殖和**自己的人工生命如病*,初也是由人类制造的。计算机的世界完全是由科学家们设计创造的，是人脑的结晶。

庄子与惠子有如下的对话。庄子与惠子游于濠梁之上，庄子曰：“倏鱼出游从容，是鱼之乐也。”惠子曰：“子非鱼，安知鱼之乐？”庄子曰：“子非我，安知我不知鱼之乐。”惠子曰：“我非子，固不知子矣，子固非鱼矣，子之不知鱼之乐全矣。”庄子曰：“请循其本，子曰‘汝安知鱼乐’云者，既已知吾知之而问我，我知之濠上也。”（庄子·秋水）

人类智慧与人工智能孰高孰底、熟胜孰负，智能的复杂和神秘，如同这段文字本身的内涵和后代的种种解析那样，引人入胜，令人悠然神往。

探寻人工智能的发展途径

人工智能研究者愿意用精神术语描述机器有两个原因。第一，希望给机器提供知识和信念的理论以使它们能对其用户知道的、不知道的和所想要的进行推理；第二，用户对机器的了解常常能用精神术语好地表达。在人工智能的发展过程中，心理学和哲学自然而然与它互相影响。而人工智能与哲学的关系，初是通过心理学这个桥梁的。

人工智能一开始是自上而下和自下而上相结合的。自上而下或“内涵式”的表述往往给人带来一种恍然大悟的感觉，自下而上或“外延式”的表述却像一份说明书。其实，的确需要两种途径：一种是自上而下的、把思想映射于神经元群上；另一种是自下而上的、用来解释思想如何由那些看起来是杂*无章的神经元集群产生的。

认知科学发展中存在一个值得思考的奇怪现象，对诸如下棋、解密码之类的可以相对跟环境隔离的看似很困难的任务而言，计算机系统可以超过专门训练的人；然而对一些通常的通过由长期进化形成的认知功能，比如视觉和听觉，经过几十年努力发展的人工智能系统还不如婴儿的能力。大脑的智力活动必须从进化的角度、从社会和历史发展的约束的角度来研究才能得到充分正确的理解。

虽然我们必须经常遵循有统整作用和简化作用的大原则，但也必须承认在科学里存在着不可还原的复杂性。讨论人工智能与认识论的关系，当然不能替代人工智能的研究，但它可使人工智能研究者不致如入沼泽而迷失方向。然而，遗憾的是，人工智能研究者往往会忽略人工智能与哲学的联系和基本的辩证思维方法——归纳和演绎，分析和综合等。事实上，每个人在自己的思维体验中都能感到分析与综合

的频繁与重要。但是，人类对这样一对基本思维机理的研究却如此薄弱。历史地看，人工智能的发展不时地陷入没有预想到的深层困境，这提醒我们不仅应当从人工智能发展的技术问题，而且应当从人工智能的根本概念和理论上去寻找原因，人工智能需要更为宽广的眼界

和宏观的方**指导。

三、如果人工智能觉醒后会与人类共存***该如何论证呢

要论证我们变一种提问方式，可以置换为，人类如何使用和维护人工智能机器人的问题，当然不是如何来发明研制它的问题。

首先我们可以想到，如果人工智能机器人只是给人类带来诸多不便、麻烦、甚至危险的话，人类为什么还要发明和制作它？因此，在制研之前的设计阶段，设计人员就会注意到避免人工智能机器人危害人类的可能性。

一般来讲，对于人工智能机器人的使用，只要按照其使用说明书使用就行了。如果是家庭用人工智能机器人，按照它规定的功能，你就把它当作在这方面顾了一个佣人就可以了，它不会要求你给它增加工资，也不会申请调休假期；但也不会主动去做任何规定功能以外的事情，譬如说洗碗机器人，绝对不会在饭后主动到饭桌去收拾你的碗筷。如果是工业人工智能机器人，既然原来就说工具是人类手的延长，你就把它当作手的继续延长好了，它可以代替人手的*作，一台机器人可以同时代替许多只手，甚至包括预置了的分析判断功能，而且它可以比人工干得更快更好，还能够避免人为误差；但是，它也和家庭用人工智能机器人一样，不会主动去干规定功能范围以外的任何事情，除非它出了故障，变得像一个神经错*了的人。

对于人工智能机器人维护的问题，大家知道它属于一种电子机械。既然是电子机械，一般电子设备的维护常识、一般机械设备的使用维护常识，都适用于它，除此之外还要注意它的专用使用说明书中列出的特殊的维护方法。

对于人类使用人工智能机器人的时候，有没有什么不适应的感觉，可以高兴地告诉你“人往高处走，水往洼处流”，人类适应舒适生活的速度非常快。电视机的普及速度、手机的普及速度就是一个很好的证明；反倒是如果哪一天电视机没有信号了、手机没有信号了，你会觉得非常难受。野生动物春夏秋冬一张皮；让人去过动物那样的生活就会受不了，相反地，如果让长年室外劳作的人过上冬天有暖气、夏天有空调的日子，他不会产生什么样的抵触情绪。

对于会不会因为人工智能机器人的普及造成大量体力劳动者失业的问题，如果仅就局部而言，可能是无可避免的；但是，从长期和全局来看，就完全不成为其问题。试问，谁见过因农村拖拉机的广泛应用，而饿死过用犁头犁地的农人以及制作犁头和犁仗的铁匠与木匠？历史上每一次生产力的进步都造福于人类，而不是人类的灾难。