智能时代工程师的伦理责任
当“阿尔法狗”完胜围棋名将李世石和柯洁，机器人索菲亚获得沙特阿拉伯公民身份以后，社会各界对人工智能的关注空前高涨，对智能时代的反思颇多担忧。因为以信息高速公路为基础，以人工智能、虚拟现实、万物互联、大数据应用等为技术内核，以社会生产和人类生活全面智能化为基本特征的智能时代不仅给我们带来了便捷，也对人类隐私、生命乃至公平正义造成了巨大威胁和全面挑战。因此，智能时代的工程师如何化解技术风险，并在保护隐私、关爱生命、守护公平正义等方面主动承担起自身的伦理责任，从而实现工程造福人类的目标，无疑是当前和今后一段时期急需深入思考的重大课题。
保护隐私
隐私权是指自然人享有的一种私人生活与私人信息不被他人侵扰、知悉、收集、利用和公开的合法权利。随着大数据、物联网等新兴技术的研发与应用，私人领域与公共领域的界限逐渐模糊，个人隐私权也遭受到前所未有的挑战，因此保护隐私和信息安全就成为当前工程师极其棘手和重要的伦理责任。
大数据的应用可能侵犯人类隐私。近年来，关于数据泄露的报道时有发生，如2018年3月脸书5000万用户的个人信息被英国剑桥分析公司窃取；谷歌为美国国防部开发的“专家项目”通过“点击”任何建筑物、车辆、人群等，就能查看与之相关的一切信息。此外，政府、企业、医院对医疗健康大数据的不当使用，都可能导致个人的健康信息被泄露。在大数据面前，人类几无隐私可言，正如美国作家塔克尔在其《赤裸裸的未来》中描述的那样：“我们生活在一个‘超级透明’的世界，我们泄露出去的海量信息无处不在。”由此促使人们对大数据的思考走向深入，如谁拥有大数据的所有权、使用权？由谁来负责大数据的监管以保证其被合理合法使用？
物联网可能使个人随时处在智能设备的监控之下。射频识别技术是物联网的重要技术之一，通过射频识别技术，所有带有电子标签的物品如衣服等均可能随时随地不受控制地被扫描、定位和追踪，这势必会导致个人隐私被侵犯。不远的未来，万物互联将会走进现实，所有的人与物都将无一例外地卷入万物互联之中，类似智能手表的穿戴设备则是将人接入网络的入口。通过各种穿戴设备，个人信息将会实现适时自动上传，并被收集、存储和使用。一旦使用不当，人类的隐私问题必将更加凸显。
如何保护人类的隐私不受侵犯？我国不久前出台的《网络安全法》明确提出的“谁收集、谁负责”的原则对于隐私保护虽然具有一定意义，但要将这项工作真正落到实处，更需智能时代的工程师担负起保护隐私的伦理责任，并在关于数据的收集、使用、存储以及监督等环节中尽力做到：收集要授权，使用需分级，存储应保护，追责当有力。具体来说，数据收集应该征得用户的同意和授权；所有数据需按照隐私程度进行分级，设置不同级别数据的使用权限；数据存储应受到严格的技术保护；如出现不当使用，应追查责任源头并严肃追责。当然，任何事物都具有两面性，智能技术在挑战人类隐私的同时也可以起到积极的正面作用，如智能技术可以通过对海量数据的分析，跟踪网络异常行为，快速检测恶意软件，防止诈骗和黑客入侵，提升网络安全防御水平，从而使人类隐私得到有效保护。
关爱生命
康德等人提出的道义论强调人在行为之前应该具有善良意志，即善良的愿望或善良的动机。而智能时代语境下的技术理性过度膨胀使得人类生命受到威胁，德国大众汽车公司机器人杀人、Uber自动驾驶汽车撞死行人事件就是最好的例证。为规避智能技术因缺乏人文关怀而带来的潜在风险，在大型工程实践中工程师应从善良意志出发，以关爱生命为其基本伦理规范，力争做出“善”的工程。
众所周知，人工智能分为弱人工智能、强人工智能和超人工智能三类，其中“阿尔法狗”是弱人工智能的典型代表。对强人工智能产品一旦处置不当，人类将会面临前所未有的威胁甚至走向毁灭。正如霍金所说，人工智能的成功有可能是人类文明史上最大的事件，但是人工智能也有可能是人类文明史的终结，除非我们学会如何避免风险。如何避免风险？首要的是让机器人按照人类的伦理道德规范行事。美国学者瓦拉赫和艾伦在他们的著作《道德机器：如何让机器人明辨是非》中，提出了使机器拥有道德的三条解决路径：一是自上而下，就是把人类已经成熟的伦理系统、道德理论体系灌输进去，即理论驱动决策；二是自下而上式的数据驱动的学习和进化的方式；三是混合进路系统，即将前两种结合起来，使人工智能体在一定的普遍伦理准则指引下，通过深度学习算法，在与人类的互动中不断完善其伦理系统。
事实上，科幻作家阿西莫夫1942年就在《我，机器人》一书中提出了大家熟知的机器人学三定律，以确保人类不受伤害。站在当下，让智能产品拥有道德固然重要，但工程师积极履行关爱生命的伦理责任，做到有所为有所不为才是根本。近年来，相关国家、部门、企业甚至个人都提出了智能产品研发的道德准则，如韩国政府拟订《机器人道德宪章》、美国信息技术产业委员会（ITI）颁布人工智能政策准则、美国电气电子工程师学会（IEEE）发布第二版《人工智能设计的伦理准则》、欧盟出台史上最严的《通用数据保护条例》，等等。
为回应智能时代对人类生命的威胁，履行关爱生命的伦理责任，工程师应该做到：反思智能产品关涉的技术风险，做好智能产品前瞻性的伦理评估，避免智能产品伦理缺位；对智能产品开展道德代码和伦理嵌入研究，使机器“算法”遵循“善法”，并按人类伦理道德规范行事；坚决抵制智能武器的开发和应用，严格限制智能产品使用武器的能力，尤其是使用高能武器的能力；注重专能机器人的研发，限制全能机器人的设计，消除当机器人具有自我或反思能力时毁灭人类的可能性，始终将人机关系的主导权牢牢掌握在人类的手中。
守护公平正义
智能时代将对人类整体幸福带来一些不利影响，如失业人数增加、贫富差距拉大、偏见歧视频现，导致人类对公平正义的价值追求可能无功而返，而这就迫切需要工程师积极应对，勇于担责。
首先，智能时代可能导致失业率飙升，贫富差距加大。赫拉利在《未来简史》中指出，人工智能的大量应用必将导致大量失业。美国莱斯大学教授瓦迪表示，2045年人类失业率将超过50%。2016年世界经济论坛预测，在2020年全球15个主要的工业化国家中，将有510万个就业岗位流失。以富士康为例，截至2016年，富士康在中国各大生产基地安装了4万台机器人，受此影响，富士康员工数量减少了6万人。失业率飙升是机器人接管人类工作和生活的开始，随后还将导致巨额财富集中到少部分掌握智能技术的高科技企业或国家手中，由此，全球贫富差距将进一步扩大。
其次，智能时代的偏见或歧视频现。2018年2月的《纽约时报》刊文指出，如今非常热门的人脸识别技术，针对不同种族的准确率差异巨大；在首届2016年“国际人工智能选美大赛”上，基于“能准确评估人类审美与健康标准”的机器人专家组对人类面部进行评判，比赛的获胜者都是白人。类似案例充分说明，当前人工智能在研发或设计方面的偏见或歧视大量存在，亟待改进。尤为危险的是，人工智能还可能强化所习得的偏见，导致偏见走向深度化和普遍化，而不能像人一样有意识地去抵制或克服偏见。
智能时代的工程师要化解社会矛盾，消除偏见与歧视，应主动担负起守护公平正义的伦理责任，并在工程实践中尽力做到：始终坚持公平原则，在工程设计或人工智能产品开发中，应充分考虑各种因素，避免由于人为因素造成的不平等；始终坚持正义原则，以最大多数人的幸福为基本出发点，让智能产品造福全人类而不是仅为少数人服务；在坚持公平正义原则的同时，还应对工程实践导致的利益受损方包括自然在内给予必要的爱护与补偿。
智能当道，未来已来。为实现人机和谐共处、人类永续发展，智能时代工程师的伦理责任并不仅囿于以上范围。立足长远，工程师作为智能时代的重要一员，应站在人类命运共同体的高度，直面问题、团结协作、化解矛盾，积极担负起智能时代应有的伦理责任，为增进人类福祉而不懈努力。
（作者：邱德胜，系西南大学哲学系教授）
智能机器人技术应用与发展趋势
王耀南院士在2020国家机器人发展论坛作报告
作者简介：王耀南，中国工程院院士，湖南大学教授。1981年毕业于东华理工大学电子计算机系，1989-1995年获湖南大学工业自动化系硕士、博士学位，1995-1997年国防科学技术大学自动控制系博士后研究，1998-2001年德国Bremen大学自动化系德国洪堡学者，2002-2004年德国Bremen大学BIBA研究所，欧盟第五框架国际合作重大项目首席科学家。2001-2020年担任湖南大学电气与信息工程学院院长，2014年任机器人视觉感知与控制技术国家工程实验室主任，2015-2020年湖南大学机器人学院院长。
国家“百千万人才工程”入选者、中国自动化学会会士、中国计算机学会会士、中国人工智能学会会士、国家863计划智能机器人领域主题专家。中国图象图形学会理事长、全国智能机器人创新联盟副理事长、中国自动化学会常务理事、中国人工智能学会监事、教育部科技委能源与交通学部委员、湖南省自动化学会理事长等。
长期从事智能控制与机器人技术的教学和科研工作。成果获国家技术发明二等奖1项、国家科技进步二等奖4项、国际IEEE机器人与自动化领域“工业应用最高奖”。培养博士70余名（含IEEEFellow、长江学者、国家杰青等），发表IEEE等SCI论文160余篇，出版著作12部，获国家发明专利80余项。获得全国高等学校优秀教师、全国五一劳动奖章、全国先进工作者、全国创新争先奖等荣誉称号。
一、发展机器人的意义和目的
智能机器人发展永远在路上。我国东汉时期就出现了驾驶车马车，可以说是世界上最早出现的无人驾驶车，随着现代工业的发展，机器人进入第二个阶段开始为工业服务，20世纪机器人进入第三阶段即智能机器人时代。
人类在最早进入现代工业时代时，便将机器人应用到工业领域，使用工业机器人进行生产活动。由于劳动力极度短缺，二战后日本、美国和德国大范围应用机器人替代人工，因此，二战后的60年代这些国家就发展了工业机器人。
随着机器人的诞生，其越来越多的应用到汽车制造过程中，机器人技术发展到现在，正朝着工业4.0的目标大步前进。目前的机器人还只是自动化的装置，并不是真的智能机器人，未来需要的是真正智能的机器人。
机器人是制造强国的重要工具，机器人能够高效的完成焊接、加工、测量、检测等，尤其是我国，国家重大装备制造、例如航空及航天制造等方面离不开智能机器人，其在室内的使用也具有广泛前景。除此之外，机器人对国家民生工程方面也起到了至关重要的作用，机器人能辅助和替代人类完成危险的工作环节，能从事复杂、重复性高且耗时的任务，在大型工程建造、大型桥梁建造、应用维护、海洋开发、太空探索及智能制造中都发挥了极大的作用。机器人是国家重大工程建设的基础设施，是“新基建”建设中的重要时代脉络。
发展机器人最重要的在制造业，机器人能够解决制造业中的许多人工难点和痛点问题，例如人口老龄化、招工困难及制造难，产品迭代更新、小批量、多品种制造等方面的问题，同时也可以有效解决劳动力短缺、人口老龄化等问题。
二、国内外机器人的发展现状
当今世界各国都在大力发展机器人技术，如美国的机器人计划2.0，德国、欧盟的工业4.0计划、中国制造2025以及日本的机器人战略，以推动机器人向着高端制造、智能制造进军，抢占制高点。
从美国战略2.0可以分析，美国战略2.0强调多机器人之间相互交流和协作，打造机器人感知。德国工业4.0更多强调智能工厂，打造智能强国，在智能生产线、智能车间、智能工厂当中发挥机器人作用，通过信息物理系统将机器人融合到生产线中。欧盟期望打造机器人的协同，强调机器人之间的协作和面向医疗、人类生命健康的机器人及手术机器人。
中国机器人近十年来的发展可以分为两个阶段，前五年基本上在产业发展期，目前已经进入高端期。机器人是“制造业皇冠顶端的明珠”,其研发、制造、应用是衡量一个国家科技创新和高端制造业水平的重要标志，要把我国机器人水平提高上去。因此，我国需要将国家机器人产业提高上去，占领更多的市场，发展机器人技术和产业已经成为我国的重大战略需求。“中国制造2025年”和《新一代人工智能发展规划纲要》等的发布就是要推进智能机器人发展，为国民经济和国家重大战略、国家重大工程服务，围绕机器人发展，各地政府和地方出台了很多政策，其中就包括深圳市，深圳市在服务机器人领域的发力非常明显。
三、智能机器人的关键技术
机器人（Robot）是一种可以自动执行操作或者移动作业的机械装置，它具有感知、规划、决策、控制等功能，能够完成人类难以完成的任务和重复、枯燥、危险或在恶劣环境下的工作。
从用途上机器人可以分为，工业机器人、农业机器人、医疗机器人、巡检机器人等；从空间上可以分为有陆、海、空等机器人。其中，工业机器人是主力，其次是水下机器人、空间机器人等。
不管机器人有多复杂，不管是何种类型的机器人，它都是一个自动化的系统，具备感知系统、决策系统和控制系统。机器人的关键技术主要就是四部分：本体机构、感知、决策和执行技术。用自动化的语言来描述即机器人是一个感知、决策和执行的反馈控制系统。
机器人也涵盖了许多的交叉学科，如机械工程、人工智能、控制科学、计算机、电子、材料以及多学科交叉融合。机器人在今天无处不在，被广泛应用到制造业、物流业、医疗行业、人类生活服务、海洋、航空、航天等领域，其在汽车制造和电子制造中也发挥了极大的作用。
四、机器人的未来发展方向
在装备制造业，大型复杂系统的构建，例如航空航天器的制造等方面，也需要多机器人的协同装配。除此之外，探月机器人等空间机器人近两年也发展迅速，因为各国都在竞争太空资源，还有用于海洋的辅助、打捞、水下探测等的海洋机器人，应用于恶劣环境下的科技考察的科研机器人，例如珠穆朗玛峰的攀登等在未来可使用机器人进行。
2020年新冠疫情爆发后，医疗机器人也将成为未来机器人发展的主攻方向，如开发出测温-诊断智能机器人、智能消毒机器人、医药物资搬运智能机器人等疫情应急防控机器人、助力机器人和防疫机器人等。脑机接口机器人是十大机器人热点问题之一，军用机器人、特种作业机器人也是未来的重大发展方向。
在科学杂志发布的机器人十大挑战和方向中，智能机器人是其中最重要的一个方向，包括脑机接口、社会交互、医疗、多机器群等都是智能机器人的发展方向。智能机器人网络、交互两个特征，体现出了智能化自主感知功能。机器人必须具备五大要素：感知、规划、决策、运动、自学习，其中智能感知、智能协作规划和智能精准控制是机器人的三大核心技术。
在机器人智能感知方面。设计完整的机器人视觉感知系统，打造微传感、高智能化的感控一体的芯片是十分重要的发展方向，其中也有诸多的工作要做。其将在机器人的三维识别、SLAM技术，机器人测量等方面的应用产生深远的影响。
在机器人控制技术方面。机器人的柔顺控制、机器人智能控制和多机器人协同控制都是当下的研究热点。其应用中都体现出了基于深度学习、强化学习的机器人控制技术。任务分配、复杂任务精准配置、网络控制和控制弹性，在抵御网络攻击的情况下保证系统有条不紊的工作都是机器人控制技术需要研究的内容。
机器人除了智能感知和智能控制，还需要稳定有效的关节，机器人关节是其执行机构的关键部件。机器人要完成复杂的任务作业还需要有灵巧的手，无论是医疗、工业、航天，还是海洋机器人都要用手来完成复杂的作业任务，因此灵巧的手是机器人的第四个关键技术。
基于四大技术可以把机器人集成创新，形成机器人系统应用，可以打造工业机器人、服务机器人、特种作业机器人，将其应用到不同领域。设计机器人的协同、调度、柔性自动化生产线，在制药、饮料等行业应用机器视觉，在汽车制造、电子装配的某些工序等方面使用机器人替代人工等方面都是未来的发展方向。
目前的机器人还处于工业1.0、2.0的阶段，未来机器人应该是机器人3.0，除了具备目前的功能外还要具备情感交互、人机协作、自学习、人机交互、语义分析和自然语言理解等方面的功能，这样才可以真正成为智能服务机器人，未来还期望机器人发展成自主服务机器人，进阶到4.0阶段。这其中有大量的工作需要完成，需要将AI技术，感知能力、记忆能力、学习能力、决策能力有机加入到机器人，让机器人具备一个智能化、自主网络控制系统，形成机器人大盘。发展机器人，人工智能是其中的关键，人工智能三大核心技术，感知技术、认知技术、行为控制技术是决定智能机器人的未来。
未来机器人的应用将面向网络协同化制造，基于柔性的自动化生产线进行小批量、多品种和个性化的制造。其需要具备数字化、网络化、智能化的特征，具备工业互联网络架构下的智能制造，形成从产品设计、研发、制造到服务的全流程智能制造。网络化协同制造可以满足个性化的生产与服务模式，以及复杂多变的作业环境与任务，是未来工业向智能化生产发展的趋势。机器人将在其中扮演重要作用。
在5G到来的时代背景下，在通讯速率提高，宽带、时延减少的云空间下，借用5G技术打造新一代智能网联电动车、智能无人飞行器、智能网联电动车也是未来城市美好的生活向往，即打造智能网联、无人驾驶、无人码头、机场。
人机交互也是非常重要的发展方向，人机协作模式将人的优势（智慧性、灵巧性）与机器人优势（高速率、高精度）深度结合，实现人机柔性作业，解决机器人部署成本高、柔性不足的问题。在工业、农业或者精准医疗方面都有极其重要的应用场景，它是将人工智能与机器人有机结合的强力纽带，其中包括语言识别、物体识别、语意理解、情感分析、意图理解以及决策层具备多模态交互、步态识别和交互等。
未来机器人发展一定是网络化、自主化、协作化、灵巧化的，同时机器人发展需要一个规划好的可执行性的战略，还要有创新的环境和下一代机器人的标准和技术，最关键的是要着力培养一批高水平科研带头人和产业队伍人才。