人工智能，语言与伦理
什么是弱人工智能、强人工智能、通用人工智能以及专用人工智能？人工智能史上的“三国演义”，为何需要哲学眼光的梳理？“大数据”真的那么智能吗？如何教计算机说人话？计算机能够懂汉语吗？计算机能够懂得“一个帅哥”与“一枚帅哥”之间的区别吗？人工智能能够理解隐喻吗？如何设计一个“儒家机器人”？这一切，将在《人工智能：语言与伦理》这门课中得到解答。
人工智能迫切需要一个“伦理转向”
原标题：人工智能迫切需要一个“伦理转向”当前人工智能的发展主要受益于以深度学习为代表的机器学习技术，这让计算机可以从大量数据中自主学习与进化，从而作出比人类更高效、更精准、更廉价的预测与决策。正因如此，人工智能作为新的通用型技术，被认为将给经济和社会带来变革性影响，已被各国上升到国家战略和科技主权高度，成为不断升温的全球科技竞争的新焦点。
在应用层面，人工智能已经渗透到各行各业，算法帮我们过滤掉垃圾邮件，给我们推荐可能喜欢的歌曲，为我们翻译不同的语言文字，替我们驾驶汽车。新冠肺炎疫情暴发以来，人工智能在辅助医疗诊断与新药研发等方面崭露头角，无人物流配送、无人驾驶汽车等新模式助力非接触服务发展。总之，人工智能潜力巨大，可以成为一股向善的力量，不仅带来经济增长，增进社会福祉，还能促进可持续发展。
但与此同时，人工智能及其应用的负面影响与伦理问题也日益凸显，呼吁人们在技术及其产业化之外更加关注伦理视域。例如，人工智能模型训练及其应用离不开大量数据的支持，可能导致违法违规或过度收集、使用用户数据，加深人工智能与数据隐私保护之间的紧张关系；人脸识别技术在一些场景的应用也引发了国内外对该技术侵犯个人隐私的争议。人工智能技术也可能被不法分子滥用，例如用来从事网络犯罪，生产、传播假新闻，合成足以扰乱视听的虚假影像等。
随着算法歧视的不断发酵，人工智能参与决策的公平性问题也备受关注。有研究发现，很多商业化的人脸识别系统都存在种族、性别等偏见，这样的技术用于自动驾驶汽车，就可能导致黑人等深色皮肤的人更容易被自动驾驶汽车撞到。人工智能在招聘、广告投放、信贷、保险、医疗、教育、司法审判、犯罪量刑、公共服务等诸多方面的应用也伴随公平性争议。此外，人工智能的知识产权保护问题也日益浮现，目前人工智能已能够独立创造诗歌、小说、图片、视频等，知识产权制度将需要尽快回应人工智能创造物的保护问题。自动驾驶汽车、AI医疗产品等人工智能应用一旦发生事故，也面临谁来担责的难题。最后，人工智能的应用可能取代部分手工的、重复性的劳动，给劳动者就业带来一定冲击。
2020年被认为是人工智能监管元年，美欧采取的监管路径大相径庭。欧盟《人工智能白皮书》提出的“重监管”模式更多倚重事前的规制，考虑为技术开发与应用设置严苛条件；美国《人工智能应用监管指南》提出的“轻监管”模式更多倚重标准、指南等弹性手段，考虑为人工智能应用设置避风港、“监管沙箱”等。在全球科技竞争日趋激烈、数字经济日趋成为国家核心竞争力等背景下，考虑到我国科技行业发展实际，我国对人工智能需要创新治理，倚重敏捷监管、伦理治理、技术治理等多元手段来共同确保人工智能正向应用与向善发展。
首先，监管不仅需要对人工智能应用分级分类、以问题和风险防范为导向，而且需要具有敏捷性与适应性。人工智能技术的一个核心特征是快速发展迭代，制定强制性法律必然赶不上技术发展步伐，所以国外大都采取出台指南、伦理框架等“软法”。此外，自动驾驶汽车、智能医疗等人工智能应用的发展落地仍面临较多法规政策障碍，需要考虑修订阻碍性的法律法规，同时通过“数字沙箱”“安全港”“试点”等方式推动其试验与应用落地。
其次，采取伦理治理，把伦理原则转化为伦理实践。目前，国内外很多科技公司都出台了人工智能伦理原则，也在通过伦理审查委员会、伦理嵌入等方式落实其伦理原则。行业的这些伦理治理措施已在国内外获得较大共识，更能适应AI技术发展。
再次，以技术手段防范人工智能滥用。例如，深度合成作为一项人工智能应用，在影视制作、教育、医疗、娱乐等领域具有很大正向应用价值，但也可能被不法分子滥用来制造、传播虚假影像以从事欺诈欺骗活动。对此，行业内已在积极研发、部署内容鉴别与溯源技术，以对抗深度合成的滥用。面对复杂性与迭代速度不断增强的人工智能应用，技术治理将发挥越来越大的作用。
(作者：曹建峰，系腾讯研究院高级研究员)
(责编：赵超、吕骞)分享让更多人看到
超星尔雅学习通 人工智能 章节测试答案
1.1育才新工科-人工智能简介
1
【判断题】
《人工智能》课程为理工类通选课,本课程给予学生的主要是思想而不是知识。
我的答案：√
1.2图灵是谁？
1
【单选题】图灵曾协助军方破解()的著名密码系统Enigma。
A、英国
B、美国
C、德国
D、日本
我的答案：C
2
【判断题】电影《模仿游戏》是纪念图灵诞生90周年而拍摄的电影。
我的答案：×
3
【判断题】图灵使用博弈论的方法破解了Enigma。
我的答案：√
1.3为什么图灵很灵？
1
【单选题】1937年,图灵在发表的论文()中,首次提出图灵机的概念。
A、《左右周期性的等价》
B、《论可计算数及其在判定问题中的应用》
C、《可计算性与λ可定义性》
D、《论高斯误差函数》
我的答案：B
2
【单选题】1950年,图灵在他的论文()中,提出了关于机器思维的问题。
A、《论数字计算在决断难题中的应用》
B、《论可计算数及其在判定问题中的应用》
C、《可计算性与λ可定义性》
D、《计算和智能》
我的答案：D
3
【判断题】图灵测试是指测试者与被测试者(一个人和一台机器)隔开的情况下,通过一些装置(如键盘)向被测试者随意提问。如果测试者不能确定出被测试者是人还是机器,那么这台机器就通过了测试,并被认为具有人类智能。
我的答案：√
1.4为什么图灵不灵？
1
【单选题】以下叙述不正确的是()。
A、图灵测试混淆了智能和人类的关系
B、机器智能的机制必须与人类智能相同
C、机器智能可以完全在特定的领域中超越人类智能
D、机器智能可以有人类智能的创造力
我的答案：
2
【单选题】在政府报告中,()的报告使用“机器智能”这个词汇。
A、中国
B、英国
C、德国
D、美国
我的答案：D
3
【多选题】机器智能可以有自己的“人格”体现主要表现在()。
A、模型间的对抗—智能进化的方式
B、机器智能的协作—机器智能的社会组织
C、机器智能是社会的实际生产者
D、机器智能可以有人类智能的创造力
我的答案：ABC
4
【判断题】图灵测试存在的潜台词是机器智能的极限可以超越人的智能,机器智能可以不与人的智能可比拟。
我的答案：×
1.5人类智能与机器智能如何共融及未来
1
【单选题】以下关于未来人类智能与机器智能共融的二元世界叙述不正确的是()。
A、人类智能与机器智能具有平等性
B、机器智能是模仿人类智能
C、人类智能与机器智能均具有群智行
D、人工智能与机器智能均具有发展性、合作性
我的答案：B
2
【单选题】机器通过人类发现的问题空间的数据,进行机器学习,具有在人类发现的问题空间中求解的能力,并且求解的过程与结果可以被人类智能(),此为机器智能的产生。
A、采纳
B、参考
C、理解
D、相同
我的答案：C
3
【判断题】人类智能可以和机器智能相互融合。
我的答案：√
4
【判断题】机器智能的创造是指机器通过求解人类智能发现的问题空间中的问题积累数据与求解方法,通过机器学习,独立发现新的问题空间。
我的答案：×
1.6人工智能界定与科学
1
【单选题】()不属于图灵测试中包含的三个未曾言明的预设前提。
A、机器智能是对人类智能的模拟
B、人类智能是世界上最高智能形态
C、世界上只有一种形态,就是人类智能
D、人工智能不止一条发展路径
我的答案：D
2
【单选题】超越科学家的路径在于()
A、科学知识
B、科学技术
C、人类思想
D、人工智能
我的答案：C
3
【判断题】科学和哲学的区别在于科学解释世界,哲学改变世界。
我的答案：×
4
【判断题】图灵测试的价值不在于讨论人类智能与人工智能的性质差异,而在于判别机器是否已经具有智能。
我的答案：√
1.7互动环节
1
【判断题】人类智能的进化有许多方面是机器智能导致的。
我的答案：√
2.1算盘是机器智能吗？
1
【单选题】珠算盘起源于()年代。
A、秦朝
B、汉朝
C、唐朝
D、北宋
我的答案：D
2
【判断题】算盘可以算作机器智能的理由是不思维也能运算和由小脑代替大脑计算。
我的答案：√
2.2机器智能的演进
1
【单选题】()年由十几位青年学者参与的达特茅斯暑期研讨会上诞生了“人工智能”。
A、1954
B、1955
C、1956
D、1957
我的答案：C
2
【单选题】在人工智能的()阶段开始有解决大规模问题的能力。
A、形成时期
B、知识应用时期
C、新神经网络时期
D、算法解决复杂问题时期
我的答案：C
3
【单选题】机器人的三定律中第一条是()。
A、机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管
B、机器人必须服从人给予它的命令
C、机器人要尽可能保护自己的生存。
D、机器人必须保护人类的整体利益不受伤害
我的答案：A
4
【判断题】BP网解决了旅行商问题。
我的答案：×
2.3ABC时代的机器智能
1
【单选题】以下不属于ABC时代基础设施的是()。
A、大数据
B、云计算
C、物联网
D、移动宽带
我的答案：A
2
【单选题】ABC时代生产工具的是()。
A、人工智能
B、大数据
C、云计算
D、物联网
我的答案：A
3
【判断题】美国未来学家雷蒙德·库兹韦尔认为“人类纯文明”的终结在2050年。
我的答案：×
4
【判断题】强人工智能观点认为有可能制造出真正推理和解决问题的智能机器。
我的答案：√
2.4机器智能的内涵
1
【单选题】机器学习的实质在于()。
A、想
B、找
C、判断
D、理解
我的答案：B
2
【单选题】()是机器智能发展的核心诉求之一
A、深度学习
B、理解语言
C、可解释
D、精准回答
我的答案：C
3
【多选题】机器智能的内涵包括()。
A、脑认知基础
B、机器感知与模式识别
C、自然语言处理与理解
D、知识工程
我的答案：ABCD
4
【判断题】机器学习的任务包括判别与生成。
我的答案：√
2.5机器的智能是如何生成的
1
【单选题】大脑的左半球负责()。
A、运动行为调节
B、情感调节
C、形象思维
D、逻辑思维
我的答案：D
2
【单选题】()提出了三段论证。
A、亚里士多德
B、柏拉图
C、苏格拉底
D、欧几里得
我的答案：A
3
【单选题】人类的学习类型不包括()
A、计算学习
B、记忆学习
C、规则学习
D、交互学习
我的答案：C
4
【单选题】人通过算法赋给机器的智能属于()。
A、自然智能空间
B、认识智能空间
C、物物智能空间
D、人工智能空间
我的答案：D
5
【判断题】基于神经网络,机器在图像识别的速度和准确率上超越人类。
我的答案：√
2.6互动环节
1
【单选题】一个良好的群体应该是()。
A、协同机制比竞争机制重要
B、竞争机制比协同机制重要
C、协同机制与竞争机制同等重要
D、有序的竞争
我的答案：D
2
【判断题】传统的机器学习方法的表现主要是算法,目前的机器学习主要是强化学习,具有自学习的能力。
我的答案：√
3
【判断题】在计算机方面,更多的是在生理层面进行模拟。
我的答案：×
重视聊天机器人背后的语言知识与伦理
【新闻随笔】
最近一段时间，人工智能和互联网领域最火的话题莫过于智能对话系统“生成式预训练模型聊天机器人”（ChatGPT，暂译，以下简称“聊天系统”）。该系统不仅支持包括中文在内的多语聊天，而且还能够扮演角色，甚至执行编程。对于或诙谐或严肃的提问，它的表现令人感到惊艳：相当多的知识内容正确，语言表达更是流畅，并且还支持多轮连续聊天。因此，不少人感慨“自己已经沉迷于和它对话”“让它替我编程、写稿，效率提升”，甚至有人用它生成了某行业的咨询报告，通过对话引导它生成的书也在亚马逊线上出版。但在聊天系统流畅交谈的表面下，其对人类知识的掌握仍不可靠。随着测试的增加，也有越来越多的人感慨它“常常一本正经地胡说八道”。错误信息以纯熟的语言表达出来，因而更加隐蔽。但无论如何，在不少人认定本轮人工智能泡沫开始破碎的时间点，它的诞生无疑是给人们打了一剂“强心针”。
人工智能所涉任务众多，语言智能却越来越成为方法、技术、应用方面的领先领域。正如聊天系统对自己的介绍：“我是一个语言模型。”该系统得以驾驭极其广泛的知识内容，来自对互联网文本内容的获取和“理解”，进而形成了自己的“知识体系”。其中所涉技术十分复杂，但它的成功无疑以十分直观的方式向我们展示了语言之于人类知识乃至人类思维的重要性。人工智能的核心在于知识的获取、表示和运用，语言无疑是其中关键。教科书上“语言是人类最重要的思维工具”“人类九成的知识由语言承载”的论断在人工智能系统的应用上得到了淋漓尽致的展现。知识和思维的承载物是语言，因而也赋予语言无可替代的资源属性。智能技术的发展和落地，频繁向传统语言学的教育和研究发出信号：构建语言资源、挖掘语言中的知识、探索语言知识的形式表达，是最切中数字社会命脉的发展方向。
当然，正如过去几十年中任何一项智能技术的成熟落地一样，聊天系统也引起了一波“失业潮”的舆论。这样的担心实不必要。过去几十年里，智能技术成熟引起的“失业潮”几乎从未出现，短期内或许会搅动局部行业，但长期来看却相反。技术应用本身也催生了大量新岗位，例如聊天系统的研制本身依赖于海量的人工数据标注和反馈，数据标注师和测试员岗位需求巨大。
更深层次来看，与聊天系统强大的语言生成能力不匹配的是它对知识的真正掌握程度。大量模棱两可乃至错误的信息混杂在流畅的对话中，反而令其更加难以被发现。诚如清华大学马少平教授所说：“人工智能最大的问题是不知道自己不知道什么，也不知道自己真知道什么，什么问题都能回答，结果如何就不得而知了。”在一般性知识极易获取，复杂知识参差不齐的背景下，人类专家的专业判断力和经过思考加工的准确回答，更显弥足珍贵。人工智能诸多技术“黑箱”带来的不确定性，终究还需要人类专业、全局判断来化解。从这个层面上讲，“自知”的人类永远不可或缺。
也恰恰因为技术“黑箱”的存在，人类才需要不断从自身、从技术去寻求可靠、可信的技术和技术使用方式。可信的人工智能、可信计算成为融合技术、伦理的重要领域，并受到越来越多的重视。更宏观的人工智能伦理和治理工作也早已被纳入科技管理的视野。挽救“失足系统”，矫正“智能体歧视”也许不再是比喻，而将成为使用者、从业者和治理者都必须面对的问题。
（作者：饶高琦，系北京语言大学汉语国际教育研究院助理研究员）
工程伦理第十二章习题答案
工程伦理第十二章习题工程伦理1选择题2讨论题1选择题1-5AABCD6BD7ABCD8ACD9BCD10ABCD11-15×××××
2讨论题1.假如制药企业雇主指使工程技术人员在药物研发数据上弄虚作假，或有意隐瞒不利信息，那些诚信正直的人就会感到左右为难：要么拒绝，要么违心地听从雇主的安排。如果你碰到这种情况，你会如何分析和解决此类难题。答：1.全球人工智能伦理与治理合作面临挑战，需要加强交流与创新合作。加强人工智能伦理与治理已成为全球共识，不少国家已出台人工智能伦理与治理相关政策和指导意见，但东西方及各国的交流却受不同文化及国情影响易形成误解，产生竞争，不利合作。剑桥大学未来智能研究中心主任Seánóhéigeartaigh指出文化差异下的语言表述易产生不必要的误解，加深了鸿沟。联合国技术顾问DanitGal认为没有充分的交流导致误解，形成竞争，建议加强交流，推动合作，在全球范围内倡导并激励全球合作与国际协作创新。旷视人工智能治理研究院院长徐云程建议各国应用透明获取信任，通过可持续发展的共同目标来推动合作。北京大学光华管理学院院长刘俏建议应建立有效的机制，促进讨论，利益相关者之间形成共识。2.全球已初步建立人工智能伦理与治理原则体系，需着重开展应用实践和试点工作。目前，全球不同政府间组织、国家与地区政府、科研机构、企业在不同层面提出了人工智能（伦理）原则或相关提案，各家原则在表述上虽有侧重，但在一些核心内容上较为一致，已初步形成相关原则框架体系。但由于人工智能技术不透明、不同地域评价标准不统一、监管机构不明确等原因，造成了人工智能在特定应用领域的原则制定与实践不够紧密。瑞士苏黎世联邦理工大学教授、世界卫生组织(WHO)健康领域AI伦理与治理专家组组长艾菲·瓦耶娜建议，应推动专家指导企业进行AI开发和伦理治理的试点示范，探索建立人工智能技术在医疗卫生等敏感领域的数据利用和保护机制。3.人工智能在全球实现可持续发展过程中作用巨大，但要关注人工智能伦理与治理。人工智能技术已在脱贫减贫、环境保护、医疗健康、平等正义、社会治理与安全等可持续发展方面发挥作用，但是不符合伦理安的人工智能可能会危害社会，伤害人类。慕尼黑工业大学AI伦理中心主任、全球AI伦理协会发起者Christophütge建议在推动人工智能赋能社会发展的过程中，要重视人工智能伦理建设，在平等、公正、隐私、歧视等问题上加强人工智能监管与治理。阿兰图灵研究所AI伦理负责人、联合国教科文组织人工智能伦理特别专家组委员AdrianWeller建议：人工智能面对不同种族、性别等群体时需要用不同的预测模型来解决潜在的歧视、不公平等伦理问题。4.科学的人工智能伦理与治理促使高水平人工智能的可持续发展，并推进全球可持续发展目标的实现。伦理与治理的目的是解决公平、平等、隐私、歧视等伦理问题，这促使人工智能向着可理解、安全、透明、有效、负责的方向发展，成为推动实现全球可持续发展目标的重要保障。AdrianWeller的相关工作在解决平等、歧视等问题的同时提高了人工智能的准确度和有效性。埃因霍芬理工大学教授、IEEE机器人与自动化学会机器人伦理委员会共同主席VincentMuller认为：人工智能伦理发展促使人工智能技术前进。刘俏教授认为：人工智能治理促使人工智能提高应对意外的能力。徐云程认为：社会可持续发展要求人工智能技术可持续，技术可持续是企业发展的战略目标。
2.一家公立三甲医院某临床科室若干年采集了大量的来自就诊患者的可识别生物样本，当时采集这些样本时的知情同意书中没有说明是否可以用于其他研究。如今，该临床科室主任准备用这些生物样本于其他类型的研究，并向机构的伦理委员会提交了课题申请。假如你是该伦理委员会的委员，你是否会要求该项新的研究应再次获得样本提供者的同意呢？为什么？答：不同意潜在受试者充分知情、转基因食品的标识、社会公众对重大生物医药创制的知情权、有行为能力的人在不受胁迫、不正当影响的情况下，自愿选择是否参加。减低对受试者的身心伤害和经济负担，规避公共卫生和生态环境风险。1.及时上报并处理严重不良不良事件2.开展生物安全和生物防护评估，建立一套分析和预防不良事件机制3.对受伤害的受试者/使用者给予公正补偿、赔偿4.以病人利益为中心，促进受试病人的健康福祉5.促进医学知识的增长，有助于未来病人的预防、诊断、治疗、康复6.面对利益冲突，把受试者/公众的权益放在首位