《研究简报》第147期 人工智能时代的人机交互（上）——人机合作的效率与平等问题
在日新月异的企业数字化浪潮中，大数据、机器学习、人工智能等技术正在不断提升、颠覆各大行业。各大行业可借助算法，改进工作流程，提升工作效率。例如，制造业企业用人工智能替代车间主任去完成机器和工人的调度工作，零售业企业用人工智能辅助店长预测下一个爆品，医院用人工智能为医生推荐诊疗方案。人工智能对劳动力市场的冲击，主要是替代重复性的、基于大量数据分析的任务。而在更复杂的任务中，探索人类决策和算法如何相互结合，利用人工智能技术辅助而不是完全替代人类，是未来人工智能应用中关键的课题。
笔者团队在研究中关注以下问题：人类决策、机器决策和人机合作这三种决策模式在效率上有哪些差异？引入人工智能对劳动力市场的平等性有何影响？本研究得出两点发现：
第一，人类-人工智能合作决策相比于人类决策有非常可观的效率提升。
第二，人工智能辅助可以提升劳动力表现的平等程度，基础表现较差的劳动力可以从人工智能辅助中获得更大的提升。考虑到人工智能完全替代劳动力会带来劳动力市场更大的不平等，“人工智能辅助劳动力”模式是稳定劳动力市场和促进社会公平的优选模式。
一、人工智能的发展趋势是人机合作
目前，人工智能在各行各业的商业应用方兴未艾。现有研究和案例总结得出，在部分应用场景下，人工智能可直接替代人工，而在更多复杂的场景中则以辅助人类决策的形式出现。
现有的实践经验表明，简单任务场景下人工智能直接替代人工可极大提升生产率。例如，零售业企业可以用刷脸支付替代收银员。某零售商的数据显示，一台刷脸支付机器相当于1.5个收银柜台，按早晚班计算，可以减少3个收银员的人力成本，集团每年可节省1344万元。又如，制造业企业可以利用算法替代人工做筹划工作，提升生产效率。管理者可以无死角地实时查看设备和工人的工作状态，并利用算法优化安排工人排班和机器。某重型机械企业听从人工智能的建议，没有增加设备，只是略微增加工人的劳动时间，就实现了两倍的产能提升。
随着人工智能在业界应用的兴起，很多学者开始关注其对劳动力市场的影响。学术研究通过比照真实的人工决策和人工智能决策数据，更为具体地衡量了在不同任务下人工智能与人类决策质量的差距。例如，对比人工智能和法官对被逮捕的犯罪嫌疑人是否可以保释的决策，人工智能可以很大程度上超越人类法官的决策水平，在审前羁押率不变的情况下，让犯罪率下降24.7%。人工智能在心脏病诊疗方面也可以超越医生的判断水平，这主要是因为医生会过分看重人口学特征而不是实际症状，并系统性低估得过肺炎的病人患心脏病的概率。人工智能也同样可以在预测公司营收方面超越研究员。[1]
在更为复杂的、尤其是涉及大量人际交互的场景中，人工智能更多以辅助人类决策的角色出现。例如，在互联网金融中，贷款催收的痛点之一在于单笔额度较低，回款成本较高。借助人工智能技术，互联网金融公司可以依托大数据和机器学习建模，对客户的还款意愿进行分层打分，并提供相应的催收手段和策略。对于还款意愿高的客户，采用提醒版催收话术；对于还款意愿中等的客户，前期使用催收机器人，后期根据催收机器人反馈结果转人工处理；对于还款意愿低的客户，直接转人工处理。据某互联网金融公司统计，通过这一方式，综合回收率可提升5%以上，并且能节省40%的人力成本。又如，以往在线教育的短板之一是教师不能及时观察学生学习反馈、对教学做出调整。而今天，语音识别技术、自适应技术和图像识别技术等人工智能技术都为提升学生学习效果提供了强有力的支持。某在线教育公司还通过收集大量学习行为数据（如观看视频过程中的暂停、拖拽、回放，练习过程中的犹豫时间、看解析等行为），更好地分析学生的学习效果，不断完善教学视频。这些精细提取的学习数据，可能比现场教学分析更加细致，大大节省了教师的精力，可以专心于提升教学内容的质量。在人工智能辅助员工培训方面，有研究表明，在培训员工的三种方式中（人类教练单独培训、人工智能教练单独培训和人类-人工智能教练合作培训），最有效的是人类与人工智能相结合的方式，这主要是因为人类教练可将人工智能总结的内容以更好的沟通方式向员工传达。[2]
本研究集中在探索人工智能辅助人类决策时对效率和公平的影响。
二、人类-人工智能合作决策相比于人类决策有非常可观的效率提升
本研究希望进一步理解引入人工智能辅助人类决策的过程中对劳动力市场效率和平等的影响。研究团队基于某公司的历史现金贷实际数据，研究以下三种情形的贷款审批决策的效果：人类单独决策、人类-人工智能合作决策、人工智能单独决策。在人类决策组，决策者看到贷款者的人脸照片和背景信息，并独立做出贷款决策。在人类-人工智能合作决策组，人工智能为决策者提供贷款者基于人脸照片判定的还款倾向（下称“还款分”[3]），决策者根据贷款者的还款分和其他背景信息，综合做出贷款决策。在人工智能决策组，贷款决策完全由人工智能完成。然后我们用贷款者的真实历史表现衡量贷款决策质量，并分析其中的决策机制。
我们首先分析人工智能以不同形式引入决策对于决策质量的影响。如图1最左侧所示，人类决策组、人类-人工智能合作决策组、人工智能决策组的准确率分别是62.4%、70.6%和84.7%，并在统计上有显著差异。人类-人工智能合作决策组相比于人类决策组，准确率提高了13.3%，提升程度非常可观。
图1人类决策组、人类-人工智能决策组、人工智能决策组对比
决策错误可以进一步分为“错误地拒绝了实际还款的人”和“错误地接受了实际未还款的人”两类错误。图1中间和右侧两列展示了这两类决策错误的占比。人类-人工智能合作决策组相比于人类决策组，在两类错误方面都有所降低。有趣的是，人类-人工智能合作决策组相比于人工智能决策组，仅仅在“错误地拒绝了实际还款的人”方面落了下风（人工智能决策组仅为3.5%），而在“错误地接受了实际未还款的人”比人工智能单独决策表现更好（人工智能决策组为11.7%）。这意味着，人类做最终决策时更注重避免错误地放贷给实际不会还款的人。人类与人工智能的目标不尽一致，可能是造成人们不愿意采纳人工智能辅助的原因。
课题组成员：陈泽阳、刘玉珍、孟涓涓、王曾
作者单位：北京大学光华管理学院
新一代人工智能具有五大特点
科学技术部副部长李萌（刘健摄）
7月21日，国务院新闻办公室举行国务院政策例行吹风会，重点介绍《新一代人工智能发展规划》（以下简称《规划》）的编制情况。科技部副部长李萌在回答记者提问时表示，经过60多年的演进，人工智能出现了一些新特点，包括《规划》当中讲到“它呈现出深度学习、跨界融合、人机协同、群智开放和自主智能的新特点”。新一代的人工智能主要是大数据基础上的人工智能。
李萌指出，人工智能具有以下五个特点：一是从人工知识表达到大数据驱动的知识学习技术。二是从分类型处理的多媒体数据转向跨媒体的认知、学习、推理，这里讲的“媒体”不是新闻媒体，而是界面或者环境。三是从追求智能机器到高水平的人机、脑机相互协同和融合。四是从聚焦个体智能到基于互联网和大数据的群体智能，它可以把很多人的智能集聚融合起来变成群体智能。五是从拟人化的机器人转向更加广阔的智能自主系统，比如智能工厂、智能无人机系统等。
据了解，国际普遍认为人工智能有三类“弱人工智能、强人工智能还有超级人工智能”。弱人工智能就是利用现有智能化技术，来改善我们经济社会发展所需要的一些技术条件和发展功能。强人工智能阶段非常接近于人的智能，这需要脑科学的突破，国际上普遍认为这个阶段要到2050年前后才能实现。超级人工智能是脑科学和类脑智能有极大发展后，人工智能就成为一个超强的智能系统。从技术发展看，从脑科学突破角度发展人工智能，现在还有局限性。《规划》中的新一代人工智能，是建立在大数据基础上的，受脑科学启发的类脑智能机理综合起来的理论、技术、方法形成的智能系统。
跟以往相比，新一代人工智能不但以更高水平接近人的智能形态存在，而且以提高人的智力能力为主要目标来融入人们的日常生活。比如跨媒体智能、大数据智能、自主智能系统等。在越来越多的一些专门领域，人工智能的博弈、识别、控制、预测甚至超过人脑的能力，比如人脸识别技术。新一代人工智能技术正在引发链式突破，推动经济社会从数字化、网络化向智能化加速跃进。
版权所有，转载请注明出处。
刘伟：什么是智能人机交互
本文来自刘伟科学网博客
北京邮电大学刘伟
这是一个非常有趣的问题，既涉及智能又牵扯人机交互，更重要的是两者之间的联系。如果把人机交互看成脖子以下，即生理与物理之间的相互作用（如视域、听域、可达域、舒适域）的话，那么智能就应该是脖子以上的问题（如人的自然智能、机器的人工智能），这样一来，智能人机交互就可以说是脖子上下一体化的问题：一个活生生人-机-环境系统问题吧！单纯从理性思维的角度分析，西方创立的科学技术体系已被证明是非常有力的，如现代意义上的衣食住行、船坚炮利、自由民主；同样，单纯从感性思维的尺度衡量，东方起源的儒释道思想体系也业已被世人所推崇，如传统意义上的仁义礼智信、缘起性空、天人合一。智能人机交互不但要求有情有理，更希望通情达理、情理交融，比如可以穿越一下，用老子的《道德经》（非常道、名）回答休谟之问（从客观事实being中能否推出主观价值should？），即用“等价”的相对思想取代“相等”的绝对意识（这也许会是新数学体系诞生的征兆）。相等与蕴含是现有数学（包括数、图、集合）的基石，也是计算的前提，更是人工智能的条件；而等价和类比则是复杂领域（包括跨域、交叉、融合）的关键，也是算计的本质，更是人类智能的精华。实现人机交互中的“交”，可以有效地使用计算方法尝试，而要完成人机交互中的“互”，则还需要更进一步的算计手段运用其中。如何实现从交互到互交、从相等到等价、从计算到算计的有机融合，是智能人机交互的重要瓶颈表征。深入下去，我们不难发现，智能人机交互系统中的“互”或许是问题的核心、题眼之所在，能否“互”、怎样“互”、何时“互”、何处“互”、“互”什么、“互”程度、“互”范围……这些都将随着人、机、环境系统的动态演化而发生相应变化，若要快速、准确、及时、恰好地实现这些变化就需要更进一步的梳理出人机之间的各种新型关系来。比如人机融合智能中深度态势感知中的计算计就是要解决这个核心问题：事实、价值、责任能否、如何等价问题？有限的态与无限的势之间的矛盾，有限的感与无限的知之间的矛盾，这两个矛盾也是人机之间的主要矛盾之二。实际上，人机中的态、势、感、知各有其各自的时、空、情坐标但又相互关联，严格地说，“态势感知”应该叫做“感知态势”，人们常常是使用自己与机器的感、知算计算或计算计把不同的态、势配准拼接形成决策行动的方案，这里面既与理解、信任、透明机制有关，也与记忆、注意、意图机理有关，人机总是在互补与被互补、主动与被动、正常与异常过程中进行有目的或有任务的经验编程、知识验证、自愈泛化，通过区别对象的属性及关系的属性，衍生出对应的弹性概念和理论，并进行个性化的表征、推理和判断。正如丹麦著名的诗人、哲学家、心理学家克尔凯郭尔所说：“人是有个性的自由存在，人们可以利用自己的特点去创造自己特有的本质，这样才能够体现出人们的价值。”。未来的某一天，机器可以运用人设定的程序发展出各种可能性，开始真正意义上的自我认识和自我否定，能够有目的的自我修正，并且不断意识到自已的无知而突破自我，一如阿尔法狗在围棋领域所展现出的无限可能性一样，此时，这种个性化的精神形成也许就是革命性智能人机交互的伊始吧！有人认为，“人工智能的圣杯应该是这样一台机器：它可以开始建立这个世界的坚实模型，这个模型可以随着时间的推移被打造得越来越强大，并通过与人类的交互得到完善与纠正。这才是我们需要的。”。苏格拉底曾说过一句名言：“一无所需最像神”。一个人对物质的需求越少，就越接近于神。因为神是自足的，完完全全是精神性的存在，不需要物质。一台个性化的机器除了能量以外，还需要什么呢？若要回答我们能知道什么这个问题，就要首先看看认识者和被认识者之间的关系如何。古典哲学中的真理被看成是语言与事物的一致相应，康德问道：这种一致如何才成为可能？事物是具体的和物化的，而语言是抽象的，这两种东西怎么会一致？实际上人的感知提供的只是物体的某些特性，如质量、体积、形状、数量、重量、运动速度等，没有这些特性，我们就无法对物体展开想象。这是物体的主要特性。物体还有其它从属特性，如颜色、声音、味道和温度感觉等，这些从属特性虽然是物体的一部分，但是人们可以进行不同的想象。例如我们可以把一辆蓝色的桌子想象成绿色的桌子。这种主要特性和从属特性的区别让人进一步问：外部世界真实状况究竟是什么？因为如果我对物体的某些特性可以进行不同的想象，也就是说这些特性似乎只在我的态势感知中存在，我怎样才能肯定世界只不过是存在于我的头脑当中？因此，语言与事物的一致(真理)似乎只有在人的头脑中才成为可能。这当然是令人绝望的极端怀疑主义。如果人们不甘于接受这一观点该怎么办？也许一种我们无法认知的外部世界确实存在，那我们又该怎么办？康德以前，哲学家对这一问题的回答就是把这一问题推给上帝：我们的思想与外部世界一致，因为这是上帝愿意这样安排的。但问题是：我们怎么知道上帝让我们看到的事物就是事物的本来面目？康德把这个问题彻底给颠倒了。知性为自然立法。他的这一论断与现代量子力学有着惊人相似之处：事物的特性与观察者有关。在“纯粹理性批判”中，康德研究了人类感知的形式，即空间和时间。存在于时间和空间里的物质被人类的理解力加工为经验，而康德把人类理解力的形式称为“(绝对)范畴”，这些人类理性的形式中包括人们对灵魂、世界和上帝的设想，康德把它们理解为某种制约原则，人们的经验世界就是通过这些原则得以构造。智能的人机交互也许也需要这些原则才能得以构造吧！？只不过需要把康德的“上帝”设想改为“复杂系统”的研究。 转载本文请联系原作者获取授权，同时请注明本文来自刘伟科学网博客。
未来智能实验室的主要工作包括：建立AI智能系统智商评测体系，开展世界人工智能智商评测；开展互联网（城市）云脑研究计划，构建互联网（城市）云脑技术和企业图谱，为提升企业，行业与城市的智能水平服务。
如果您对实验室的研究感兴趣，欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”