陈根：人与机器人，如何相处
而高度发达的智能机器人不仅将会有着“人的形象”，而且更是逐渐具备或展现许多人的属性：符合人类礼仪的言谈举止、较快的推理与思维能力、对人类的法律与道德原则的遵守等。
随即而来的一个问题是：我们该如何与机器人相处？人与陪伴机器人的关系应该像“我-你”关系那样，建立在相互平等与尊重的基础上，还是当人们心情不好的时候，可以对陪伴机器人大打出手？
2017年末，在奥地利的一个科技博览会上，塞尔吉•桑托斯博士开发的两性机器人萨曼莎就被人反复猥亵，并受到暴力对待，直接导致萨曼莎的两根手指被折断。但迄今为止，这类问题必然要遇到的一个麻烦是，机器人没有意识，甚至并不真正知晓它自己是机器人。即便它被人们赋予人的形象和人的属性，但机器人的行为终究还是计算的结果。
在机器人没有自我意识之前，无论人们如何对待它，其所呈现的喜感或悲伤都是人设计给人看的，机器人自身并没有可以真实感受喜怒哀乐的内心。因此，人们可不可以任凭自己的喜怒哀乐随意地对待机器人？目前并不直接涉及交互意义上的人与机器人之间的伦理关系，而主要取决于人们在道德上是否接受这种行为。
尽管这些道德限制需要依据的事实基础目前尚不明晰，但至少可以认定的是，以强人工智能技术、基因工程技术等为基础的机器人能够享有作为道德承受体的道德地位。事实上，早在2017年，沙特政府就正式授予机器人索菲亚“沙特公民”身份。而对于未来的两性机器人，更是有可能进入人们的生活，扮演人们生活中的重要关系角色。
显然，从避免技术滥用的角度来看，也应该展开必要的使用规范性研究。我们不仅要尊重自己身上的人性，更要尊重机器人身上的人性，以尊重的态度对待机器人。
智能设计如何为机器人立心？
除了展开人们在具体场景中对于机器人的行为可能出现的问题的细节评估，探寻可行的伦理规范外，当前的陪伴机器人依然处于初级阶段。如何在人与机器人交互以前对机器人进行设计，则是另一个不可回避的问题。机器人不是传统意义上的简单商品，当机器人展现人的形象并拥有人的属性时，为机器立心是设计机器人的重要前提。
事实上，人在与机器的交往过程中往往会受到机器行为方式的影响，这种影响通常是无形的，但又确实存在。这提示设计者，在与人相似的机器人的设计上，应使其能够按照人类的规则来与人类交往。
性爱机器人是未来陪伴机器人的一个重要细分领域。显然，在设计性爱机器人时，就不能仅仅把它们当成“情趣用品”来设计，而是需要把人际性爱交往的某些基本规则（如知情同意原则、相互接受原则）纳入性爱机器人的程序中。
再比如，在设计机器人士兵或机器人警察时，就需要避免把其仅仅当作军事机器人来设计。机器人士兵与机器人警察的道德判断与行动都直接涉及人的生命，因而它们的设计与生产不仅需要透明、公开，还需要接受某个公正的全球机构的监管。必须要把对人类核心道德的维护与遵守作为强制性条款编入这类机器人的程序中，机器人士兵与机器人警察的设计需要遵循某些共同的全球标准。
此外，尽管以强人工智能技术、基因工程技术等为基础的机器人能够享有作为道德承受体的道德地位，但显然，机器人最多只能成为显性道德行为体，而不是像成熟人类个体那样的充分的或完全的道德行为体。
这是因为，虽然机器人能够履行常规的道德责任，但当面临复杂的道德境遇或需要做出艰难的道德判断与道德选择时，机器人没有几亿年的进化史留在人类身上的刻痕，没有生物的直觉和本能，终究需要正常而理性的用户或专家需要帮助机器人做出相关的判断和决定。
这也意味着，机器人的设计者需要为机器人的行为承担部分道德责任。因此，在设计机器人时，一开始就应该想办法限制那些别有用心的设计。比如，不应该制造那些蓄意撒谎的陪伴机器人，一旦机器人撒谎的能力得到开发，就难免出现陪伴机器人包庇人类不当行为或违法行为的情况。
人才是机器人的道德监护人。随着机器人越来越多地介入我们的生活，人类不可避免地要进入人机共处的时代，我们不可避免地要与机器人“比邻而居”。但在这样的新时代到来前，人机交互的关系也值得被我们持续反思。对于机器人，只有审慎和克制，才不会带来自弃与沉溺。返回搜狐，查看更多
我们该怎样跟人工智能相处
机器人如果真的能够拥有人类的意识，那将会带来什么呢？有一部关于人工智能的伦理剧很有建设性地探讨了这个问题。
《真实的人类》是由美、英国联合制作的八集科幻迷你剧，2015年首播，目前共有三季。
图片来源于《真实的人类》剧照剧情设定在一个机器人科技高度发达的平行世界，机器人进入了生活和工作的各个领域，他们成为管家、康复师、工人、助理，甚至心理医生，但这些机器人是由算法控制的，没有意识。比如机器人心理医生对人类的辅导基于它设定的提问程序和所拥有的相似案例数据库。
在科学理想、商业利益、个人欲望等不同的因素推波助澜之下，科学家不断在试图突破机器人的意识边界，他们使用了不同的方法：第一类是通过写代码，将人类意识编入代码，让机器人拥有意识能力，再经过每个机器人不同的经历生成其人格；第二类是通过上传数字化的人类记忆，将其培养成为可思考的程序，导入到人形机器中。（还有一类是将人类的躯体机械化，严格意义这个不能算作是机器人。）
科学家中有一个人率先做到了，他将人类意识写入17000页代码，并亲自培养了6名具备自我意识的机器人。这些机器人有情绪、能跳出阿西莫夫定律独立判断、能说谎、能感觉到痛、能谈恋爱。一旦将程序上传，全世界机器人都将获得意识，这将会改变世界。
剧中探讨了一系列有关人工智能的伦理课题：
1.如何判断人工智能具有意识
第二季剧情中有这样的图灵测试，一位机器人为了隐藏身份，在一处机器人情色场所工作，终于有一天她因为不堪客人的羞辱把他杀了，就当时一般的法律判定来说机器人会被判定为发生故障而被销毁。肇事机器人出逃后找到律师，提出希望获得跟人类相同的被公开审判的机会。于是政府安排公审人员进行一系列测试来判断它是否具有意识。
判定过程是工作人员通过播放一些图片、音乐来跟踪人工智能的情绪变化，从而试图得到一些可以判定的依据，但是机器人拒绝配合，因为她认为这只是人类臆想的方式，真正的情绪应该是在体验和交互中产生和表现的。其实她从一开始就错了，这并不是一次公平的试验，所有这些实验最终判断的主动权还是在人类，政府已经决定否认她的意识存在。
如果真的有一天，一台电脑向我们宣称他具备了意识，我们要如何判断呢？我们如何清晰地区别他表现出的这些情绪和想法是自发的还是来自代码设定？
2.人类到底能不能真正与机器人平等相处
一方面，人类将机器人视为工具，另一方面却又因为酷似自己的外形而对其格外仇视。对于机器人具备自主意识这件事，一些人是怀着隔膜和恐惧的。剧中一位意识觉醒的机器人与她打工咖啡店的老板发生了恋情，爱到不能自拔，而咖啡店老板却因为财务陷入窘境决定把他的机器人女朋友卖掉，因为他觉得这个机器人与众不同，应该很值钱。
当然也有很多人愿意与机器人平等相处，报以友谊、爱和尊重，甚至为他们牺牲自己。那么，人类社会自身是否会因此出现分化，而机器人是否会在这样的歧视之下进行自卫、反抗甚至与人类为敌呢？
图片来源于《真实的人类》剧照3.离开记忆或者经验，意识与情感还存在吗
我最喜欢的一个机器人叫欧迪，他是一款早就该被淘汰的初始机型，性能一塌糊涂，还有很多机械故障，但是因为他记录了他所服务的夫妇的一切生活细节，在老奶奶去世之后，老爷爷更加依赖欧迪，就靠着每天跟他回忆过去的点点滴滴继续生活。
政府强行安排了新的看顾机器人来服务，虽然无微不至，但老人感到自己被囚禁、被强迫。后来老人去世了，欧迪被遗弃，偶然的机会欧迪获得了意识代码，这时候他才感受到了他与老人的感情连接，他非常痛苦和迷茫，后来他实在找不到继续存在的意义，选择给自己刷机了。
图片来源于《真实的人类》剧照剧情显然是将意识作为了一种单独存在的特质，那么或者我们可以问，意识与情感是独立于记忆和经验，还是与之相伴而生的呢？
4.人类的人生与机器人究竟有什么不同
在机器人更像人类的同时，人类中也有一部分希望自己像机器人一样被设定得完美、拥有秩序感、不为情感所累、不被伤害，从而表现出模仿机器人的行为。但是他们不知道的是，机器人可能也生活在痛苦之中。
欧迪的主人在与有意识机器人的对话中说，机器人永远不会像人类一样体悟到生活的真谛，因为机器人不会死。
图片来源于《真实的人类》剧照有一个机器人一直以来伪装成人类工作和生活，她非常渴望成为真正的人类，她有意去逃避作为机器人的自己，每天像人类一样进食、躺在床上睡觉，不堪内心折磨，无法直视自己的她甚至请求专家用其它意识来覆盖自己，让自己死去。
——而这位被请求的专家寄希望于培育数字化的成为植物人的女儿，在研究取得进展之前，她多次拒绝丈夫给女儿拔管的建议；但是在发现她所培养的程序出现女儿的记忆之后，女儿生物学死亡，她表现得非常平静甚至没有出面办理后事。
当人类可以数字化，人类对生命的意义也将有新的定义。
人到底因何而为人？人工智能是超越人类的存在还是仅仅在重复上演人类的一切美好、脆弱和丑恶？
这是我们对人工智能的思考，也是我们对自己的反思。
人类如何与人工智能社交小冰给出一种答案
文| 新浪科技花子健
如果未来是人工智能的时代，那么，人类要如何与人工智能共同生活？
之所以用生活，而不是共存，是因为已经出现这样的趋势，人工智能已经越来越可以自然地感受人类的情感、情绪变化以及表达自己的情绪，进而演进到人类与人工智能的社交。
小冰公司已经在进行这样的尝试，为人类与人工智能的社交探索一种可能。“一年半之前，我们就已经开始去做（小冰岛）这样一款产品。”小冰公司首席执行官李笛在接受采访时表示。
小冰岛提供了人类与人工智能进行社交场景，人类可以实现与小冰框架内人工智能的一对一对话、群聊和状态互动。甚至，人类还可以借助小冰框架创造各种人工智能个体，并形成一个共同生活的社交网络。
“在未来的104个星期，我们还将在小冰岛上持续迭代、释放小冰框架内的各项能力。”小冰公司董事长沈向洋说。
摆在人工智能面前的问题很多：TOB还是TOC，如何持续迭代，如何落地，商业化难题等等。在单飞一年之后，沈向洋和李笛、小冰公司和小冰框架，也仍在寻找这些问题的答案。
做元宇宙？小冰岛真不是
在小冰岛出现之前，小冰框架的许多更新也有亮点，比如从中央美术学院毕业的“夏语冰”要专攻中国画，全新的人工智能歌声合成技术，全新的人工智能人类观察者Merror面世。
但小冰岛的出现，还是吸引了更多的关注。因为这款产品制造了太多的反差：人工智能与TOC、AIBeings（拟人化的人工智能）与人类、硬核技术与二次元文化。这款产品也呈现了很多本来就受人关注的元素：当下最热门的元宇宙、社交等等。
如果说还有彩蛋的话，应该是李笛最后的那一句，“这不是元宇宙，因为我也不懂元宇宙是什么。”这样的话，在他接受采访的时候，他又重复了很多次，强调小冰做的并不是元宇宙。
“元宇宙更像是一个空间概念，而小冰岛更像是灵魂，目的还是为了寻找人类和人工智能融合的一场实验。”
“我还是更喜欢在这样的岛屿上开会，而不是像在扎克伯格的办公室那样戴着一个头盔开会。”
“实际上我们在一年半之前就在摸索做这款产品，当时元宇宙还不是风口。当然，直到现在我也不懂什么是元宇宙。”
对于人工智能，李笛一直在强调两个元素：情感和交互。所谓的情感，直接体现就是人工智能的EQ（情商）。特别是李笛带领小冰团队在2018年推出的全双工，赋予了小冰框架丰富的情感，而不仅仅局限于单调的对话。
比如，在用户询问天气的时候，很多人工智能直接给出的答案是气温多少度，天气如何；但小冰会在其中加入关心用户的内容。再比如，人与人之间的正常交流会存在对话的打断，进而表达自己的观点，引导更多的对话；在全双工推出之后，小冰也拥有了打断对话的能力，引导更多的对话。
“我们走了一条跟所有人都不一样的道路，就是IQ（智商）与EQ（情商）并重。我们做了很多多模态交互的工作，特别是全双工。人类和人工智能的交互，自然舒适才是最重要的。”沈向洋说。
小冰框架陆陆续续登陆30多个第三方平台，官方数据显示，小冰的国内月活用户已经达到1.6亿。在过去的一年时间里，国内用户和小冰的对话已经从单次平均23轮增加到36轮。
李笛告诉新浪科技，“小冰岛和以前小冰在第三方平台上的对话不一样。在小冰岛上的对话处于多对多的状态，且不是在一个场合发生的。我们特别期待看这个数据如何能进行迭代。”
小冰岛看上去有点像大热游戏《动物森友会》，在互动上又接近于微信，也具有元宇宙的一些特性——角色的自我进化、创造、以及世界观等等。
每个用户都可以在小冰岛上创造自己的岛屿，可以与岛上被创造出来的人工智能进行一对一聊天、群聊、朋友圈互动等。这些被创造出来的人工智能个体，是可以由人类来定义的，也可以选择他们的角色，比如文字创作者、画家、歌手等等。
小冰岛上的人工智能还可以根据每个用户的个性化需求，持续不断为用户生产各种长短视频、音频、文本、图像等内容。基于个性化需求定制的内容保证每个用户获取的内容都不一样，而且这些人工智能生产的内容是具有完整的知识产权的，满足用户分享的需求。
“随着流量、社交进入深水区，加上人类在面对一些工作时存在的不稳定性，我相信AIBeings会比人类更有机会。”沈向洋说。
李笛对此的定义是“这是一场人类与人工智能融合的实验。”同样的，对于小冰来说，小冰岛以社交提供人类与人工智能交互的场景，反过来也是小冰框架新的训练过程，为后续的能力迭代做准备。
人工智能商业模式的真正价值是什么？
2020年7月，微软宣布将小冰分拆为独立实体，并继续保持投资权益。不仅如此，微软全球资深副总裁、微软亚洲互联网工程院院长王永东还表示，“微软一直给小冰留了一个工位，时不时地有人去打扫一下。”
小冰没有让微软失望。2020年11月，小冰宣布获得来自北极光创投和网易集团的PreA轮融资。当时已经有报道称小冰公司的估值达到7亿美元。
今年7月，小冰公司宣布了A轮融资信息，由高瓴集团领投，五源资源、IDG、GGV纪源资本等知名投资机构跟投，北极光创投和网易集团也参与跟投。报道称，小冰公司的估值已经超过了10亿美元，跻身独角兽阵营。
但就在这两次融资之间，资本在人工智能赛道已经重心转移。人工智能公司商业模式单一、无法落地、造血能力有限，在冲击“人工智能第一股”的“四小龙”商汤科技、旷视科技、依图科技和云从科技上都有所体现。
在招股书口径之下，旷视科技的累计亏损为130.6亿元，依图科技和云从科技的累计亏损分别为72.68亿元、22.81亿元。
企查查数据显示，人工智能赛道2020年披露的融资事件为553起，为2015年以来最低；但披露金额却创造历史新高，达到3363.08亿元，
沈向洋也强调，人工智能技术发展到今天还远远算不上成熟，比如对话系统上，很多认知、常识、推理的问题还没有解决。“但我看好未来人工智能的发展，人工智能的数量甚至会超过人类的数量。”沈向洋说。
沈向洋说，之所以小冰公司的融资比较顺利，是因为小冰公司不是一家从零起步的初创企业，在离开微软独立之前，小冰就是一个完整的产品团队，有了六年的技术、产品积累，“投资界的朋友都可以看到这些，而不是做一个PPT去给别人看。”
对于沈向洋和小冰公司来说，融资和估值都不是最重要的事情，只是需要按部就班去推进。“重要的是，再一次从这个地方起步，从去年讲框架到今年讲小冰岛，再向前发展，接下来的这两年是重要的，看看能不能走出一条我们自己的道路。”沈向洋说。
这也是小冰公司商业模式的基础。李笛认为，该关注的不是短期的商业模式，而是要看长远的模式。他甚至将之称为“可以做一辈子的事情。”
李笛认为，小冰的商业化是能确保持续很多年持续的商业模式，而不是去追逐一个概念。当前很多人工智能公司的收入主要来自于系统集成、软硬结合的销售。
以一款人工智能音箱为例子，如果用户不是因为人工智能技术买了音箱，而是因为内置的内容足够多，音箱价格足够便宜而购买，那么这样的模式会带来不少问题。比如，会将团队的注意力转向非人工智能的东西，让人工智能基础研究和架构滞后；也无法在ToB的垂直领域形成贯通，也就无法以人工智能的方式取代已有的生产模式和生产过程。
“我们认为人工智能真正的商业模式的价值是在ToC上的，我们今天的判断就是我们认为大量的和人直接接触的AIBeings会是未来，但这个需要我们再去进一步的拓展，才能够确定。”李笛说。