解读人工智能机器人的自我保护意识
原标题：解读人工智能机器人的自我保护意识事实上，AI已经无处不在。最近也出现了许多有关基于AI的应用故事，例如监视如何奶牛和猪的情绪状态、躲避太空中的垃圾、传授手语、加快生产装配线、赢得填字游戏、帮助厨师炸汉堡包、以及实现“超自动化”等。格物斯坦表示：AI正在快速向前发展，它创造的奇迹越来越明显，应用也变得越来越广泛。但是，AI未来世界的发展仍有待讨论。虽然这场辩论正在进行中，但目前对AI世界的争议，主要集中在数据隐私以及AI偏见等负面影响上。
但其实，另一个可能引起更大关注的问题是，我们越来越危险地依赖我们的智能设备和应用程序。这种依赖可能会使我们丧失好奇心，并且更相信我们得到的信息是准确和权威的。或许就像在动画电影《机器人总动员》（WALL-E）中的场景一样，机器人教育创客我们将被屏幕牢牢吸引，被盲目的娱乐消遣分散注意力，毫不费力地吃着空洞的卡路里，而自动化的经济将在没有我们的情况下继续运转。
如今，算法影响着我们的思想，并越来越多地代表我们做出决策。不管是否有意，AI为我们做了这么多，以至于有人将其称为“智能革命”，这就引发了一个问题：我们已经成为事实上的半机械人了吗？众所周知，能动性是人类驱动自己思考和采取行动的力量，机器人教育优势这些方式塑造了我们的经历和生活轨迹。如果是的话，我们还能发挥能动性吗？
驱动搜索和社交媒体平台、书籍和电影平台的算法，经常影响着数十亿人阅读和观看的内容。如果这些内容是为了人类的进步而精心策划的，那当然一切都没问题了。但是正如电影导演MartinScorsese所说的，他们的目的仅仅是为了促使人们消费。我们似乎已经将这种决策工作外包给了旨在提高企业利益的算法。机器人教育开发这可能不是公然的恶意，但绝不是良性的。我们的思想正在被塑造，要么是我们现有的信念被能够推断我们利益的算法强化，要么是来自各种信息平台的有意或无意的偏见。
也就是说，我们进行批判性思维的能力，是由那些旨在帮助并有望刺激我们思维的系统所限制和塑造的。我们正在进入一个递归循环，在这个循环中，思维结合成越来越紧密的群体，比如越来越严重的两极分化，从而减少了意见的多样性。这就好像，我们是一个宏大的社会科学实验的对象，机器人教育开发由此产生的人类意见集群是由AI驱动的输入和机器学习识别的输出所决定的。从本质上讲这与智力的增加不同，因为它促进了人与机器的融合，创造了最终的群体思维。
在大多数科幻电影中，AI机器人一旦拥有了个人的自我意识，便会开始模仿人类的行为，从而导致各种灾难的发生，而战败者通常都是脆弱的人类。那么电影中的这一切真的会发生吗？智能机器人到底会不会出现和人类同样的智慧呢？它们是否会具有像人类一样的抽象思维和创造力，从而成为一个有意识的个体呢？这个问题让目前的许多科学家都很困惑，因为在某些领域，AI的能力是完全超越人类的。至于什么样的情况算是独立的自主意识，又用那种情况来进行区分呢？目前在神经网络中，国外机器人教育AI已经可以学习如何识别疾病，还与人类进行了一系列的策略对抗游戏，甚至还可以编写一些流行歌曲。
展开全文“当人工智能达到一定高度时，会不会取代人类的工作?”我曾无数次问过无数人这个问题，虽然得到的回答基本上都一样，“不会”。但其实他们在回答时显得极为犹豫，你看就连马云对于人工智能的态度也叫人琢磨不透，“人类智慧与经验相关，所以我不认为机器或者人工智能将会取代人类智慧。”但马云也坦言，向自动化的转移将会是痛苦的过程。把握潮流的人将会变得富有，变得更成功。但对另一些人而言，这将是痛苦的过程。创客机器人教育基地为了避免被“取代”，人们也在积极锻炼自己的大脑，“一个很好的方向，其实就是一定要选机器不能做的事情。”李开复认为，对于那些50岁以上的人，可以转型做高端服务工作，而对于年轻人，则必须从教育抓起，教育孩子做自己最喜爱的事情；做有深度的事情，尤其是艺术，让机器无法替代，做人机结合的事情，把新技术、AI应用到自己做的事情上。有一种说法认为，过去的工业化，把人变成了机器，未来的数据化，会把机器变成人，机器会越来越聪明，未来所谓的程序化的工作，技术化的工作，都会变得越来越麻烦。所以，未来应该想办法让人活得更像个人，机器更像机器，这样才是应有的状况。
“人和机器将是一个逐渐磨合的过程，但是机器无法取代人。因为有很多关键的、最为重要的步骤是机器无法完成的。”就如同第一次工业革命期间，以及以福特为代表的第二次工业革命期间，都因为新机器的采用，出现了对劳动力大量失去就业岗位的担忧。怎样学习机器人？但事实证明，机器在替代劳动者原有岗位的同时，由于技术进步和生产力提高，劳动者总能在新的行业、新的岗位重新就业。当未来留给我们无限的想象空间，人工智能不可能完全把人类取代掉，但是能够把人类某些功能发挥得更好，发挥到极致，与其拒绝，不妨试着拥它。
综上所述，人类将会更加密切的与机器人进行合作，这种合作将会极大程度的提高作效率。而这种合作将会使在办公室里工作的员工转变为半机械化的技术增强人。这种半机械化的技术增强人主要通过给普通工人穿上一个机器人的外骨骼，这样的话就可以让工人搬运重量更大的物体，而且相较于普通智能机器人而言，又具备了动作灵敏、柔韧性好的优势。不过想要完成这一切，还是需要程序员给它设定的人物，和选择提供学习的数据。也许有一天，当机器人可以自己设定人物，并且根据目标去执行的时候，才算是有独立的意识吧？返回搜狐，查看更多
责任编辑：什么是机器学习机器变得越来越聪明，不再是科幻电影
当只有输入变量而没有相应的输出变量时，将使用无监督学习模型。它使用未标记的训练数据来建模数据的基础结构。
无监督学习算法有三种类型：关联，广泛用于市场购物分析；聚类，用于匹配与另一个聚类中的对象相似的样本；和降维，用于减少数据集中变量的数量，同时保持其重要信息不变。
强化学习
强化学习允许代理通过学习最大化奖励的行为，根据其当前状态决定其下一步行动。它通常用于游戏环境，在游戏环境中提供了规则的算法，并负责以最有效的方式解决挑战。该模型最初会随机开始，但是随着时间的流逝，通过反复试验，它将了解需要在游戏中移动的位置和时间以最大化得分。
在这种类型的培训中，奖励仅仅是与积极成果相关的状态。例如，如果算法能够将汽车保持在道路上而不会撞到障碍物，那么它将“奖励”任务完成。
为什么机器学习很有用？本质上，机器学习解决了数据过多的问题。人们，行动，事件，计算机和小工具所产生的信息太多，以至于人类几乎不可能从中学习任何东西。在医学分析中，要在成千上万的MRI扫描中找到模式，一个人可能要花费数小时，数天或数周的时间才能完成，但是如果正确标记了机器，机器可以吸收这些信息并在几秒钟内发现这些模式。
机器学习在哪里使用？我们每天都会使用最简单，最成功的机器学习示例之一-Google搜索。搜索引擎由许多ML算法提供支持，这些算法可以读取和分析您输入的文本，并根据您的搜索历史和在线习惯来定制结果。例如，如果您输入“Java”，您将获得围绕编程语言的结果，或者更频繁地浮出水面，这取决于它决定了您的偏好。
我们未来的许多技术进步都取决于机器学习的发展，例如无人驾驶汽车和智慧城市。许多为智慧城市提供动力的系统正在进入公共空间，例如面部识别系统，该系统中的机器学习算法被教为识别图像中的模式并根据其特征识别对象。但是，这已被证明是ML的有争议用途，尤其是因为它并不总是准确的，并且经常涉及对公民的某种定期监视。
数据偏差随着机器学习的改进和更多技术的使用，人们越来越担心将偏见嵌入关键的和面向公众的软件中。机器学习应用程序依赖于数据，而正是这些数据可能成为偏差的来源。例如，如果一家公司想雇用更多不同种类的人，但使用其当前雇员的简历，则默认情况下，其机器学习程序将只寻找更多相同的人。
正是这种类型的机器学习应用引起了政府的担忧，因此，许多政府正在采取强制性的法规来解决这个问题。英国数据伦理与创新中心（CDEI）宣布将与内阁办公室种族差异部门合作，调查算法决策中的潜在偏见。同样，美国政府将试行AI方面的多样性法规，以降低计算机系统中性偏见和种族偏见的风险。
原文链接：https://ai.51cto.com/art/202011/631462.htm
本文转自51CTO，本文一切观点和机器智能技术无关。
百种AI能力赋能产品：https://vision.aliyun.com/返回搜狐，查看更多
机器人越来越聪明（科技大观）
智能概念大行其道，不过是近几年的事儿，但“人工智能”这个词早在1956年就已经问世。2001年，由斯皮尔伯格导演的电影《人工智能》，让人们对“人工智能”这个概念有了更深的了解。电影《终结者》系列，也构建了一个机器人建立自我意识后，蓄意消灭人类的未来世界。电影中，无论是有情感的机器人男孩，还是冰冷的高智商机械杀手，都让人们在憧憬未来科技进步的同时，对“人工智能”产生了一丝恐惧。
人工智能（也称“机器智能”）是相对于人类智能而言的，指用机械和电子装置来模拟、代替和扩展人类的某些智能，是计算机领域最具有挑战性的研究课题。它的产生是科学技术进步的结果，也是机器进化的结果。它的研究领域包括机器人、模式识别、知识工程、模糊逻辑、神经网络、生物算法等。随着智能技术的发展，智能手机、智能手表、智能眼镜等如雨后春笋般陆续问世，有的已经成为人们生活中不可缺少的基本工具，特别是智能机器人，目前已经在众多领域被广泛应用，在改变人类的工作和生活方式的同时，也大大提高了生产效率，并将对未来社会发展产生重大影响。
不过，人类在享受智能机器人带来的服务及便利的同时，也担心未来某一天，过度聪明的机器人可能给人类带来难以预见的危害，尤其是安装了人工智能系统的机器人，将来是否会在智能上超越人类，以至对就业造成影响，甚或威胁人类的生命财产？就像科幻电影中所描绘的：机器人在越来越多的领域取代了人类，最终站到了人类的对立面，由帮手变成了仇敌。
其实，这方面的担心完全没有必要。智能机器人并非无所不能，它的智商只相当于4岁的儿童，机器人的“常识”比正常成年人就差得更远了。目前，科学家尚未搞清楚人类是如何学习和积累“常识”的，因此，将其应用到计算机软件上也就无从谈起。美国科学家罗伯特·斯隆近日表示，人工智能研究的难题之一，就是开发出一种能实时做出恰当判断的计算机软件。日本科学家广濑茂男认为，即使智能机器人将来具有常识，并能进行自我复制，也不可能带来大范围的失业，更不可能对人类造成威胁。早在上世纪90年代，中国科学家周海中就指出：机器人在工作强度、运算速度和记忆功能方面可以超越人类，但在意识、推理等方面不可能超越人类。
眼下，不少国家和跨国公司都投入巨资抢占人工智能的战略高地，如美国国防部、能源部以及IBM、谷歌、苹果等大公司，而且系统规模都很大。随着物联网、云计算、大数据等新技术的来临，人工智能技术必然加快发展， 机器人会越来越“聪明”，并且会严格按照设定好的程序服务于人类，不会跨越“雷池”半步。
《人民日报》（2014年01月27日22版）机器人越来越聪明，我们该怎么办
网易科技讯12月16日消息，近日，在西雅图一家医院，一台注射镇静药物的机器开始向患者提供治疗服务；在硅谷的一家酒店，机器人服务生将各种物品送达客房；去年春天，洛杉矶时报刊发的一则突发新闻是根据软件算法自动生成的。
尽管人们对科技的发展会取代自己工作的担心由来已久，但是这一次，狼可能真的来了。近年来，各种突破性技术的诞生使得机器可以对人类进行模仿，作为对工厂和行政工作的补充，这些机器正承担着各种智力和服务工作
15年来，数字技术已经渗透进生活的方方面面，而就业市场长期处于下滑态势，甚至在近期经济前景改善之后，处于劳动年龄的成年人就业率也显著低于10年前——比20世纪90年代的任何时候都要低。
经济学家已经在此方面争论多时。但是，就像马车制造商最终会让位于汽车工厂一样，技术在毁掉一些工作的同时，也会创造出许多新的工作，只是我们现在还不知道具体情况。
前财政部长劳伦斯·H·萨默斯（LawrenceH.Summers）近期表示，他不再相信自动化总是能够创造新的就业岗位。“这不是某种对未来的假设，”他说道。“这是正在我们面前发生的事情。”
麻省理工大学经济学家埃里克·布林约尔松（ErikBrynjolfsson）也表示“这是下一个十年人类社会面临的最大挑战”。
布林约尔松和其他专家认为，我们仍然有机会推动技术向积极的方向发展。在淘汰一些岗位的同时，新的技术能够弥补人们技能上的不足，从而提高生产率——如同互联网和文字处理系统之于办公室文员，或者机器人手术之于外科医生一样。
具有更强的生产力意味着可以产出更多的产品以及提供更多的服务，也就可以赚取更多的钱来提高生活质量。
“这和200年以前的故事一样，”风险投资家马克·安德森（MarcAndreessen）说道。“今天，我们许多人的工作在100年前还不存在。今后100年间，同样的故事仍会上演。”
然而，对于未来会遵循何种模式演变，我们仍然面临深深的不确定性。人工智能在短期内就取得了巨大进展，机器现在不仅能遵照程序指令执行，还拥有了学习能力，可以对人类语言做出响应并展开行动。
与此同时，美国的劳动力正在较过去更慢的进度获取新的技能——也比许多其他国家要慢。经合组织的一份报告指出，55至64岁年龄组的美国人拥有世界上最多的工作技能，而年轻的一代则仅仅只是接近发达国家的平均水平。纽约时报近期对25至54周岁失业者进行的调查显示，37%的受访者表示技术因素让他们无法得到工作，而高达46%的人表示自己“缺乏必要的教育或者技能以致于无法胜任工作要求”。
自动驾驶汽车是一个生动的例子，该技术能够让卡车和出租车司机失业——或者是让这些人将以往用来驾驶的时间用来承担其他工作，这样就能够提高收入。但是在感受到人生的乐趣之前，这些司机需要掌握新的技能来胜任新的工作要求。
对白领来说，同样存在挑战。美国劳工统计局预测，在未来10年，销售和导购的就业机会将会减少。今天，飞行员在很大程度上借助科技自动驾驶，而未来自动化程度将会进一步提高。在谷歌，软件承担了很大比例的广告销售和投放工作，这意味着他们只需要雇佣更少的销售人员。
麻省理工大学经济学家大卫·奥特尔（DavidAutor）认为，有一些人类才有的技能，机器可能永远无法复制，比如直觉、适应性和创造性。即便未来的工作具有更高的自动化程度，仍然需要人类的参与。例如，手术的麻醉过程自动化之后，医生仍然需要在一旁待命。
当然，在某些领域，机器还是会取代一些工作。根据牛津大学近期的一项研究指出，电话促销员面临的危险最大，而各种娱乐行业从业人员、按摩师、理疗师、健身教练等等的岗位则受到的威胁最小。尽管如此，微软的Kinect已经能够识别用户的运动并且对错误姿势进行纠正。
其他领域也在纷纷跟进。来自加利福尼亚大学圣地亚哥实验室一个面部识别软件的创造者表示，该软件能够通过儿童的表达来预估他们的痛苦级别，也能够判断一个人是否正处在沮丧的情绪中。机器甚至拥有了味觉：泰国政府于9月引进了一个机器人来判断一道泰式食物的味道是否符合标准还是需要加入更多的鱼露。
由IBM建造的Watson计算机正在变得日益成熟。今年，它开始帮助退伍军人做出复杂的人生规划，比如在哪里生活以及购买什么保险。Watson也能为科学家和律师挑选出适当的文件或者为厨师创造新的菜谱。现在，IBM正在试图赋予Watson情绪化智能。
IBM与其他公司一样，声称该技术将会用来帮助人们，而不是取代他们。虽然专家对未来充满乐观态度，还是有很多人承认我们正在面临巨大的不确定性。甚至那些投身人工智能相关行业的人也不清楚这场新的数字革命会对我们的经济和社会产生何种影响。
他们中的一些人表示，人们需要改变目前的工作方式。谷歌的联合创始人拉里·佩奇（LarryPage）近日提出，人们需要每周工作4天的新工作节奏。也有些人认为政府应该加大相关公共服务部门的投入，以便有更多人手来帮助人们获得工作。而有些人则认为教育很重要，因为通过教育，人们可以掌握新的技术以及那些只有人类才能胜任的工作技能，例如创造性或判断性工作。
“我们的答案显然不是要停止技术的进步，”萨默斯说道，“但是，我们肯定不能假设一切都会进展顺利，因为市场的力量非常巨大。”（汪天盈）