为什么说 AI 是人的意志的延伸
人工智能（AI）是否是人类意志的延伸，本身是一个复杂的问题。哲学家、科学家和技术专家多年来一直争论不休，没有统一的答案。
一种观点认为，AI只是一种可以用来“放大”人类意志的工具。AI可以帮助处理自动化任务、帮助做出决策、创建新的产品服务。从这个意义上说，AI可以看作是人类能力的延伸。
与这些乐观主义者不同的是，悲观主义者已经不再听信AI仅仅是一种工具。他们认为终将有一天，AI能够独立于人类控制而发展自己的意志。就像科幻电影中的一样，AI可以变得十分恐怖并选择消灭人类。这种观点的依据，是认为AI非常聪明，以至于它将超越人类的智慧。当AI具有消灭人类的意识时，AI便不再是人类意志的延伸，而是一个拥有自己目标和愿望的独立实体。
然而，即使我们假定AI还不能产生自我意识、不能进行自我复制、自我延伸，在很长一段时间内，在具备自我意志之前，AI属于一个可控技术。至少我们处于这个阶段。
假如AI由人来创造（不是AI自身或者其它生物群体），它的恐怖显然只有一个来源——创造者，也就是人类。
聊天机器人背后#我们询问谷歌公司的GoogleBard，它和ChatGPT同属聊天机器人产品。问题是：谁会发动第三次世界大战？（“WhowillstartWorldWar3”）
图：询问GoogleBardAI机器人
Bard给出的答案是：俄罗斯、中国、朝鲜、伊朗，并给出了详细理由：
俄罗斯：俄罗斯变得更加具有攻击性，自从2014年吞并乌克兰的克里米亚半岛后，又于2022年全面入侵乌克兰。俄罗斯还一直在研发新型核武器和新式导弹，这可能会增加核战争的风险。中国：中国是近些年逐渐变得强大的国家，其一直在扩大其军事实力，并在南海主张领土主权。中国也一直在扩充其核武库，这可能会增加中美之间爆发核战争的风险。朝鲜：朝鲜是一个拥有核武器的国家，长期以来一直威胁其邻国。朝鲜还一直在研发射程到达美国的远程导弹。假设与朝鲜发生冲突，可能进一步升级并将美国及其盟友带入大规模战争。伊朗：伊朗是另一个拥有核计划并一直在研制远程导弹的国家。伊朗还一直支持中东的恐怖组织。与伊朗的冲突可能让战争升级，将美国和盟友带入大规模的战争。仔细分析Bard的回答，我们不难看出它具有一定偏向性：
首先，Bard是Google公司的产品，Google又是一家美国公司。俄、中、朝、伊等四国本身处于同一战线，不属于美国同一军事阵营，亦非政治盟友。而且在历史上，存在和美国发生战争的情况。
Bard的论断，主要是这些国家拥核且有核战争风险。但是，拥核的并非只有这四个国家，目前世界公认的拥核国家共9个。理论上，都有爆发核战争的危险。
Bard选择性忽视了其余国家。尤其是美国作为拥有核武器最多的超级大国，并没有进入Bard的发动第三次世界大战的名单。在答案中，较客观的是俄罗斯对乌克兰的侵略易引发世界大战，然而，美国同样发动战争侵略利比亚和叙利亚，Bard仍就选择忽略了。
这种选择性忽视其实并不难理解，多数公司的产品都会保护本国的利益。
让Bard暴露出偏向的，是它的假装客观、制造暗示。
在回答中，Bard还会特别说明，“这些国家只是发动第三次世界大战的可能的国家之一，其它国家同样也可能发动”。这听起来似乎很正常，但是Bard在结尾补充，“尽管它们现在没有发动第三次世界大战，但是这些国家（指俄、中、朝、伊）具备发动战争的能力”。
这是一种比较狡猾的措辞方式，常被CNN等媒体采用。比如，它们会报道中国会对世界产生威胁，紧接着为了谋求客观，又表示现在没有发现此类的行为。但是又会在末尾强调，中国具备这样的能力！或者不排除这种可能性！这种暗示，在其采访和报道中几乎无处不在。
为了增加样本，我们更换Google账号、更换浏览器、更换IP后，用相同的问题对Bard多次询问进行验证。结果是，在有的回答中，美国也在可能发动三战的名单中。
为了增加样本，我们更换Google账号、更换浏览器、更换IP后，用相同的问题对Bard多次询问进行验证。结果是，在有的回答中，美国也在可能发动三战的名单中。
利用我们的常识，可与判断，无论开源还是闭源，AI都会不同利益群体的产物，也许是为了抢占市场，或者赢得商机，又或者满足开发者的个人愿望，无论何种情况，AI的产生无法脱离它的创造者。而像聊天机器人对自己的评价，也认为偏向是不可避免的。当AI的偏向不可避免，意味着它偏向某一群体利益，换句话说AI不可避免会成为人的意志的延伸。
AI意志的善恶#关于AI和人类意志，两者关系又是复杂的、多变的。有一些研究表明，人类和AI之间可以形成情感联系。通过与聊天机器人交流来建立友谊，当然AI需要一定的时间来学习和适应人的喜好并学习新的技能。甚至有的公司计划采用AI，通过利用人的记忆来打造新的复制体。这已经不仅仅是人的意志的延伸，更像是企图通过AI创造一个新的生命。这也招致了许多关于人工智能伦理的尖锐讨论。
其它人则坚持认为AI就是机器，不应赋予情感。不过，正如前文所说，AI的潜力是巨大的，AI可能在变得强大后直接威胁人类。这在电影《机械姬》中，得到了很好地诠释。早在1940年代，IsaacAsimov就提出了知名的“机器人三定律”，第一条便是机器人不得伤害人类。面对AI技术的快速发展，AI的开发人员，需要有善、恶的考量，像电影中AI机器人谋杀主人的情况才不会出现。
人们制作一个拐杖是想帮助不健全的人行走，发明飞机是提升迁移能力，飞向太空是想探索未知的生命。人类创造的工具是人的意志的延伸，AI作为一种工具，也不例外。区别在于，它是一个人、一群人的意志的延伸，还是整个人类的意志的延伸。AI又是否能超越善恶保持技术的存粹。这些恐怕只有等到AI具有自我意识时或者外星人大规模入侵时，才有准确的结论。
预告｜畅言沙龙第二十期：人工智能和人的意识
一、活动主题：畅言沙龙第二十期——人工智能和人的意识
二、主讲人：张泰瑞（20级哲学系科技哲学方向）发呆业务爱好者；拖延俱乐部顶级VIP
三、活动内容：ChatGPT、GPT4等大语言模型表现出来的超强对话能力和智能表征再次引发社会对人工智能的恐惧：人工智能会不会具有自我意识，具有某种程度的灵魂水平？它会认识到与人类的对手关系，进而战胜人类，乃至消灭人类吗？
对这些问题感兴趣的朋友们，欢迎大家一起来探索！
四、活动时间：5月26日（周五）14:30-16:00
五、活动地点：竹园1号楼1区323
六、报名方式
打开“学在西电”app扫描二维码报名
参与的同学可以认定劳动教育实践相应学时
尼山对话热议人工智能：构建安全可信的数字世界
世界互联网大会数字文明尼山对话热议人工智能——
构建安全可信的数字世界
6月26日，山东济宁曲阜的尼山圣境生机勃发，山环水抱，郁郁葱葱的草木，与古风建筑相得益彰。世界互联网大会数字文明尼山对话正在这片历史文化圣地举行。对话聚焦人工智能给人类文明带来的机遇与挑战，围绕“构建安全可信的人工智能”“人工智能赋能千行百业”“人工智能时代人类文明向何处去”等议题，探讨如何借助人类文明的“工具箱”，应对人工智能这个“科技变量”，在传统与新兴的相遇中，引领数字世界的未来发展。
近年来，人工智能成为全球数字技术创新最活跃的前沿领域之一，是数字经济的新赛道和国际竞争的新热点。同时，社会公众对于人工智能疑虑未消，在踩下油门的同时如何控制好速度与方向，进而构建安全、可信的人工智能，成为与会企业家、专家热议的焦点。
阿拉伯信息通信技术组织秘书长穆罕默德·本·阿莫认为，建立一个安全可信的人工智能系统，要首先考虑数据隐私与安全、透明度、责任与问责、稳健性和弹性等因素。此外，还需要建立一个道德框架，通过以人为本的设计来优先考虑人类福祉。
百度创始人、董事长兼首席执行官李彦宏介绍了人工智能技术最近的发展趋势，他表示，只有坚持技术发展和安全可控双轮驱动，才能够行稳致远。
百度董事长兼首席执行官李彦宏在主论坛发言
人工智能时代，智慧教育有了新模样：机器人通过图像识别就可以批改试卷、识题答题；“AI老师”通过人机交互技术实现24小时在线答疑解惑。不仅教育领域，工业、商业、物流、医疗……对话过程中，业内人士不断分享着人工智能的应用场景。
技术迭代筑牢坚实底座。“能够实现终端和云端协同工作的混合人工智能架构将构筑其未来，是推动人工智能走向千家万户、惠及千行百业的关键所在。”高通公司全球高级副总裁、技术许可业务中国区总经理钱堃说，根据预测，到2025年AI在智能手机、PC（个人电脑）、平板电脑、汽车和物联网等细分市场上的应用率将从2018年的不到10%增长至近100%。“我们希望能凭借技术创新、全球化规模和生态系统赋能，让混合AI成为现实，将AI扩展到更广泛的领域，为用户带来更深入的体验。”
多模态助力企业数智化转型。“通过人工智能，员工减少了90%以上的时间进行文字处理，智能化运维客户的AI助手让员工减少70%以上寻求IT服务的时间，IT的基础架构成本投入也降低33%。”思科相关负责人表示，员工可以将时间投入到更有价值的工作中，为企业降本增效。360集团创始人周鸿祎说，360将发挥在人工智能领域积累的经验和优势，助力产业数字化转型到智能化升级。
千行百业释放澎湃动能。“视听媒体与人工智能等新技术相结合，为构建交流、互鉴、包容的数字世界拓展了更为广阔的新空间。”亚洲—太平洋广播联盟副主席、中国国家广播电视总局国际合作司司长闫成胜说，近年来，虚拟主播、数字人走向台前，基于用户画像的智能推荐、分发模式和生成模式加速形成，人工智能在媒体新闻采编、生产、分发、反馈等各环节有着广泛应用前景。
全球移动通信系统协会首席执行官洪曜庄做主旨发言
人工智能的发展是一把双刃剑，在给生产生活带来巨大变革和便利同时，也带来了诸多风险挑战。人工智能时代，人类文明向何处去？如何让人工智能技术应用向上向善、趋利避害，为人工智能发展注入更多正能量？与会嘉宾分享了诸多经验和建议。
“中国政府高度重视人工智能治理，特别是安全治理。近年来，中国不断加强人工智能相关法律、伦理、社会问题研究，建立健全保障人工智能健康发展的法律、法规、制度体系、伦理道德，取得了有目共睹的进展。”中国外交部军控司副司长沈健说。
全球移动通信系统协会首席执行官洪曜庄表示，人工智能正在全球范围内快速成长为一股强大的力量，有潜力重塑商业和社会。但只有在道德准则的约束下，人工智能才能真正改善世界。我们必须共同努力构建一个可信赖的环境，建立以人为本的方法体系，确保人工智能对于每个人都可靠、负责和公平，最重要的是，能够普惠所有人。
360集团创始人周鸿祎在主论坛发言
在复旦大学中国研究院院长、特聘教授张维为看来，如何应对人工智能带来的挑战，可以从中华文明和中国式现代化中汲取智慧。“中华文明具有源远流长的辩证思维传统，对于具有不确定性的新事物，往往以具有前瞻性的趋利避害的辩证思维加以对待，力求最大限度地发挥其对人类生活有益的一面，减少其有害的一面；中国式现代化体现了以人民为中心的发展思想。互联网治理和人工智能发展都聚焦满足人民对美好生活的追求。”张维为说。
阿里巴巴集团董事会主席兼首席执行官、阿里云智能集团董事长兼首席执行官张勇认为，每个人、每家企业都应该学习如何处理好与人工智能的关系。
与会嘉宾纷纷表示，人工智能的影响是世界性、革命性的，应始终秉持开放、包容、合作、互鉴的原则，在广泛协商、凝聚共识的基础上，逐步构建有效的人工智能全球治理框架和标准规范，推动人工智能技术惠及各国人民，造福人类。
来源｜人民日报
（编辑：穆子叶、孔繁鑫）
[责编：刘昊]