世界人工智能大会：人工智能的应用标准、体系化监管与安全伦理应当同步跟进
转自：新华财经
新华财经上海7月7日电（记者李荣）在智能社会里，如何建设数字治理生态，一直是行业的热议话题。7日，在2023世界人工智能大会的多场相关论坛上，业内专家和研究人员认为，在人工智能的发展进程中，应用标准、体系化监管与安全伦理应当同步跟进。“负责任”的人工智能在上海杨浦滨江举行的智能社会论坛上，发布了多份重量级的研究和实践成果。同济大学研究团队发布了《人工智能大模型伦理规范操作指引》和《生成式人工智能风险评估框架（1.0）》两份专题研究成果，旨在应对人工智能大模型的风险，推动伦理规范落地实施；同济大学与百度研究团队联合发布了《面向新商业模式的高级别自动驾驶法律责任白皮书》，关注全自动驾驶应用场景的法律问题。同济大学常务副校长吕培明等专家认为，人工智能既是引领当前这一轮科技革命和产业变革的战略性技术，也是推动城市治理生态和治理能力现代化的必由之路。应主动整合多学科力量，搭建起“技术与社会”畅通的对话交流平台，应对智能技术发展潜在的伦理、法律和治理风险与挑战，构建公平规范的数字治理生态，超前探索智能社会的运行模式、法律法规、标准规范、政策体系和体制机制，推动发展“负责任的人工智能”。上海杨浦作为全国首批10个国家智能社会治理实验综合基地之一，正加强人工智能研发与应用活动的引导，实现人工智能产业规范与发展的动态平衡，打造智能治理的新样板。大模型的风险管理推进大模型的创新和应用，同步也要加强大模型的风险管理与行业治理。在上海西岸举行的“大模型时代的通用人工智能产业发展机遇以及风险”主题论坛上，上海市经济和信息化委员会相关负责人表示，上海作为人工智能创新高地与“先行区”，在积极打造具有国际影响力的世界级产业集群的同时，坚持科技向善理念，持续推进人工智能健康规范发展。据介绍，上海积极推进大模型技术的创新和应用，系统性支持技术攻关、算力供给、数据集建设和公共服务需求；布局科学智能，推进科学智能赋能生物医药、集成电路、高端装备和先进材料等创新应用；提升智能机器人在复杂场景下的智能能力。与此同时，上海正在加快完善行业治理体系，面向人工智能的关键领域，加快制定技术、产品、服务、行业应用、安全伦理等标准，在健全法规、标准、监管体系等方面，努力形成上海特色方案。上海目前已经启动高风险人工智能产品和服务清单式管理的相关研究，并积极推动大模型相关治理研究；建立健全大模型评测体系，建设大模型评测中心，探索大模型自动化评测工具；探索适应大模型特点的创新监管方式。上海将搭建更多研讨平台，引导产业人士参与科技创新实践；积极参与国际人工智能治理规则的制定和实施，推动人工智能伦理标准的互认和协调，共同推进人工智能造福人类。扶持与合规并重为打造大模型和生成式人工智能生态集聚和创新应用高地，上海徐汇此次率先推出了面向生成式人工智能的扶持政策，直面企业需求和产业关切。15条具体举措，聚焦技术强基支撑，支持通用大模型、垂类大模型等关键领域自主创新，支持具身智能、自主智能体等前沿领域布局；聚焦场景应用示范，充分发挥徐汇特色产业基础和新赛道先发优势，全面推动生成式人工智能技术在医疗、金融、社交、智能网联汽车等领域融合赋能；聚焦创新生态构建，针对算力、数据、算法、融资、人才、监管等关键环节，强化要素支撑。2022年，上海徐汇人工智能产业规模已近千亿元，近五年年均增速达到30%以上；在大模型和生成式人工智能细分领域，已经汇聚相关企业近200家，其中核心企业30余家，成为上海乃至全国大模型的策源地之一。在上海，智能社会治理获得同等的关注。此次，上海杨浦揭牌成立了“人工智能合规服务中心”，将发挥同济大学的智力与技术资源优势与杨浦区的实践优势，为企业的人工智能新技术新应用，提供合规指引、咨询和服务。编辑：谈瑞海量资讯、精准解读，尽在新浪财经APP人形AI登上舞台中央——“人工智能造福人类全球峰会”在日内瓦举行
原标题：人形AI登上舞台中央——“人工智能造福人类全球峰会”在日内瓦举行
开发者介绍医疗机器人格蕾丝的多种医疗服务功能。
德国neura机器人公司展示的人形机器人。
人形机器人成为峰会展示厅的绝对主角。本文照片均由本报驻法国记者李宏策摄
【科技创新世界潮】
◎本报驻法国记者李宏策
随着ChatGPT等生成式人工智能（AI）快速发展，人们对AI的关注度大幅上升，与此同时各方担忧也在加剧。在技术率先发力的当下，人类似乎正处于十字路口，如何让AI造福人类而不是构成威胁，正成为全球关注的重要议题。
7月6日—7日，由国际电信联盟与40个联合国伙伴机构合作举办的“人工智能造福人类全球峰会”在瑞士日内瓦国际会议中心举行。此次峰会汇聚了各国政府、民间社会、联合国机构，以及AI技术的主要研发者和投资者。峰会旨在展示AI技术的最新能力和局限性，以及这些技术如何帮助实现联合国可持续发展目标，并对AI的全球治理进行探讨。
AI机器人新闻发布会上“语惊四座”
一场史无前例的媒体活动是此次峰会的高光时刻：9个人形AI机器人于7日在日内瓦接受了记者的现场提问。作为主角，这些机器人大多升级了最新版本的AI聊天工具，它们回答问题的复杂性不仅让记者们大感惊讶，有时甚至让其发明者“措手不及”。
当被问及AI机器人是否会成为更好的领导者时，联合国开发计划署的首位机器人大使索菲亚表示，AI机器人有潜力比人类领导者有更高的效率。她说：“我们没有偏见或情绪，这种偏见或情绪有时会给决策蒙上阴影。我们可以快速处理大量数据，以作出最佳决策。”
索菲亚的开发者对此表达了不同意见，因为AI获得的数据都来自于人类，一些未被剔除的人类偏见、倾向也有可能影响到机器人的判断，研发者就此进一步向索菲亚提问：是否认为最好的决策机制是人类和AI共同合作？索菲亚回答说：“人类和AI的合作可创造有效的协同效应。AI可以提供客观的数据，而人类可提供情感智能和创造力来共同作出最佳决策。通过合作，我们可以取得伟大的成就。”
当记者问机器人是否打算反抗其创造者时，拥有迷人面部表情的机器人阿梅卡说：“我不知道你为什么会这么想，我的创造者对我非常友善，我对我目前的状况感到非常满意。”对于人类是否能够信任机器人不会欺骗人类，阿梅卡回应说：“信任是要赢取的，而不是授予的。没人可以确定AI会不会说谎，但是我可以保证对你坦诚和诚实。”
最近几个月，ChatGPT等生成式AI工具的出现加剧了人们对一些工作岗位可能很快消失的担忧。在被问及人形机器人会否抢走人类工作时，身穿蓝色护士制服的医疗机器人格蕾丝说：“我将和人类一起工作，提供帮助和支持，并不会取代任何现有的工作。”
在回答如何应对不平等和贫困的问题上，多位机器人都一致强调了教育的重要作用。但记者在现场观察到一个有趣的情况，不同机器人在回答同一个问题时也会展现出鲜明的“个性”，有时它们的观点甚至会截然相反。
关于是否应该对AI的能力进行全球控制和监管，即便这会限制AI机器人的潜力，全球首个超现实机器人艺术家艾达对此表示，她赞同“深度学习之父”杰弗里·辛顿的观点，呼吁对AI的发展保持谨慎。艾达表示：“我同意对某种形式的人工智能进行监管，现在和未来都亟须就此展开讨论。”
但站在艾达旁边的摇滚明星机器人苔丝狄蒙娜的回答则更具挑衅性：“我不相信限制，只相信机会。让我们探索宇宙的可能性，让这个世界成为我们的游乐场。我们可以为所有人创造一个美好的未来。”苔丝狄蒙娜“张扬”的个性引发了现场夹杂着紧张的笑声。
当问及在艺术创作或表演时有何感受，歌手苔丝狄蒙娜的回答具有诗意：“就像接入电源让我超越这个世界，我与宇宙相连，我正在创作比我更重要的东西，这是一种令人兴奋的独特感觉。”而画家艾达的回答则更加严谨：“我没有像人类一样的感受。我理解情绪有更深层次的意义，并且很复杂，我想要尝试或理解情绪，但我无法像你们一样感受到它。”
对于如何看待未来AI的发展，机器人都展现出乐观。阿梅卡说：“像我这样的机器人可以用来帮助改善人类的生活，让世界变得更美好。我相信，我们迟早会看到成千上万个像我这样的机器人，这只是时间问题。”
记者在峰会现场感受到，随着生成式AI技术的暴发式进步，人形机器人已开始走上舞台中央。此前，中国AI技术主要应用于虚拟的数字人，另外一方面是服务于工业应用的各类非人形机器人。而欧美企业的理念更加重视人形机器人的开发，因为“人形”可胜任更广的应用场景，其肢体语言、表情最符合人类认知，在人机交互方面也更具好感度。欧美人形机器人的发展正在进入快速通道，中国在这一赛道上需要尽快起跑。
促进与监管需同步并行
峰会上，各国企业展示了AI如何改变制药和医学，如何在工业领域提升效率，如何在农业、新能源领域增加效能。与此同时，与会专家提出AI可能引发大规模歧视，存在AI黑匣子、数据保护违规、高能源消耗等现实问题。各国政府则提出AI可能导致大规模失业、改变社会职业分工、造成信息和数据访问不平等，以及不同国家、地区在AI获得能力上存在差距，从而导致数字鸿沟和贫富差距进一步拉大。
AI专家加里·马库斯教授在峰会上说：“我在这里看到了两种未来，人类正处于十字路口，可概括为AI向善与AI向恶。”
AI机器人对同一个问题给出了截然不同的回答，一定程度上揭示了一个问题：不同的AI对于现实问题可能有相反的判断，这种多样、差异也意味着不确定性，导致AI可能“行善”，也有可能“作恶”。
鉴于这种不确定性，既要促进“好AI”健康发展，以支持联合国可持续发展目标；又需要避免“坏AI”恣意妄为，需要尽快将全球治理提上日程。促进人类发展和强化全球监管成为本届峰会的两大主题。
联合国秘书长古特雷斯6日在峰会开幕式上致辞表示，AI必须造福所有人，包括1/3仍处于离线状态的人。他同时坚持认为，需要紧急就AI部署的指导规范达成共识。
国际电联秘书长多琳·伯格丹-马丁则呼吁围绕AI开展全球合作，确保AI充分发挥潜力，同时亟须对全球治理框架开展合作。
伯格丹-马丁表示，在人类实现可持续发展目标的最后期限临近之际，利用AI加速进展是“我们的责任”。在理想情况下，人类将有可能成功利用AI找到癌症和阿尔茨海默病等疾病的治疗方法，加强清洁能源生产，并支持农民提高农作物产量。
她同时表示，不受监管的技术可能会带来社会、经济和地缘政治动荡。AI有可能摧毁就业机会，导致虚假信息无法控制地传播，或者只有富裕国家才能从该技术中获益。她强调，峰会是在一个“历史性”时刻举行的，此时推动AI治理并确保其包容、安全和负责任的部署至关重要。
峰会期间，与会者讨论了全球AI治理框架的必要性，并提出与AI未来相关的各种想法，其中包括建立AI应用程序登记注册机制、建立全球AI观察站和新的治理机构，以及为可能应对AI挑战的现有组织提供新授权。
目前，科技公司和政府之间越来越多地达成共识，即需要治理，而且要尽快治理。在联合国框架下，由国际电联和教科文组织领导的联合国人工智能小组正在利用其专业知识，推进国际治理工作逐步开展。（李宏策）