ChatGPT的科技伦理问题及法律治理
原创徐欣欣民主与法制时报
核心提示：ChatGPT带来的科技伦理道德挑战包括社会公平、学术伦理规范、算法偏见与歧视等问题，可以在技术内部层面嵌入法律道德评价机制实现数据正义，在外部层面加强科技伦理约束，从而实现科技与法律道德的良性互动。
武丹/制图
作者|徐欣欣
责编|薛应军
正文共2868个字，预计阅读需8分钟▼
北美时间4月20日，美国公司OpenAI联合创始人GregBrockman受邀出席“2023TED”大会，并在现场分享了多个ChatGPTPlus（GPT-4）未发布的新功能和插件。根据GregBrockman现场演示视频，GPT-4已经具备了跨业务流程、平台、系统的端到端超级自动化功能，这也是前段时间爆火的开源应用Auto-GPT的招牌功能。
众所周知，ChatGPT是由OpenAI开发的一款自然语言处理技术，采用了深度学习等人工智能技术，可以模仿人类的自然语言交流，包括问答、对话、文章生成等多种任务。目前，ChatGPT已经发展到第四代，能够生成连贯的、具有逻辑性的文章，具有强大的数据存储能力、超强地方信息检索功能和语言识别技术。ChatGPT的诞生是智能机器人或人工智能技术十分重要的阶段性进步，但由此带来的诸多科技伦理问题，应当引起人们足够重视。
ChatGPT带来的科技伦理道德挑战
ChatGPT的出现就像生成式人工智能的“潘多拉魔盒”被打开一样，它在给人们带来惊喜的同时，也引发了一系列担忧甚至恐慌，比如科技伦理问题。
社会公平问题。以生成式人工智能为代表的人工智能产业的崛起，可能使未来的劳动力市场出现薪资偏向问题，比如与人工智能开发相关的职业可能拥有更高薪资，被生成式人工智能代替的职业可能面对降薪，甚至部分员工被迫下岗。此外，目前，类似ChatGPT式的生成式人工智能已经成为资本投资的热点，与此相关的企业市值均呈上涨态势，这使得许多企业的资本收益率大幅提升，尤其是在此轮技术浪潮中领先的企业以及这些企业所在的国家获得了巨大收益。这将进一步引发社会收入不平衡，最终造成社会排除现象与“数字鸿沟”出现，即有的人因为基础设施不足等原因无法跟上快速发展的社会智能化步伐。因此，一旦决策者依赖这些数据作出决策时，可能会不自觉地将非数据人群的需求排除在这些算法数据收集的范围之外。
学术伦理规范问题。自2022年年底发布以来，ChatGPT被许多学生用于完成作业或撰写论文，对学术研究工作造成了重大冲击。据央视新闻报道，有调查显示，美国有89%的学生用ChatGPT写作业。利用ChatGPT完成学习任务可以很好地避开“论文查重”等问题，且质量效率远超此前许多商家开发的解题软件，这使它对学生极具诱惑力。考虑到ChatGPT在教育学术领域可能引发的问题，许多学校、组织陆续发出声明，禁止或严格限制学生使用ChatGPT进行论文写作。多所美国中学及大学陆续宣布校内禁止使用ChatGPT，并通过减少课后作业方式，避免学生利用家庭网络访问ChatGPT作弊。《科学》杂志禁止在投稿论文中使用ChatGPT生成的文本，《自然》杂志更新投稿规则，明确只能将ChatGPT在内的大语言模型作为一种工具，并在论文的方法部分适当介绍，不能将ChatGPT列为作者。
算法偏见与歧视问题。虽然ChatGPT可以为人类带来更加智能化的体验，但它的智能化程度仍然有限，尤其是在理解和应用知识方面。ChatGPT可以通过大量的训练数据不断提高自己的服务能力，但它仍然无法像人类一样具有深刻的理解和应用能力，因此，在某些高度复杂和专业化的领域，人类的经验仍然无法被替代。当面对一些复杂的问题或者情境时，ChatGPT则很难给出正确的答案或者建议。在首批用户测试中，ChatGPT甚至出现了辱骂用户、诱导用户离婚等言论。可见，一旦训练语料库中包含有害言论、错误言论时，人工智能习得后所作出的有害行为，将进一步加剧算法偏见和歧视。
ChatGPT科技伦理问题的法律规制方案
科技伦理是理性的产物，它的底层逻辑要求科技创新和成果只能有益于或最大限度地有益于人、生物和环境，而不能损伤人、损害生物和破坏环境，即便不可避免会不同程度地损人毁物——如药物的副作用，也要把这种副作用降到最低，甚至为零。技术与法律是社会治理的两种基本手段，兴科技与强法治二者应相辅相成，共同引导社会向善向好。面对科技伦理失范问题，可从以下方面做起：
在技术内部层面嵌入法律道德评价机制，实现数据正义。数据是信息的载体，是一种可被编码的符号，本身不具有价值倾向。ChatGPT等生成式人工智能依托数据构建而来，在一定程度上会体现设计者、生产者个人偏好的技术治理程序，并在“物理-数字”双重空间影响法律关系。技术伦理失范的底层逻辑在于设计者等主体对数据的解读具有自我主观认识，这种主观认识因不符合法律价值规范、公序良俗等社会共识，使得数据具有非正义的价值倾向，而导致伦理偏差。因此，科技伦理的实现基础是回归数据正义。具体来说，一方面应在意识形态层面建立诸如公平正义、安全法治、共建共享等体现社会共识的数据价值观，引导数据主体建立对科技伦理的正确认知。生成式人工智能的科技伦理，主要表现为科研活动中人与社会、人与自然以及人与人关系的思想与行为准则，涉及科学研究中的伦理、科研人员应当遵守科技伦理、科研成果应用中的伦理。另一方面，应培养人工智能的伦理自主习得能力，以技术制约技术。ChatGPT等生成式人工智能的伦理失范之所以具有隐蔽性、耐受性以及机制化特点，是因为人工智能程序结构具备深度学习的主动性。因此，要确保科技伦理朝着数据正义方向发展，需要培养算法自主的伦理习得能力；要在技术知识和法律价值中间实现弥合，并通过人－机反复博弈，不断矫正、升级、完善自我约束技术。
在外部层面以制度的规范性加强科技伦理约束，实现科技与法律、科技与道德的良性互动。伦理规范是调节人与人之间关系的行为准则，旨在引导人们作出有道德、值得推崇的行为。科技伦理是指科技活动中的人与人、人与社会、人与自然之间的伦理关系，旨在规范科技活动符合道德要求。因此，在制度层面加强科技伦理约束，就要加强科技伦理审查和算法影响评价，重点考察技术应用是否在现行法律框架下运行、能否依法保障人们合法权利。具体来说，包含两个方面：第一，建立科技伦理（审查）委员会。结合企业具体情况，厘清决策部门、管理部门、业务部门同科技伦理（审查）委员会之间的关系和职责分工，明确科技伦理在企业常态化管理中的工作机制。第二，组织开展算法应用调查，识别不同应用场景下的算法滥用危害，加快制定算法应用规则和标准规范，建立算法应用影响评估制度。针对典型场景，要求企业在算法正式上线前，评估算法对消费者权益、个人基本权利等方面的影响，并针对评估中发现的相关风险，采取相应防范措施。
ChatGPT等生成式人工智能不仅改变生产关系，而且改变人们认知方式和行为能力，如何应对这种生成式人工智能，值得法律人认真思考。有的学者提出，应当在一定程度上赋予生成式人工智能主体地位，并使其承担相应法律责任。笔者认为，法律人格地位的确认应当是有限度的，在遵循科技向善基础上，算法设计者、生产者、使用者等相关主体仍需按照分级分类的要求承担相应法律责任。
综上所述，完善科技伦理治理体系，提升科技伦理治理能力，有效防控科技伦理风险，应当进一步加深对人工智能正当技术程序工具与算法责任原理的研究，平衡过程与结果端的规制手段，引入风险场景与类别区分式规制模式，为生成式人工智能的可持续发展提供有效的规制方案。
（作者单位：东南大学法学院）
原标题：《ChatGPT的科技伦理问题及法律治理》
阅读原文
虚拟人大火！背后的伦理和法律风险不得不关注……
原创马付才民主与法制时报
核心提示：未来，我们的生活也许将围绕虚拟人构建出一个更丰富的虚拟生态。因此，在虚拟人发展过程中，需要多方参与，对其可能出现的技术问题、内容安全问题、伦理问题、法律问题等尽早预判与干预，保障虚拟人行业的良性健康发展。
原标题：虚拟人火热背后面临伦理和法律风险
记者|马付才
责编|张晶晶
正文共2554个字，预计阅读需8分钟▼
不久前，在南京举行的一场演唱会上，还原邓丽君形象及音色的“邓丽君”虚拟人作为嘉宾现身，惊艳全场。
除了邓丽君虚拟人，去年以来，还有多位虚拟人亮相。如湖南卫视在今年的跨年晚会启用虚拟主持人，成为国内首个常驻且人格化培养的虚拟主持人，凤凰传奇以虚拟形象举办演唱会，哔哩哔哩平台公开全新虚拟偶像女团四禧丸子等。
法律人士指出，虚拟人市场火热的背后，既存在监管难点，也要警惕其中的法律和伦理道德等风险。
什么是虚拟人
作为元宇宙重要内容之一的虚拟人，为现实世界和虚拟世界之间提供了具备更强视觉效果、更佳沉浸体验以及更有情感温度的交互方式。
虚拟人是以数字形式存在，具有人的外观、特点、行为，依赖科技展示的虚拟形象，具备存在于非物理空间、数字技术合成和高度拟人化特征三个核心要素。上世纪末出现的数字化虚拟人计划，目的是利用现代计算机信息技术与医学等学科相互结合，为医学或其他学科的研究提供更为精致的演示条件，通过数字技术模拟真实的人体器官而合成三维模型。这种模型不仅具有人体外形以及各个器官的外貌，而且具备各器官的新陈代谢机能，能较为真实地显示出人体的正常生理状态和各种变化。
因此，最初的虚拟人多充当的是实验者的角色，例如研究手术方案或试验新型药物等。随着科学技术的不断发展，虚拟人的功能不断增加，并开始应用到更广泛的领域，且越来越向商业化发展，其商业价值也开始凸显。
在虚拟人商业化发展的趋势中，虚拟人在影视、音乐、游戏等文娱领域更为活跃，并引人关注。例如上海某公司打造的虚拟艺人洛天依，频频登上舞台与现实中的歌手共同演唱歌曲，并发行了自己的音乐专辑。虚拟人的关注度逐渐增加，多家相关上市公司也纷纷开启“造人运动”，甚至有人开始担心，虚拟人在职场上会不会对真人造成“威胁”。
虚拟人市场规模还将不断增大
IT行业从业者张学峰在接受本社记者采访时说：“2021年，国内一级市场已经掀起了虚拟人投资的热潮，政策环境也鼓励虚拟人领域的创新发展。”
2021年10月，国家广播电视总局发布的《广播电视和网络视听“十四五”科技发展规划》中指出：“面向新闻、综艺、体育、财经、气象等电视节目研究虚拟形象合成技术，包括2D虚拟形象的合成，3D虚拟形象的驱动，虚拟引擎构建、语音驱动、动作捕捉、面部表情捕捉等技术，提升节目制作效率及质量；同时探索短视频主播、数字网红、直播带货等虚拟形象在节目互动环节中的应用，增加个性化和趣味性。”
去年11月，央视新闻推出一位虚拟手语主播，能准确及时地进行赛事手语直播。自北京冬奥会开始，这位形象亲切自然、气质优雅独特的虚拟人主播，将全年无休，为听障用户提供手语服务。
张学峰说，人工智能技术的发展，让虚拟人拥有高拟真度的形象，而且，动作捕捉和语音合成技术也使得虚拟人的形象更加生动丰满。另外，虚拟人在多个角度突破人类局限，比如生命周期长、行为可控、多线程持久工作、思维和计算能力强、可塑性好，这些都使其商业空间广阔。
目前，多个品牌已经开始利用偶像型虚拟人为其品牌代言，这些虚拟偶像不吃不喝、人设稳定不会“翻车”。而虚拟人代替真人进行服务，应用场景已经涵盖了泛娱乐、金融、文旅等多元化行业。
去年12月6日，国家语言资源监测与研究中心发布“2021年度十大网络用语”，其中，“元宇宙”位列其中。而虚拟人是目前大众最直观的接近元宇宙的表现形式之一。对于虚拟人的行业前景，张学峰认为仍存在较大探索空间，未来前景广阔。有商业研究机构预计，到2030年，我国虚拟数字人整体市场规模将达到2700亿元人民币，且随着技术逐步完善，应用场景也将更加丰富，新闻领域的虚拟主播应用正在快速推进。
虚拟人产业良性发展离不开法律保障
虚拟人相关产业规模不断扩大，带来的既有机遇也有挑战。西南大学法学院教授张新民告诉本社记者，在对让邓丽君“复生”的虚拟现实技术的神奇功能赞叹的同时，人们往往忽略了虚拟人现象所涉及的法律和伦理问题，包括被“复活”人物名誉权保护问题，已故人物形象数字化商业利用权问题，虚拟人创作者或已故人物“复活”创作者的权利、义务和责任问题，“复活”艺人虚拟表演的举办者或网络播放平台的审查义务以及政府相关部门的监管责任问题等。
以人工智能的功能进化研发速率来看，未来使虚拟数字人与机器人相结合，具备学习和适应能力并超过人类水平的人工智能（超级智能）也具备了可行性。因此，当这些虚拟人在技术上足够成熟时，有可能实现在无人类干预的情况下，像人一样进行主观思考的程度。那么，该如何对虚拟人自发进行的内容生产进行规范监管？又该如何制定相关的内容安全标准并找到适配的操作方法？这些问题，如何在法律和道德伦理的范畴内去规范，也需要相关监管部门和行业主导者进行共同的探索。
2017年7月8日印发并实施的《新一代人工智能发展规划》指出：人工智能是影响面广的颠覆性技术，可能带来改变就业结构、冲击法律与社会伦理、侵犯个人隐私、挑战国际关系准则等问题，将对政府管理、经济安全和社会稳定乃至全球治理产生深远影响。在大力发展人工智能的同时，必须高度重视可能带来的安全风险挑战，加强前瞻预防与约束引导，最大限度降低风险，确保人工智能安全、可靠、可控发展。
张新民说，元宇宙已成为当下互联网领域最受追捧的新技术概念，在这个未来的数字空间里，每个人都能够通过化身沉浸在一个虚拟的宇宙中，访问不计其数的服务，市场对虚拟人技术和产品的需求整体被提升到了一个新的规模量级。电子游戏企业已经将复杂虚拟世界的制作工具工业化了，国内外一大批科技企业投身于元宇宙的建设。虚拟人的市场化也带动了其他虚拟社交产品的发展，虚拟人未来的应用范围将进一步拓展，虚拟人的存在将会加强人们与现实世界、与他人之间的联系。这其中必然会涉及一些法律及科技伦理的问题，需要相关法律制定和监管引导具有前瞻性，确保其发展方向不脱离管控，应尽快出台相应法律法规和行业规范。
可以预见，在社会关注和资本加持驱动下，元宇宙应用场景将加速拓展，虚拟人业务需求将进一步提升。未来，我们的生活也许将围绕虚拟人构建出一个更丰富的虚拟生态。因此，在虚拟人发展过程中，需要多方参与，对其可能出现的技术问题、内容安全问题、伦理问题、法律问题等尽早预判与干预，从而保障虚拟人行业的良性健康发展。
原标题：《虚拟人大火！背后的伦理和法律风险不得不关注…….》
阅读原文
人工智能应用的九大法律风险与应对
0分享至引言：人工智能（AI）应用的广泛普及带来了众多机遇和挑战,在医疗、金融、社交媒体等领域的应用正在迅速增长，但与之相关的法律风险也不可忽视。了解和应对这些风险至关重要，以确保人工智能应用的合法性和公平性。上海锦天城（重庆）律师事务所高级合伙人李章虎律师团队，从实际承办案件以及现行法律规定等角度,探讨以下九个常见的法律风险及其应对策略和案例分析。一、隐私和数据保护风险：随着AI应用的广泛使用，大量的个人数据被收集、存储和处理，涉及用户的隐私和数据保护问题。应对策略包括制定严格的数据隐私政策、数据匿名化技术的应用以及进行数据审查和监管合规。例如，欧盟的《通用数据保护条例》（GDPR）规定了个人数据保护的原则和义务，以保护用户隐私。二、知识产权风险：人工智能应用可能侵犯他人的知识产权，例如专利、商标和版权。应对策略包括进行充分的知识产权调研和尽职调查，确保AI应用的合法性和避免知识产权纠纷。例如，谷歌与Oracle之间的Java版权争议案就涉及到人工智能软件的合法使用和知识产权侵权问题。三、道德和伦理风险：人工智能的决策过程可能涉及道德和伦理问题，例如歧视性算法、隐含偏见和人权侵犯。应对策略包括制定透明和负责任的算法开发准则，进行审查和监督，以确保人工智能的决策过程符合道德和伦理标准。例如，微软的“人工智能原则”旨在确保其AI技术的公平性、可解释性和道德性。四、责任和赔偿风险：当人工智能应用出现错误、失误或事故时，相关的责任和赔偿问题将引发争议。应对策略包括明确责任界定、合理分配风险和建立相应的保险制度。例如，自动驾驶汽车领域的法律法规正在探索驾驶责任与人工智能系统责任之间的平衡，以保护受害者权益。五、反垄断风险：人工智能应用的垄断行为可能引发反垄断法律纠纷，限制市场竞争和消费者权益。应对策略包括遵守反垄断法规、开放数据接口和促进多样化的技术创新。例如，亚马逊和谷歌等科技巨头在数据收集和市场支配方面面临着反垄断调查和诉讼。六、人权侵犯风险：人工智能应用可能侵犯个人的人权，例如言论自由、隐私权和不受歧视权。应对策略包括制定法律法规保护人权、审查和监督算法决策的过程，以及加强社会对人工智能伦理的关注和讨论。例如，中国的“个人信息保护法”旨在加强个人数据隐私保护，防止人工智能应用侵犯个人权益。七、社会和就业影响风险：人工智能的广泛应用可能对社会和就业产生深远影响，包括自动化导致的工作岗位流失和技能不匹配。应对策略包括制定相关政策，鼓励人工智能和人类的合作，以及提供培训和转岗机会。例如，芬兰启动了“人工智能学习计划”，为公民提供学习人工智能技能的机会，以适应新兴的工作需求。八、监管和合规风险：人工智能应用可能面临不完善的监管和合规环境，缺乏明确的法律规定和标准。应对策略包括建立健全的法律框架和监管机制，推动国际合作和制定共同的准则。例如，欧洲委员会在2021年提出了《欧洲人工智能法规草案》，旨在为人工智能应用提供明确的监管框架。九、不确定性和法律漏洞风险：人工智能技术的快速发展可能导致法律法规滞后于技术进展，存在法律漏洞和不确定性。应对策略包括跟踪技术发展，制定灵活的法律规定，以适应新兴的人工智能应用。例如，美国加州州立法机构修订了机动车驾驶法，以允许测试和商用自动驾驶汽车的上路行驶。总之：人工智能应用的法律风险是一个复杂而持续的挑战，需要政府、企业和社会各方共同努力。通过制定合适的法律法规、建立透明和负责任的AI应用准则，以及加强监管和合规措施，我们可以推动人工智能技术的合法使用和可持续发展，实现科技与法律的平衡。律师简介：李章虎律师为上海锦天城（重庆）律师事务所高级合伙人，主要执业领域为知识产权、法律顾问、投资并购、重大商事争议解决，并着力研究高新科技、大数据、人工智能、区块链、新能源以及物联网领域的法律事务。李律师是中国中小企业协会《中小企业合规评价认证标准》起草人之一，荣登国际权威法律评级机构《TheLegal500》推荐律师榜单（2023）、《BenchmarkLitigation》评为中国西部诉讼之星（2022、2021两届）、《LEGALBAND》客户首选：知识产权多面手15强（2022）、法治新时代十佳知识产权律师（2020）、重庆保护知识产权先进个人（2020）、重庆最佳青年律师（2019入围）等荣誉，承办案件多次入选全国中小企业典型维权案例、重庆法院知识产权司法保护典型案例、重庆市律师协会十佳知识产权案例；著作书籍包括《重庆行业纠纷可视化分析报告》。特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice:Thecontentabove(includingthepicturesandvideosifany)isuploadedandpostedbyauserofNetEaseHao,whichisasocialmediaplatformandonlyprovidesinformationstorageservices.
/阅读下一篇/返回网易首页下载网易新闻客户端