人工智能面临哪些挑战和限制
人工智能面临哪些挑战和限制？2023-07-03
43
人工智能（AI）作为一项前沿技术，展现出了巨大的潜力和应用空间。然而，它也面临着一系列挑战和限制。下面将探讨人工智能面临的主要挑战和限制。
数据和隐私：人工智能的有效性和准确性依赖于大量高质量的数据。然而，在实践中，获取、整理和标记这些数据是一项复杂且耗时的任务。此外，大规模数据收集可能引发个人隐私和数据安全问题，导致公众对AI的担忧和不信任。
缺乏透明性和解释性：许多人工智能算法被称为"黑箱"，因为它们的决策过程往往难以解释和理解。这种不透明性限制了AI的可信度和可接受程度，在敏感领域如医疗和司法中尤为重要。为了建立可靠的AI系统，需要更加透明和可解释的算法。
偏见和歧视：人工智能系统容易受到数据偏见的影响，这反映了数据本身的缺陷或被系统开发者的偏见所倾斜。这可能导致不公平的决策和对某些群体的歧视。解决这个问题需要审查和改进数据集，以确保公正和包容性。
缺乏创造性和直觉：尽管人工智能在处理大规模数据和执行重复任务方面表现出色，但在涉及创造性思维和直觉判断的领域中仍存在局限。目前的AI系统往往无法产生原创性的想法或理解抽象概念。这使得AI在某些复杂任务（如创作艺术品或解决复杂的伦理问题）上的应用受到限制。
法律和伦理挑战：人工智能的广泛应用引发了一系列法律和伦理问题。例如，自动驾驶汽车可能引发道德困境，当需要选择救助一个行人还是保护乘客时，应该如何做出决策？此外，随着技术的快速发展，法律法规可能落后于新兴的AI技术，这给监管机构带来了挑战。
就业和社会影响：人工智能的广泛应用对就业市场产生了深远的影响。尽管AI可以提高生产力和创造新的工作机会，但也可能导致某些行业和职位的消失。这对那些依赖于传统工作模式的人们来说是一个重大挑战。此外，AI的广泛应用还可能加剧社会不平等和数字鸿沟。
虽然人工智能面临着许多挑战和限制，但随着技术的进步和持续的研究努力，我们有望克服这些问题，并构建出更强大、透明和负责任的人工智能系统。同时，需要制定相关的法律法规和道德准则，以确保人工智能的公正、安全和可持续发展。
完谢谢观看
展开阅读全文上一篇:人工智能领域的就业前景如何？...下一篇:人工智能如何应用于数据分析？...
人工智能数据安全分享收藏相关课程学习[点击了解]相关阅读
如何摆脱数据分析中的缺失值？如何保障数据的质量和准确性？如何避免机器学习模型过拟合？如何成为一名初级数据分析师？CDA助力华夏银行数字化能力水平提升请不要将数据中台做成BI！2023中国数据要素高峰论坛暨首席数据官CDO峰会...CDA证书-数据分析能力的评判标准人工智能的机遇与挑战
人工智能的机遇与挑战人工智能，简称AI，是指具有人类智能的计算机系统或程序。自从二十世纪以来，人工智能技术得到迅速发展，已成为当前科技领域的一个重要方向。虽然人工智能在诸多领域中的应用正在不断加强，但是也存在着一些挑战和风险。本文将针对人工智能的机遇与挑战进行探讨。
机遇1.节约人力物力资源
当今社会正面临着人口老龄化以及越来越严重的劳动力短缺问题，这种情况下，人工智能可以成为一种解决方案。通过人工智能技术的应用，一些重复性或危险性高的工作完全可以交由机器来完成，这样不仅能提高工作效率和质量，并且还能节约大量的人力物力资源。
2.开创新产业
人工智能不仅能引领产业升级，而且能开创出一些新的场景和产业。例如，智能医疗、智能家居、智能驾驶、机器翻译等，这些都是当前人工智能技术在各个领域中带来的新产业和机遇。
3.科技创新
人工智能的应用将会在未来科技创新中扮演重要的角色，尤其是在人工智能领域的深度学习算法的不断研究和进步，技术应用的程度也将越来越广泛。
4.对科研工作的促进
人工智能技术的应用能够加快科学研究工作的进度，为科学家提供更为丰富的数据和思路，从而更加精准地完成某些科学研究工作，提高科研的效率。
挑战1.人工智能的缺陷
目前的人工智能技术还面临着缺陷，在某些特定领域的输入和输出方面，人工智能的表现并没有达到人类的预期，这种表现在某些情况下甚至可能会带来危害。
2.职业风险
尽管人工智能技术能够取代人类完成某些工作，但也将进一步加剧职业不稳定的现象，尤其是在劳动密集型产业中，可能会出现大量个人被取代的情况。
3.隐私问题
人工智能技术所产生的数据，可能会带来某些隐私问题，例如人工智能机器人拍摄的隐私照片、语音识别的个人信息等。一旦这些信息被人为利用，可能会给更多个人带来隐私方面的风险和损失。
4.伦理问题
人工智能技术在一些特定领域中的应用，例如武器领域、生物领域等等，可能会引发一些不道德的风险和事件。一些不道德的应用，可能对人类产生非常巨大的影响和危害。
总结在目前的人工智能技术中，未来的发展方向仍然需要更加全面和深入的思考。人工智能无论在机遇和挑战方面都存在很大的风险，应该在未来的科技发展过程中，进一步注重人机交互、隐私保护和文明利用等方面，而且还需要进行一些制度安排、法规规范等方面的完善和加强。最终，我们应该逐步建立一些规范化的、预先考量人工智能技术对人类产生的影响的框架，从而保护人类和全球社会的共同利益。
译文｜美智库：人工智能民主化面临的挑战
导读·2023.07.03
目前，美国正在围绕人工智能民主化制定相关政策。但是，将民主价值观融入技术应用绝非易事。本文认为，人工智能算法透明化的缺失，是人工智能民主化面临的最大挑战。
引言
了解人工智能的工作原理，有利于确定人工智能的利弊，更有利于为人工智能治理提供更充分的政策依据。从决策者的角度来看，制定有关算法透明化的政策，是最直接且成本最低的途径。这样既政治正确，又无需具备人工智能专业知识。也正因为如此，决策者往往忽视了一系列深层次问题。例如，如何划定人工智能算法的能力范围与边界？在设计人工智能模型时需要考虑什么因素？
在算法透明化方面，美国和中国选择了截然不同的道路。美国就政府机构如何使用人工智能技术做出了明确的规定。虽然美国并未要求企业遵守相关规定，但却要求企业接受社会的监督。中国实行了算法备案制度，旨在对算法服务提供者进行监管和评估。该备案只供政府内部使用，不对外公开。
上述案例表明，算法透明化的实现离不开两个重要因素：一是如何确定算法信息的披露对象？二是为什么算法需要透明化？
如何确定算法信息的披露对象？
让公众了解算法的性能和影响，是实现算法透明化的第一步，而这涉及到算法信息的披露程度。
众所周知，人工智能具有黑箱效应（复杂性、不透明性、不可预见性和部分自主性行为）。以美国为例，数字监管机构规定，银行必须承担管理机器学习模型带来的所有风险。美联储于2011年发布了《模型风险管理监督指南》，强调金融机构应当更深入地了解人工智能的工作原理。
2011年4月发布的《模型风险管理监督指南》
（图源：美联储储备委员会）
为了推动算法透明化，美国爱达荷州最近通过了一项法律，规定司法部门通过人工智能技术获得的所有文件和信息均必须向公众公开，而且不可以限制公开对象，这等同于默认接受无限制的外部审查。
与美国的激进做法相比，欧盟显得较为谨慎，于2022年发布了《人工智能责任指令》，拟就人工智能引发的损害设定责任规则。该指令规定，在面对技术复杂度高的人工智能产品时，法院可以在诉讼过程中要求算法服务提供者披露技术细节，以辨识谁是可能的担责者，发现何为问题的缘由。但是，欧盟并未对算法透明化做强制要求，而是根据具体情况而定。
除了披露技术细节以外，确定披露对象也是算法透明化的一个重要方面。就企业而言，算法透明化通常只局限于企业内部，而且企业管理层可以自主决定算法信息的披露程度。这显然是不合理的，一旦算法透明化与企业利益发生冲突时，就难以实现算法透明化。有鉴于此，欧盟在《人工智能责任指令》中规定，当被告拒绝向原告提供证据时，原告可以要求算法服务提供者提供证据，这进一步提高了算法问责的有效性。
2022年9月发布的《人工智能责任指令》
（图源：EUR-LEX官网）
算法透明化的另一个重要方面是如何利用算法信息来保障个人权益。人工智能模型主要由两个部分构成：算法和训练数据。研发者可以利用上述两者来测试人工智能系统的表现，类似于医生根据医学试验结果来进行临床诊断。但对于一般人而言，显然无法从专业的角度来判断算法的优劣。
如果不提高公众对算法透明化的认识，披露人工智能模型的技术细节将毫无意义。将算法信息转化为保障个人权益的工具是关键，但实现算法透明化需要建立一套完善的问责机制。
如果缺少算法监管机制，那么算法引起的后果只能由个人来承担。迄今为止，没有一国有能力实现真正意义上的算法透明化，只有少数人能够受益于算法透明化带来的利好。
为什么算法需要透明化？
人工智能模型必须具备人类价值观，制定符合民主规范的公共政策，为社会问题提供更好的解决方案。然而，人工智能模型的行事方式却与人类价值观渐行渐远，不断冲击着社会伦理与法治秩序。例如，人工智能模型可以通过训练数据来预判人的行为，从而导致社会能动性的丧失。此外，人工智能模型还存在算法偏见现象（例如对特定群体产生刻板印象），进而破坏权利平等，危及社会公平。
毫无疑问，算法透明化是人工智能民主化的重要前提条件。为了更好地维护民主价值观，除了要实现算法透明化以外，政府还应当加大对算法透明化研究的财政支持力度，并大力推进人工智能问责制度的建设。
如果要将算法透明化转化为公共利益，政府应当帮助官员学习人工智能方面的知识。首先要成立一个专门负责相关事务的机构，其次在各机构中寻找人工智能方面的人才。在制定人工智能应用规范的同时，政府还应当重视减少人工智能带来的负面影响。为此，可以考虑给数字监管机构和消费者权益保护机构提供专项资金，用于保障与算法相关的公民权益。美国联邦贸易委员会在这方面表现出色，可以作为其他机构效仿的典范。
此外，政府还应当加大对人工智能受害者的保护力度。例如，在人工智能造成的损害方面，欧盟的《人工智能责任指令》要求人工智能企业承担产品责任，这大大降低了人工智能受害者的举证难度。
人工智能的使命是服务于民主政治。要完成这项使命，政府应当公开用于划定选区边界的算法信息，以确保选举的公平和透明。公众对人工智能的态度是一个重要因素！研究显示，公众对人工智能的态度呈现出两极分化的趋势：极为乐观和极为悲观。这表明，培养公众对人工智能的信任比算法透明化更难实现。
在制定有关人工智能的政策过程中，政府和产业界应当与公众建立密切联系，以加强公众在人工智能治理领域的话语权。为了强化对算法的监管，拜登政府在《2020年国家人工智能倡议法》中要求各机构采取强有力措施，支持美国人工智能教育和劳动力培训计划。算法透明化是一项复杂和技术要求极高的工作，而且无任何先例可循。只有将人工智能民主化与算法透明化两大目标相结合，人工智能才具备服务于民主政治的能力。
结语
长期以来，如何规范和管理人工智能的应用一直饱受争议。美国政府内部对人工智能民主化存在分歧，例如，各机构在推进人工智能民主化的过程中有着不同的侧重点。有官员认为，人工智能法规应当建立在自由主义和平等主义之上；也有官员认为，人工智能的作用是维护民主选举的权威性，确保民主协商的有序开展。
2021年，美国人工智能国家安全委员会向美国国会提交了一份研究报告。该报告明确将“民主”定义为“有限政府”和“个人自由”，这与白宫科技政策办公室《人工智能权利法案蓝图》强调的“机会平等”和“公平获取社会资源”不一致。在该情况下，各机构必定会推出截然不同的人工智能政策。为了避免此类情况的发生，各机构应当根据算法信息的披露对象及算法透明化的目的来调整其侧重点。
2022年10月发布的《人工智能权利法案蓝图》
（图源：白宫官网）
算法透明化并非人工智能治理的唯一标准，选择什么机构承担人工智能的监督工作，授予监管机构什么权力也同等重要。此外，要确保人工智能符合“以人为本”、“包容性”和“无偏见”原则，还必须研究特定地区的文化和政治制度，并从人工智能治理的角度加以分析。
综上，人工智能治理的复杂性远超我们的想象。我们不能单纯地从技术的角度来思考人工智能民主化，也应当增强政府公信力，向公众普及人工智能技术的相关知识和应用。只有这样，才能推动人工智能更好地为人类服务。