人工智能大模型将走向何处专家展开热议
5月28日，由科技部、北京市人民政府主办，北京智源人工智能研究院、中国科学技术信息研究所承办的2023中关村论坛—人工智能大模型发展论坛在京举办。与会专家围绕人工智能大模型的研究进展、实际应用以及未来发展趋势，展开深入讨论。
科技部副部长吴朝晖在致辞时指出，ChatGPT大模型技术拉开了迈向通用人工智能的序幕，将引发经济、社会、文化等领域变革，有望推动人类社会迈进智能增强时代。他表示，要继续加强大模型技术创新发展，推动行业落地应用，强化伦理风险治理，促进国际合作交流，让人工智能更好地造福人类社会。
中国工程院院士、中国人工智能学会理事长、清华大学信息科学与技术学院院长戴琼海在题为“关于人工智能的一些思考”的主旨演讲中，从人工智能算力、数据和算法的相互关系入手，深入分析人工智能技术和产业的发展范式，指出未来人工智能技术在元宇宙等场景将产生应用变革。
“AI大模型是中国不容错过的历史机遇。”创新工场董事长、首席执行官李开复表示，AI2.0时代已经到来，它将带来比移动互联网时代大十倍的机会，穿透各行各业极大地提振生产力。他认为，自主创新是中国企业的必经之路和重大责任，而中国的中小微企业是重要创新力量。
百度首席技术官王海峰在论坛上阐述了大语言模型技术及产业模式，并展望大模型将与实体经济深度融合，加速产业升级和经济增长。他认为，大模型的产业化，类似芯片代工厂模式。具有算法、算力和数据综合优势的企业，可以将模型生产的复杂过程封装起来，通过低门槛、高效率的生产平台，为千行百业提供大模型服务。
阿里云智能集团首席技术官周靖人在演讲中提到，“数据+知识”驱动了大模型的发展，以模型为中心的开发范式已被业界广泛接受。周靖人认为，云计算为大模型的研发和应用奠定了坚实的基础，云和AI的高度融合正在加速全面智能化时代的到来。
科大讯飞高级副总裁、认知智能全国重点实验室主任胡国平在论坛上介绍了讯飞星火认知大模型背后的源头技术储备和当前版本的六大核心能力，并谈到认知智能大模型“智能涌现”的四点技术启示，认为大模型技术有望成为实现通用人工智能多种潜在路径的主角。
论坛上，中国科学技术信息研究所党委书记、所长赵志耘发布《中国人工智能大模型地图研究报告》，北京智源人工智能研究院院长黄铁军发布“通用分割模型SegGPT”与“中文开源指令数据COIG”。
此外，与会嘉宾围绕人工智能面临的关键挑战和机遇，大模型技术对高校人才培养和企业团队建设的新需求，以及系统构建创新协同机制等话题展开深入探讨，进一步展望人工智能大模型技术发展方向。（记者马常艳）
国内大模型首超GPT 35
在初始排名中，由Anthropic公司开发的Claude模型以1215分暂居第一。在国内模型中，MiniMax模型以1188的高分力压众多国产大模型登顶SuperCLUE琅琊榜，暂居国服第一，也是国内大模型首次在公开测评中超过GPT3.5。
其中，GPT3.5以1171分排名第三。由清华大学和智谱AI开发的ChatGLM-130B则以8分微弱差距排名第四，ChatGLM-6B以仅60亿参数量的模型跻身前五，表现不俗。香港中文大学和复旦大学同样表现优异，分列6、7名，IDEA研究院的姜子牙大模型同样也超过了1000分，排名第9。
相比之下在英文上表现强劲的vicuna-13b模型，仅仅排名第10，在中文能力上明显弱于国内中文大模型。
值得提及的是，在英文对战排名中表现优异的RWKV，在中文对战表现上稍显不足。RWKV团队表示正在训练中文基底模型，后续会以中文身份加入对战。
CLUE团队表示，之后会定期更新SuperCLUE琅琊榜排名，同时加入更多具有代表性的大模型。
Rust内部大乱斗不休止
MINIX已死，那么Linux呢？
作大死！Firefox强制弹出全屏广告惹众怒
这里有最新开源资讯、软件更新、技术干货等内容
点这里↓↓↓记得关注✔标星⭐哦返回搜狐，查看更多
在发展中治理完善人工智能大模型
新一轮科技革命和产业变革迅猛发展，数字技术、智能经济与数字化产业成为催生新产业、新业态、新模式的重点领域。发布仅6个月的ChatGPT，已掀起全球人工智能（AI）产业的大模型热潮。在日前举办的中国人工智能产业年会中，AI大模型带来的安全挑战和发展机遇成为与会专家热议话题。
赋能千行百业
ChatGPT在与人类对话、写作文、写代码等方面令人惊艳的表现，是AI大模型GPT通过大算力、大规模训练数据突破自然语言处理瓶颈的结果。但大模型本身并不是新鲜事物，AI大模型也不止GPT这一条路线，很多科技巨头近几年都在“炼”大模型，且各有积累。这也是ChatGPT走红之后，各巨头短短数月内就纷纷推出竞品的原因。
“以ChatGPT为代表的多模态通用大模型，将深刻变革各行各业。”电子科技大学教授、考拉悠然科技有限公司联合创始人沈复民说，行业人工智能可有效推动技术与市场供需平衡，将是人工智能产业化的最大机遇。人工智能技术落地行业时，需要克服开发效率低、落地成本高、场景复杂多元等难题。
沈复民所在的研发团队获得了2022年度吴文俊人工智能科学技术奖自然科学一等奖。据他介绍，团队开发了为垂直行业赋能的多模态AI操作系统，基于行业多模态大模型、多模态融合分析、机器视觉等核心AI算法支持，可以让企业摆脱繁杂的算法、算力、数据整合工作，快速孵化行业大模型，高效率应用到工业制造、城市治理、消费、能源、交通、建材等业务场景。
“通用对话技术是人工智能领域最具挑战性的方向之一，也被认为是通用人工智能的必备能力。如今备受关注的对话式人工智能，其背后就有通用对话技术。”百度首席技术官、深度学习技术及应用国家工程研究中心主任王海峰说。中国人工智能产业年会期间，由他带领团队完成的“知识与深度学习融合的通用对话技术及应用”成果，获2022年度吴文俊人工智能科技进步奖特等奖。
公开资料显示，这一研究项目已获授权发明专利82项，发表高水平论文36篇，在国际权威评测中获世界冠军11项。目前项目成果实现了大规模产业应用，已支持5亿智能设备，服务超过10亿用户，覆盖包括通信、金融、汽车、能源等20多个行业。
争取“主动安全”
技术是把双刃剑。人工智能大模型能力越大，一旦滥用带来的危害也就越大。当前，ChatGPT等工具被用于生成假新闻、假照片、假视频，甚至实施诈骗等犯罪行为，引发人们对大模型安全性的担忧。
西北工业大学教授王震是网络空间智能对抗应用研究领域的专家，他认为，要用人工智能驱动网络空间智能对抗。比如，用人工智能检测、识别有害信息，搭建“主动安全”的智能防御网。
“只有在AI发展过程中，我们才能面对问题、解决问题，并找到机遇。”蚂蚁集团AI风险管理负责人杨舟表示，在AI管理中，安全事件对日常风险管理至关重要。“我们需要重视和预测相关事件，分析安全问题，避免发展带来的风险。”
了解机理是安全管理的基础。不过，大模型的“智能涌现”目前还是个难以解释的黑箱，没有人能理解、预测或可靠地控制这些大模型，甚至模型的创造者也不能。开发出ChatGPT的公司OpenAI，也为大模型做了大量价值敏感设计和道德嵌入工作，但仍然存在明显的漏洞和局限。
“虽然大模型的能力在不断变强，但如果不对其进行专门的安全性训练或安全性加固，其脆弱性不会得到任何改善。”瑞莱智慧公司首席执行官田天认为，人工智能大模型的安全性面临很多挑战。
“大模型是人工智能发展的转折点，研究人员需要进一步了解这些大模型为何具备类人思考的能力。”香港科技大学教授冯雁表示，ChatGPT最初只作为科研项目发布，但通过加入人机交互界面，迅速变成网红产品。其爆红带来的伦理问题始料未及，也给生成式人工智能的管理提出了挑战。“只有真正的开源，才能共同研究，理解大模型存在的问题和产生的根源，更好地进行管理。”
“商汤一直是开源开放的贡献者和支持者，但在开源上我们要谨慎一些，特别是目前对于大模型而言，安全防护体系还未健全。”商汤科技人工智能伦理与治理研究主任胡正坤说，在智能时代把底层模型开源，不见得安全，因为在开放能力的同时，也在开放薄弱点，而薄弱点有可能被不法分子利用。
亟需深度治理
专家们对未来的人工智能长远治理做出种种设想。
“不能把价值设计看成治理的唯一路径。”复旦大学应用伦理学研究中心教授王国豫认为，针对现阶段人工智能治理的局限性，可从三方面采取措施。一是充分评估数据和模型的伦理影响和风险点；二是从流程方面，不仅要考虑通用模型，还要把通用模型纳入到社会生态系统、社会政治经济系统来考虑；三是探索伦理方法，充分探索“价值敏感设计”“负责任创新”等伦理方法在通用模型语境下的可行性。
中国社会科学院哲学所科技哲学研究室主任、研究员段伟文表示，需要警惕机器对人类思维的驯化。比如，有的人不擅社交，可能用人工智能生成对话的方式帮他社交聊天，这样的对话机制会反过来驯化人类。他建议加强人类和人工智能的交互和沟通，不仅要了解人类怎么去修机器，也要研究机器如何影响人类。
中科院自动化研究所研究员曾毅期待构建人工智能的道德直觉，“为机器人立心、为人工智能立心”是重要的长远工作目标。“强化学习的奖惩只是加加减减，它不是真正对道德的理解，除非人工智能实现基于自我的道德直觉。缺乏自我的人工智能无法拥有真正的道德直觉，做真正的道德决策。我们在做一个基于类脑的脉冲神经网络构建创生的人工智能引擎，希望让它像儿童一样去学习，获得自我感知。”曾毅说。
“从要求人工智能大模型合乎伦理，到真正构建有道德的人工智能。”曾毅表示，未来通用人工智能和超级智能的伦理安全问题，要从现在就开始关注和准备。（记者佘惠敏）