清华大学薛澜教授：我国人工智能的两大短板
说到底，我们关注人工智能，不仅是因为它是一个非常重要的基础研究领域和应用研究领域，更重要的是怎么把人工智能巨大的潜能转化为生产力，能够对中国的社会进步发挥促进作用，这是中国企业值得多去努力的地方。
第二个方面，是人才短板的问题。从国际人工智能人才投入数量来看，中国在人工智能方面的人才投入在全球是领先的，位列第二，仅次于美国。但是，人工智能杰出人才中国占比很低，美国在人工智能杰出人才占比遥遥领先，累计高达5158人，占据世界总量的25.5%，是排名第二英国的4.4倍。在这方面，我们的差距非常大，还需要有一个长期的积累。也就是说，我们不光要培养出人工智能浩浩荡荡的人才大军，同时还要有大量顶尖的领军人才，这也是我们需要关注的。
发展AI产业切勿追求“短平快”
我觉得人工智能由于最近这两年的发展，确实在各方面应用的机会大大增加，其风险投资等方面也是增长的比较快。
如果有个别企业从投资的角度讲，追求“短平快”的效果是可以理解的。但是，如果从长远的利益来看，尤其中国发展到今天这个阶段，如果大部分企业还只是追求“短平快”，那么我们长远发展的基础就不会牢靠。
我觉得要解决这个问题，一方面，不光企业要改变这种态度；另一面，国家政策都需要进行重大的调整。
就企业而言，如果短期跟风，这种企业是没有雄厚基础的，碰到金融危机、贸易战的话，就很有可能经不起风浪，整个都会被颠覆。但是，如果企业能够有长远的眼光，及早去布局，进行比较深入的研究，打下牢靠的基础，不管碰到什么样的情况，都会立于不败之地。
从政府的政策来讲，一是要鼓励企业能够做好研发工作，目前的研发投入加计抵扣就是很好的政策。另外就是营造更好的金融环境。我觉得金融投资环境非常重要。如果说整个市场有大量的挣热钱的机会，就很难保证企业愿意把大量的资金投入到研发中去。所以把整个大的金融环境进一步净化、进一步清理是非常重要。
此处插入视频！！！我国人工智能的短板在哪里？戳视频↓↓↓↓听清华大学公共管理学院教授兼院长、清华大学中国科技政策研究中心主任薛澜怎么说！
AI是第四次工业革命的一部分
人工智能是第四次工业革命的一类技术，但第四次工业革命不光有人工智能，也包括生物科技、新能源等。
第四次工业革命其实是物理空间、信息空间、生物空间三者之间的有机融合。如果要说第四次工业革命是哪一个时间点到来的，我们当代人很难做出判断，说不定50年、100年之后，大家来研究人类发展史的时候，可能会说21世纪某某年某月就是第四次工业革命的时间点。当然，人工智能是一个有标志性的技术，可以从中找到答案。索菲亚是历史上首个获得公民身份的一台机器人，去年沙特阿拉伯授予她公民身份，这也可以作为一个标志性事件。
人工智能确实是第四次工业革命里非常突出、有亮点的一项技术，但第四次工业革命不仅仅只有人工智能。
关于人工智能未来的发展方向，还有很多的不确定性。人工智能发展到今天还不是强智能应用，而只是弱智能应用。我觉得今后出现和人类智能相当的较强人工智能并不是没有可能的，这一点也是社会种种担心的源头。但另一点，我觉得值得庆幸的是，在离强人工智能发展还比较远的时候，我们的国家和社会公众就已经开始非常关注这个问题。这样就在未来科学技术发展的路径上，我们就有可能通过社会各方来讨论、协商，有意识地引导科学技术往更好造福人类社会、带来风险最小的路径上去发展。
因此，面对人工智能，我的观点是“热情握手、谨慎拥抱”。
文章来源于《中国科技网》，作者:何沛苁，如有涉及版权等问题请及时联系我们，
【重磅】2018人工智能AI与自动驾驶报告（附下载）
清华大学正式发布《中国人工智能发展报告2018》（附报告下载）
清华大学魏少军教授：什么是真正的通用人工智能芯片？
中科院专家批人工智能乱象：没有AI芯片这一说法
【麦肯锡重磅】中美AI竞争力：学术、算法、数据、计算力
【厚积薄发】IBM押注AI、量子计算、区块链，发布未来5年五大科技预测
埃森哲预测CES2018：AI、5G、区块链以及无人车
AI应用公司现状解析，11大领域已形成产业集群
究竟如何理解阿里的”产业AI”？
【深度】人工智能军备竞赛：一文尽览全球主要国家AI战略
清华大学魏少军教授：什么是真正的通用人工智能芯片？
魏少军：正确理解中国集成电路产业存在的差距
杨学山畅论智能原理
重磅！《北京人工智能产业发展白皮书(2018年)》（附PDF下载）
北京航空航天大学王田苗教授：当前智能机器人发展若干挑战性问题
张钹院士：走向真正的人工智能|CCF-GAIR2018
直击行业发展痛点布局未来大消费市场——全筑股份施工智能机器人发布会成功举行
信通院|《人工智能时代的机器人3.0新生态》
GTIC|李德毅院士：人工智能正在加速汽车向轮式机器人转变
【重磅】智能制造之工业机器人发展研究报告
机器人深度报告：工业互联网龙头，全面进军半导体和面板产业——智能制造系列深度报告
【狗狗动力】波士顿动力的机器人新技能帮自己的同伴开门
重磅发布!《2018-2020年中国服务机器人行业深度研究报告》立德研究院返回搜狐，查看更多
在发展中治理完善人工智能大模型
新一轮科技革命和产业变革迅猛发展，数字技术、智能经济与数字化产业成为催生新产业、新业态、新模式的重点领域。发布仅6个月的ChatGPT，已掀起全球人工智能（AI）产业的大模型热潮。在日前举办的中国人工智能产业年会中，AI大模型带来的安全挑战和发展机遇成为与会专家热议话题。
赋能千行百业
ChatGPT在与人类对话、写作文、写代码等方面令人惊艳的表现，是AI大模型GPT通过大算力、大规模训练数据突破自然语言处理瓶颈的结果。但大模型本身并不是新鲜事物，AI大模型也不止GPT这一条路线，很多科技巨头近几年都在“炼”大模型，且各有积累。这也是ChatGPT走红之后，各巨头短短数月内就纷纷推出竞品的原因。
“以ChatGPT为代表的多模态通用大模型，将深刻变革各行各业。”电子科技大学教授、考拉悠然科技有限公司联合创始人沈复民说，行业人工智能可有效推动技术与市场供需平衡，将是人工智能产业化的最大机遇。人工智能技术落地行业时，需要克服开发效率低、落地成本高、场景复杂多元等难题。
沈复民所在的研发团队获得了2022年度吴文俊人工智能科学技术奖自然科学一等奖。据他介绍，团队开发了为垂直行业赋能的多模态AI操作系统，基于行业多模态大模型、多模态融合分析、机器视觉等核心AI算法支持，可以让企业摆脱繁杂的算法、算力、数据整合工作，快速孵化行业大模型，高效率应用到工业制造、城市治理、消费、能源、交通、建材等业务场景。
“通用对话技术是人工智能领域最具挑战性的方向之一，也被认为是通用人工智能的必备能力。如今备受关注的对话式人工智能，其背后就有通用对话技术。”百度首席技术官、深度学习技术及应用国家工程研究中心主任王海峰说。中国人工智能产业年会期间，由他带领团队完成的“知识与深度学习融合的通用对话技术及应用”成果，获2022年度吴文俊人工智能科技进步奖特等奖。
公开资料显示，这一研究项目已获授权发明专利82项，发表高水平论文36篇，在国际权威评测中获世界冠军11项。目前项目成果实现了大规模产业应用，已支持5亿智能设备，服务超过10亿用户，覆盖包括通信、金融、汽车、能源等20多个行业。
争取“主动安全”
技术是把双刃剑。人工智能大模型能力越大，一旦滥用带来的危害也就越大。当前，ChatGPT等工具被用于生成假新闻、假照片、假视频，甚至实施诈骗等犯罪行为，引发人们对大模型安全性的担忧。
西北工业大学教授王震是网络空间智能对抗应用研究领域的专家，他认为，要用人工智能驱动网络空间智能对抗。比如，用人工智能检测、识别有害信息，搭建“主动安全”的智能防御网。
“只有在AI发展过程中，我们才能面对问题、解决问题，并找到机遇。”蚂蚁集团AI风险管理负责人杨舟表示，在AI管理中，安全事件对日常风险管理至关重要。“我们需要重视和预测相关事件，分析安全问题，避免发展带来的风险。”
了解机理是安全管理的基础。不过，大模型的“智能涌现”目前还是个难以解释的黑箱，没有人能理解、预测或可靠地控制这些大模型，甚至模型的创造者也不能。开发出ChatGPT的公司OpenAI，也为大模型做了大量价值敏感设计和道德嵌入工作，但仍然存在明显的漏洞和局限。
“虽然大模型的能力在不断变强，但如果不对其进行专门的安全性训练或安全性加固，其脆弱性不会得到任何改善。”瑞莱智慧公司首席执行官田天认为，人工智能大模型的安全性面临很多挑战。
“大模型是人工智能发展的转折点，研究人员需要进一步了解这些大模型为何具备类人思考的能力。”香港科技大学教授冯雁表示，ChatGPT最初只作为科研项目发布，但通过加入人机交互界面，迅速变成网红产品。其爆红带来的伦理问题始料未及，也给生成式人工智能的管理提出了挑战。“只有真正的开源，才能共同研究，理解大模型存在的问题和产生的根源，更好地进行管理。”
“商汤一直是开源开放的贡献者和支持者，但在开源上我们要谨慎一些，特别是目前对于大模型而言，安全防护体系还未健全。”商汤科技人工智能伦理与治理研究主任胡正坤说，在智能时代把底层模型开源，不见得安全，因为在开放能力的同时，也在开放薄弱点，而薄弱点有可能被不法分子利用。
亟需深度治理
专家们对未来的人工智能长远治理做出种种设想。
“不能把价值设计看成治理的唯一路径。”复旦大学应用伦理学研究中心教授王国豫认为，针对现阶段人工智能治理的局限性，可从三方面采取措施。一是充分评估数据和模型的伦理影响和风险点；二是从流程方面，不仅要考虑通用模型，还要把通用模型纳入到社会生态系统、社会政治经济系统来考虑；三是探索伦理方法，充分探索“价值敏感设计”“负责任创新”等伦理方法在通用模型语境下的可行性。
中国社会科学院哲学所科技哲学研究室主任、研究员段伟文表示，需要警惕机器对人类思维的驯化。比如，有的人不擅社交，可能用人工智能生成对话的方式帮他社交聊天，这样的对话机制会反过来驯化人类。他建议加强人类和人工智能的交互和沟通，不仅要了解人类怎么去修机器，也要研究机器如何影响人类。
中科院自动化研究所研究员曾毅期待构建人工智能的道德直觉，“为机器人立心、为人工智能立心”是重要的长远工作目标。“强化学习的奖惩只是加加减减，它不是真正对道德的理解，除非人工智能实现基于自我的道德直觉。缺乏自我的人工智能无法拥有真正的道德直觉，做真正的道德决策。我们在做一个基于类脑的脉冲神经网络构建创生的人工智能引擎，希望让它像儿童一样去学习，获得自我感知。”曾毅说。
“从要求人工智能大模型合乎伦理，到真正构建有道德的人工智能。”曾毅表示，未来通用人工智能和超级智能的伦理安全问题，要从现在就开始关注和准备。（记者佘惠敏）