银行业人工智能应用的风险与治理 魏思远，微众银行 金融科技 高级研究员 姚辉亚，微众银行科技创新产品部负责人 来 源：原载于《中国银行业》杂志202
来源：雪球App，作者：银行观察，（https://xueqiu.com/3959036576/180871243）
魏思远，微众银行金融科技高级研究员
姚辉亚，微众银行科技创新产品部负责人
来 源：原载于《中国银行业》杂志2021年第4期
当下，人工智能（AI）技术已经逐渐应用于整个银行前中后台业务流程中。一方面，银行业凭借较高的数字化水平和多维度应用场景给人工智能的发展应用提供了优良的“土壤”。另一方面，在银行业盈利模式受到利差收窄、不良率攀升等冲击的影响下，也正需要人工智能技术来助推银行业加速转型，消除其转型发展过程中面临的“痛点”。通过语音识别、图像识别、自然语言处理、机器学习与深度学习等一系列人工智能技术的广泛应用，银行业将在规模化快速分析、精准服务、风险管控等方面焕发出新的生机与活力。
图1：人工智能在银行业前中后业务中的应用举例
然而，AI算法和技术的快速发展和应用，在为银行带来更高效的运作方式的同时，也带来了一些隐忧，如数据安全、算法风险、隐私保护、社会伦理等等问题。这些风险如果不能妥善处理，可能会带来系统性风险。此外，对AI风险的担忧也限制了银行业在人工智能领域更深层次的探索和创新。因此，银行业亟需深化AI治理，即构建AI的使用原则与共识，并制定一套标准化的AI系统的设计和使用规范，对设计和使用AI系统过程中涉及的相关概念和流程进行定义和指导，从而保障AI被合理规范地使用，更大程度地发挥AI的价值。
从概念上讲，银行业AI治理属于IT治理的一部分（AI技术属于信息技术（IT）的范畴），而银行IT治理并不是一个新鲜的话题。经过几十年的探索和实践，目前业界已经形成了较为完成的治理理论、体系和方法。国际上，美国信息系统审计与控制协会(ISACA)推出了IT管理与控制框架COBIT（ControlObjectivesforInformation&relatedTechnology）、英国政府商务办公室提出的IT服务质量评估体系ITIL（InformationTechnologyInfrastructureLibrary）等。此外，《巴塞尔协议Ⅱ》（BaselⅡ）对银行信息科技风险（简称“IT风险”，包括信息科技IT及信息通讯ICT等风险）提出了监管要求。在定义的七类操作风险中，“业务中断或系统错误”与IT直接相关，其他几类也与IT存在间接关系。《巴塞尔协议Ⅲ》（BaselⅢ）在第Ⅱ版基础上对操作风险提出了更高的监管要求。
而在国内，银监会发布的《商业银行公司治理指引》（银监发〔2013〕34号）的第74条明确指出，商业银行应当建立健全组织架构和技术成熟、运行安全稳定、应用丰富灵活、管理科学高效的信息科技体系，确保信息科技建设对商业银行经营和风险管控的有效支持。另外，《商业银行信息科技风险管理指引》（银监发〔2009〕19号）详细列举了商业银行涉及的各种信息科技风险，并对各领域的风险管控工作均提出了明确具体的要求。
然而，作为一种新兴的技术，相比于传统的IT技术，AI技术却有其独特之处。首先，一些AI算法的决策逻辑不像传统程序逻辑那样清晰可见。AI系统使用者只需将相关数据输入AI系统，AI系统就会输出相应的结果，然而其间AI算法是如何进行决策，为什么做特定的决策，即使AI系统的开发者有时也无法完全清晰解释。其次，AI具有智能性，能独立进行学习、归纳、推理、求解等活动。只需要提前设定好目标和规则，提供足够的数据，AI系统便可自行进行相关的智力活动。
正因为AI兼有不透明性和智能性两种特性，如果不对AI系统进行规范，AI便有可能做出违反道德伦常、公平正义，甚至危害社会的行为。因此，AI治理需要更加谨慎，考虑更多的因素。一般来说，这些风险按照是否和技术相关可以分为技术风险和非技术风险两大类。技术风险又可以分为数据风险和算法风险；非技术风险则包括隐私风险和伦理风险。(见下表1)
表1：AI系统涉及的相关风险
表格来源：作者整理
正是由于AI的特性以及可能导致的潜在风险，在运用AI开展银行业务的过程中，需要针对AI制定一套使用原则和使用规范。近年来，各国政府、国际组织、学术机构和企业界都积极参与相关标准的讨论和制定，并发布了多项相关的规范和指引。尽管这些文件出自不同国家的不同机构，其核心观点却非常一致：首先，AI技术的发展和应用要坚持以人为本的原则；其次，AI技术在研发和应用的过程中必须保证AI模型的公平性、透明度、可解释性等。然而，这些人工智能监管的规范和指导文件大部分是原则性、根本性的要求，并没有针对具体金融业务场景和实施流程的操作指导。（见表2）
表2：全球人工智能治理重要文件及内容
表格来源：作者整理
在银行业实际应用人工智能技术的过程中，除了需要依靠上述概括性的原则对人工智能相关活动进行约制，还需要更加细致和明确的操作指引和管理办法来规范人工智能技术的开发和应用。尽管目前相关银行业标准及强制法规尚未正式发布，但我们认为至少可以从以下几个方面采取必要措施，规范银行业人工智能的开发和应用。
第一，借鉴现有银行业风险管理的理念与方法，如可将银行业经典的“三道防线”风险管理理念与模型风险管理（ModelRiskManagement,MRM）的理论及方法进行有效结合，对AI系统的模型风险形成有效防控。在经典的银行风险体系中，“三道方向”理念要求金融机构建立顺序递进的内部控制三道防线，即一线岗位双人、双职、双责为基础的第一道防线；建立相关部门、相关岗位之间相互监督制约的工作程序作为第二道防线；建立以监督部门全面实施监督反馈的第三道防线，来规范日常经营活动和防控风险。另外，随着大数据和人工智能在风险建模和自动审批的流程中的大规模应用，模型风险从操作风险的一个分支，发展为一种单独的风险类别，模型风险管理（ModelRiskManagement,MRM）也逐渐形成一套完整理论体系。2011年，美联储在编号SR11-7的同名监管信中发布了关于MRM的监管指南，其中对模型的范围进行了定义和详细解释，并且开始关注人工智能技术带来的准确性、公平性、偏见、歧视、隐私和安全性等新型风险。另外，欧洲中央银行近期发起的“内部模型有针对性的审查（TRIM）”项目，以及前文提及的Basel模型、IFRS9模型等均提供了MRM的相关指引。
可将二者进行有效结合，对人工智能模型风险形成有效防控。首先可在一线AI模型开发活动中，针对不同的场景和功能，安排不同的团队进行AI模型开发，从而避免一套大而全AI系统全权负责，实现风险分散，作为第一道防线。其次，通过增加AI模型验证环节，并设置专门的模型验证部门对AI模型进行审核和验证，形成第二道防线。最后，由内部审计部门或外部第三方的专业审计机构，对AI模型进行专业审计并反馈意见，形成第三道防线。通过建立AI治理的三道防线，对AI相关的数据、算法等风险进行有效管控。
第二，建立人工复核及兜底机制。2020年4月中国银保监会发布的《商业银行互联网贷款管理暂行办法》第22条明确指出，“商业银行应当建立人工复核验证机制，作为对风险模型自动审批的必要补充。商业银行应当明确人工复核验证的触发条件，合理设置人工复核验证的操作规程。”比如，在贷前审批环节，对接近某一评分附近的审批结果进行人工复核；又如，在运用人工智能处理人脸核身业务时，可定期对审核结果进行人工抽检，从而及时发现和解决AI模型可能存在的未知问题，防范模型风险。
第三，做好人工智能模型的解释工作。根据《关于规范金融机构资产管理业务的指导意见》（银发〔2018〕106号）第二十三条的相关内容，“金融机构应当向金融监督管理部门报备人工智能模型的主要参数以及资产配置的主要逻辑，为投资者单独设立智能管理账户，充分提示人工智能算法的固有缺陷和使用风险”，银行在运用人工智能开展投顾等业务时，一方面应向监管机构提供全面解释，包括AI系统的解决方案、算法实现原理、模型训练方法等，以及尽量提供额外的解释性资料，如数据治理报告和责任归属说明等。另一方面，考虑到普通投资者缺少AI的相关背景知识，无法理解AI模型运行的内在原理，银行应充分提示人工智能算法的固有缺陷和使用风险，充分保护投资者的知情权和自主决策权，并避免相关的声誉风险。
第四，加强技术创新。银行应加大研发投入，运用技术手段解决AI的数据及隐私风险。如可以通过研究和运用多方安全计算、联邦学习、TEE等隐私计算技术，为人工智能算法提供强有力的安全计算支持，在满足用户隐私保护、数据安全的前提要求下，进行数据使用和建模，防范人工智能的数据及隐私风险。
第五，坚持创新与监管并行发展。银行在通过人工智能技术提供创新产品和服务的同时，也应积极向监管机构提供相应的监管科技解决方案（RegTech），尤其是合规科技方案（CompTech），提供产品的安全性保障，规避隐形黑盒带来的监管盲区，提高创新业务的合规透明度，助力人工智能技术在银行业应用的可持续发展。
综上所述，银行业的AI治理是一个复杂的系统工程，需要监管机构、银行、科研机构等相关方共同形成合力，在借鉴经典的同时，不断开拓创新，推动银行业AI治理能力的进步及相关制度、标准的完善，从而更大程度地实现AI在银行业的应用价值。
[1]DafoeA.AIGovernance:AResearchAgenda[J].GovernanceofAIProgram,FutureofHumanityInstitute,UniversityofOxford:Oxford,UK,2018.
[2]Google.PerspectivesonIssuesinAIGovernance[S].2019
国家金融与发展实验室银行研究中心（BRI）是国家级智库国家金融与发展实验室（NIFD）下属专业性研究机构，负责人为国家金融与发展实验室副主任、上海金融与发展实验室主任曾刚教授。中心主要从事国内外银行业政策与实践研究，研究领域包括，国内外监管政策研究、银行经营管理、金融机构数字化转型等。此外，中心致力于搭建银行业产学研交流平台，为监管机构、银行业机构以及金融科技企业提供应用性研究成果和咨询服务。
零壹智库报告：浙商银行人工智能应用布局案例
作者|陈成
出品|零壹智库
本文聚焦浙商银行的人工智能应用，展示浙商银行在业务场景中人工智能应用的赋能成效。
浙商银行推出基于企业出口报关、资金收汇、退税等大数据的信用授信模式；2019年6月末，浙商银行智能在线客服服务客户41.35万次，服务应答率99.63%；浙商银行通过投放智能柜员机、智能打印机、线上叫号机等智能化自助设备，提升网点智能化程度。
2017年，浙商银行推出智能制造系统性金融解决方案，打造业内首家“智能制造服务银行”。通过深入了解企业智能化改造场景、智能制造企业在不同阶段的财务需求，浙商银行形成金融支持智能制造解决方案，帮助多家智能制造企业完成设备更新、生产线改造和智能化工厂建设。
图1：浙商银行智能化应用布局
资料来源：浙商银行，零壹智库
一、浙商银行基本情况
2004年8月，浙商银行股份有限公司（简称“浙商银行”）正式开业，总行设在浙江杭州，为全国第13家A+H上市银行。2019年二季度末，浙商银行在全国17个省、直辖市及香港特别行政区设立了250家分支机构。
2019年三季度末，浙商银行总资产1.72万亿元，同比增长6.18%；实现营业总收入344.03亿元，同比提升25.04%；归属母公司净利润112.39亿元，同比上升14.01%。
二、浙商银行人工智能具体应用领域
1.智能风控
据浙商银行披露信息，银行通过重塑统一授信和投贷后管理体制，强化重点领域、重点业务、重点问题风险管控，推进大数据风险管理和预警平台建设，提高风险防控能力，完善全面风险管理体系。
在中小企业审批授信方面，浙商银行推出了基于企业出口报关、资金收汇、退税等大数据的信用授信模式。对于小微企业客户，浙商银行推出全线上“房抵点易贷”贷款产品，产品基于大数据和人工智能等金融科技技术，通过智能风控体系辅助审批，产品特点为5分钟申请、1小时审批、0手续费，能为客户提供全天候服务，节省客户申请成本和时间成本。“点易贷”早在2016年底已经推出，产品具备大数据挖掘分析、电子化签约和线上全流程审批的特点。
2019年二季度末，浙商银行的普惠型小微企业贷款余额为1576.18亿元，较年初增170.40亿元，增幅为12.12%；贷款户数8.12万户，较年初增加0.70万户；普惠型小微企业贷款不良率为1.06%。
从不良率来看，浙商银行在2017不良率为1.15%，较2016年下降0.18个百分点。不过在2017年后，不良率持续攀升至2019年二季度末的1.37%。从浙商银行贷款构成情况来看，公司贷款占比较高，零售板块相对较弱。
据浙商银行招股说明书披露的2019年1-6月生息资产收益率为4.86%，高于A股已上市股份制商业银行平均值，后者为4.58%。再结合个人贷款和公司贷款的不良贷款金额和不良率，2019年二季度末，浙商银行个人贷款和公司贷款的不良贷款金额分别为20.25亿元和106.95亿元，对应不良率分别为0.85%和1.75%。
图2：浙商银行贷款情况
资料来源：wind，零壹智库
因此，浙商银行不良率的提升主要受公司贷款影响，公司贷款带来更高利息收入的同时，出现不良对浙商银行整体不良情况影响也较大。
图3：浙商银行不良率
资料来源：wind，零壹智库
2.智能化渠道建设
在智能化渠道建设上，浙商银行已经形成网上银行、手机银行、电话银行、微信银行和自助银行组成的电子银行服务体系，电子银行渠道替代率98.91%。
通过持续应用人工智能和大数据等先进技术，浙商银行优化了网上银行，重点简化高频功能操作和丰富渠道服务场景，加强交互智能化应用。2019年二季度末，浙商银行个人网上银行客户数达123.36万户，同比增长36.48%，办理各类业务合计4634.36万笔，交易金额达4237.77亿元；企业网上银行受理各类业务2873.32万笔，交易金额为50,581.66亿元。
2019年上半年，浙商银行推出手机银行APP4.0版本，整合了智能语音和OCR识别等功能，提升登录、搜索、交易等主要交互方式的智能化水平，增加了“增金智投”智能投顾应用，进一步推进了推进智能化技术应用。2019年二季度末，浙商银行个人手机银行客户数300.60万户，同比增长54.37%。
通过构建智能客服客服体系，浙商银行不断优化业务流程，提供全天候自主服务，提升客户体验。目前，浙商银行已形成包括智能语音、智能在线机器人、人工电话服务、人工在线服务、视频电话服务、微信及邮件等方式的客户服务体系。2019年6月末，浙商银行智能在线客服服务客户41.35万次，服务应答率99.63%，智能在线客户分流率达到21.72%，投诉解决率100%。
浙商银行的微信银行包括微信公众号和微信小程序，能够提供卡类服务、在线客户、投资理财和预约取号等功能。2019年6月末，浙商银行微信银行客户近154万户，通过微信银行推送的信息累计阅读量达41万次。
在线下网点搭建上，浙商银行通过投放智能柜员机、智能打印机、线上叫号机等智能化自助设备，提升网点智能化程度，客户通过智能自助设备办理业务，缩短了排队等待时间，提升了网点运作效率，也给了客户新的业务办理体验。2019年二季度末，浙商银行共有248家7x24小时自助银行，网点配备各类自助设备共1600台，智能设备网点覆盖率约为98%。
在零售业务板块，浙商银行通过人工智能和大数据技术，赋能业务发展，全力打造零售“平台化财富管家银行”。在大数据和人工智能技术的帮助下，浙商银行通过对客户多维度数据进行分析，挖掘客群特点，形成用户画像，针对不同客群实施不同的营销策略。2019年二季度末，浙商银行旗下个人金融资产总额为4446.71亿元，较年初增长7.68个百分点；个人有效客户数469.76万户，较年初增长3.26个百分点。
三、外部投资、合作及经营情况
1.外部合作
2019年5月，浙商银行与蚂蚁金服宣布开展战略合作。据悉，双方将在金融科技、普惠金融、新零售、金融咨询与顾问等领域展开深度合作。在智能化应用合作层面上，蚂蚁金服将为浙商银行提供在宏观和大类资产研判及投资产品组合方面的技术支持，丰富浙商银行的智能投顾体系。另外，浙商银行和蚂蚁金服的合作还包括生物识别辅助校验、指纹身份认证合作、智能风控和反欺诈能力等方面。
表1：浙商银行智能化相关外部合作
资料来源：根据公开资料整理，零壹智库
通过与邦盛科技展开合作，浙商银行在旗下信用卡账单分期业务中接入机器学习模型系统,通过AI技术赋能市场营销端。据悉，此次浙商银行与邦盛科技的合作目标在于提高信用卡业务外呼准确率。邦盛科技的智能营销解决方案能帮助银行进行精准营销和客户分层，根据银行历史沉淀下来的客户分期业务办理数据进行深度挖掘，刻画用户画像，进行目标客户识别。
2.营收情况
2016年，浙商银行实现营业收入和归母净利润分别为335.02亿元和101.53亿元，两者分别同比上升33.98%和44.00%，实现了较大的增长。在2017年，受宏观经济和供给侧改革等因素影响，营业收入和归母净利润增速双双出现较大滑坡，不过两者在2018年得到改善。
2019年二季度末，浙商银行实现营业收入344.03亿元，同比提升25.04%；归属母公司净利润112.39亿元，同比上升14.01%。尽管2019年上半年我国宏观经济增速放缓、企业下行压力加大和风险叠加的情况下，浙商银行凭借出色的整体运作能力，扭转了近年来营利能力下滑的趋势。
图4：浙商银行营收和净利润
资料来源：wind，零壹智库
浙商银行在2019年上半年取得较好的成绩，净息差的贡献功不可没。2019年上半年，浙商银行净息差为2.34%，净息差收入增速为37.10%，达到了在2015年之后的最高水平，在净利息收入增长的情况下，带动了银行整体营利情况。
整体来看，浙商银行在目前主流银行智能化业务均有布局，不过在股份制银行阵列里面智能化应用的深度和广度都处于末端。在当前各大中小银行都积极进行智能化和数字化转型的情况下，根据公开信息，浙江银行仅与蚂蚁金服和邦盛科技等厂商有展开人工智能应用相关合作，一定程度上反映出浙商银行与外部互联网、科技、金融科技等公司合作较少。
在中国银行业协会发布2018年“陀螺”（GYROSCOPE）评价体系评价结果中，浙商银行在全国性商业银行智能化能力排名第八，据了解，该指标能反映银行在金融科技方面的真实投入。不过结合公开信息中浙商银行与区块链技术相关的话题较多，浙商银行也被冠以“区块链银行”的称号，可以推测浙商银行的金融科技投入中区块链应用会占到较大比重，相应的人工智能相关的技术研发可能会较少。
End.
为了展现银行业数字化转型的最新成果，零壹智库推出《商业银行科技战略案例》，选取25家银行（6家国有大行+8家股份行+11家城、农商行），重点从战略方向、战略思想、战略历程、战略举措以及阶段成果等方面解读其金融科技布局。