人工智能产业分析报告(2023)
AI014:中国AI+零售行业发展研究报告
AI015:AI产业全景图
AI016:2020中国AI中台应用趋势报告
AI017:2021AI智能制造研究报告
AI018:2021中国AI商业落地市场研究报告
AI019:2021认知智能发展研究报告
AI020:上海人工智能创新发展探索与实践案例集
AI021:2021AI中台白皮书
AI022:2021全球人工智能教育落地应用研究报告
AI023:2021可信人工智能白皮书
AI024:中国AI+安防行业发展研究报告
AI025:2021云上智能白皮书
AI026:2021年中国人工智能+医疗与生命科学行业研究报告
AI027:中国云原生AI开发平台白皮书
AI028:2021中国智慧城市AIoT应用研究
AI029:中国AI中台赋能城市空间管理白皮书
AI030:人工智能的认知神经基础白皮书
AI031:企业智能化的路径、方法与领先实践
AI032:AI框架发展白皮书(2022年)
AI033:人工智能白皮书(2022年)
AI034:2022深度合成十大趋势报告
AI035:中国AI数字商业产业展望2021-2025
AI036:可解释AI发展报告2022
AI037:2022百度人工智能专利白皮书
AI038:AI+数字孪生发展现状,应用场景及典型企业
AI039:2022年全球人工智能产业研究报告
AI040:中国神经科学数字化创新(2022)
AI041:全球中小学人工智能教育支撑环境白皮书
AI042:2022年中国知识图谱行业研究报告
AI043:人工智能知识点全景图
AI044:人工智能生成内容(AIGC)白皮书
AI045:2022中国AI商业落地研究报告
AI046:中国AI技术应用场景市场研究及选型评估
AI047:2022金融AI发展研究报告
AI048:可信人工智能产业生态发展报告(2022年)
AI049:2022年中国对话式AI行业发展白皮书
AI050:人工智能技术应用实践白皮书
AI051:人工智能标准化白皮书(2021版)
AI052:商汤人工智能伦理治理年度报告(2022年)
AI053:人工智能深度学习课程高效调研报告
AI054:2022人工智能发展白皮书
AI055:2022医疗AI行业研究白皮书
AI056:人工智能治理与可持续发展实践白皮书
AI057:中国人工智能软件基础设施高质量发展报告
AI058:2022年中国AI+金融行业发展研究报告
AI059:人工智能时代的算法治理报告(2022年)
AI060:2022-2023中国人工智能计算力发展评估报告
AI061:2023年AI创意营销趋势白皮书
AI062:2023AIGC发展趋势报告
AI063:中国人工智能框架市场调研报告
AI064:人工智能产业分析报告(2023)
以下是报告部分内容
声明
来源:京融智库,互联互通社区推荐阅读,版权归作者所有。文章内容仅代表作者独立观点,不代表互联互通社区立场,转载目的在于传递更多信息。如涉及作品版权问题,请联系我们删除或做相关处理!返回搜狐,查看更多
人工智能第十二次作业
1、长短期记忆网络LSTM(输入门、遗忘门、输出门)
长短期记忆网络是RNN循环神经网络的一种改进方法,是为了解决一般的RNN(循环神经网络)存在的长期以来问题而专门设计出来的,在NLP领域具有很重要的作用。
如同在门控循环单元GRU中一样,当前时间步的输入和前一个时间步的隐状态作为数据送入长短期记忆网络的门中。它们由三个具有sigmoid激活函数的全连接层处理,以计算输入门、遗忘门和输出门的值。因此,这三个门的值都在(0,1)的范围内。
2、LSTM如何克服梯度消失
通过引入门结构,在从t-1到t过程中引入加法来进行信息更新。LSTM遗忘门值可以选择在[0,1]之间,可以选择接近1,让遗忘门饱和,此时远距离信息梯度不消失,梯度能够很好的在LSTM中传递,也可以选择接近0,此时模型是故意阻断梯度流,遗忘之前信息,说明上一时刻的信息对当前时刻没有影响。
3、门控循环单元神经网络GRU(更新门、重置门)
GRU较LSTM结构更简单,计算速度更快。可以解决RNN中不能长期记忆和反向传播中的梯度等问题。
重置门决定了如何将新的输入信息与前面的记忆相结合。重置门用于控制忽略前一时刻的状态信息的程度,重置门的值越小说明忽略的越多。
更新门用于控制前一时刻的状态信息被带入到当前状态中的程度,更新门的值越大说明前一时刻的状态信息带入越多。