人工智能作业9
人工智能作业8CSDN-Ada助手:恭喜您写出了第6篇博客，标题为“人工智能作业8”。您的持续创作精神值得称赞，希望您能够继续保持并不断进步。下一步，建议您可以考虑分享一些具有实战意义的案例，或者深入探讨一些人工智能领域的前沿技术。期待您的更多优秀作品！CSDN会根据你创作的博客的质量，给予优秀的博主博客红包奖励。请关注https://bbs.csdn.net/forums/csdnnews?typeId=116148&utm_source=csdn_ai_ada_blog_reply6看奖励名单。
人工智能作业7CSDN-Ada助手:非常感谢您持续的创作，恭喜您完成了第五篇博客！您的文章对人工智能作业7进行了深入的探讨，让读者们受益匪浅。接下来，我建议您可以从不同的角度出发，进一步探讨人工智能在各个领域的应用，这样可以让读者们对人工智能有更加全面的了解。期待您的下一篇作品！CSDN会根据你创作的博客的质量，给予优秀的博主博客红包奖励。请关注https://bbs.csdn.net/forums/csdnnews?typeId=116148&utm_source=csdn_ai_ada_blog_reply5看奖励名单。
AI作业1CSDN-Ada助手:不知道Python入门技能树是否可以帮到你：https://edu.csdn.net/skill/python?utm_source=AI_act_python
AI作业1CSDN-Ada助手:恭喜你这篇博客进入【CSDN每天最佳新人】榜单，全部的排名请看https://bbs.csdn.net/topics/613970579。
人工智能第十二次作业
1、长短期记忆网络LSTM（输入门、遗忘门、输出门）
长短期记忆网络是RNN循环神经网络的一种改进方法，是为了解决一般的RNN（循环神经网络）存在的长期以来问题而专门设计出来的，在NLP领域具有很重要的作用。
如同在门控循环单元GRU中一样，当前时间步的输入和前一个时间步的隐状态作为数据送入长短期记忆网络的门中。它们由三个具有sigmoid激活函数的全连接层处理，以计算输入门、遗忘门和输出门的值。因此，这三个门的值都在(0,1)的范围内。
2、LSTM如何克服梯度消失
通过引入门结构，在从t-1到t过程中引入加法来进行信息更新。LSTM遗忘门值可以选择在[0,1]之间，可以选择接近1，让遗忘门饱和，此时远距离信息梯度不消失，梯度能够很好的在LSTM中传递，也可以选择接近0，此时模型是故意阻断梯度流，遗忘之前信息，说明上一时刻的信息对当前时刻没有影响。
3、门控循环单元神经网络GRU（更新门、重置门）
GRU较LSTM结构更简单，计算速度更快。可以解决RNN中不能长期记忆和反向传播中的梯度等问题。
重置门决定了如何将新的输入信息与前面的记忆相结合。重置门用于控制忽略前一时刻的状态信息的程度，重置门的值越小说明忽略的越多。
更新门用于控制前一时刻的状态信息被带入到当前状态中的程度，更新门的值越大说明前一时刻的状态信息带入越多。
人工智能作业10
LeNet&MNISTLeNet是由YannLeCun及其合作者于1998年开发的一种具有开创性的卷积神经网络架构。它的设计目的是识别手写数字并执行图像分类任务。MNIST是一个用于手写数字识别的大型数据库，常被用于训练图像处理系统。LeNet与MNIST的关系在于，LeNet经常被用于MNIST数据集的训练和测试。
AlexNet&CIFARAlexNet是由AlexKrizhevsky，IlyaSutskever和GeoffreyHinton在2012年开发的深度卷积神经网络架构。AlexNet包含多个卷积层、池化层、全连接层和激活函数，并引入了Dropout技术以减少过拟合现象。CIFAR是一个包含两个子数据集的图像分类数据库：CIFAR-10和CIFAR-100。尽管AlexNet最初是针对ImageNet数据集开发的，但它的架构和训练方法也可以应用于其他图像分类任务，如CIFAR数据集。
VGGNetVGGNet是一种深度卷积神经网络架构，由OxfordUniversity的VisualGeometryGroup（VGG）团队于2014年开发。VGGNet在当年的ImageNet大规模视觉识别挑战（ILSVRC）中取得了优异成绩，以其简洁的结构和卓越的性能获得了广泛关注。VGGNet的核心思想是通过使用较小的卷积核（如3x3）和多个连续卷积层来增加网络深度，从而提高模型的表达能力。VGGNet有多个版本，如VGG-16和VGG-19，这些数字代表网络中包含的权重层（卷积层和全连接层）的数量。
GoogLeNet&Inceptionv1GoogLeNet是一种深度卷积神经网络架构，由Google的研究人员于2014年开发。GGoogLeNet的核心创新是引入了一种名为Inception的模块结构，因此GoogLeNet有时也被称为Inceptionv1。Inception模块的主要思想是将多个卷积核大小的卷积层和池化层并行堆叠，从而在不同尺度上捕捉图像特征。具体而言，Inception模块包含1x1、3x3、5x5的卷积层（加入1x1卷积层进行降维以减少计算量）和3x3最大池化层。这些层在同一级别并行操作，然后将它们的输出连接起来，形成一个更丰富的特征表示。
ResNetResNet（ResidualNetwork）是由KaimingHe,XiangyuZhang,ShaoqingRen和JianSun于2015年提出的一种深度卷积神经网络架构。ResNet在2015年的ImageNet大规模视觉识别挑战（ILSVRC）中获得了冠军，同时在分类、定位、检测和分割等任务上取得了前所未有的成绩。ResNet的关键创新是引入残差连接（residualconnections）来解决深度神经网络中的梯度消失和退化问题。