Advertisement

北京交通大学《深度学习》课程实验三：卷积神经网络、空洞卷积与残差神经网络实践

  •  5星
  •     浏览量: 0
  •     大小:None
  •      文件类型：IPYNB

简介：
本课程实验为北京交通大学《深度学习》系列之一，聚焦于卷积神经网络(CNN)、空洞卷积及残差神经网络的深入探索和实际应用，旨在通过理论联系实践的方式提升学生在图像识别领域的技术能力。 二维卷积实验（平台课与专业课要求相同） 1.手写实现二维卷积，并在至少一个数据集上进行实验，从训练时间、预测精度、Loss变化等角度分析实验结果（最好使用图表展示）。 2.利用torch.nn库实现二维卷积，在至少一个数据集上进行实验，从训练时间、预测精度、Loss变化等角度分析实验结果（最好使用图表展示）。 3.对比不同超参数的影响，包括但不限于卷积层数、卷积核大小、batchsize和学习率(lr)。选取其中1-2个参数进行深入分析。 4.在PyTorch中实现经典模型AlexNet，并至少在一个数据集上进行实验分析（平台课学生选做，专业课学生必做）。若无GPU环境，则需完成模型的构建部分即可。 5.使用前馈神经网络模型进行实验并与卷积模型的结果对比分析（可选）。 空洞卷积实验（仅限专业课程） 1.利用torch.nn实现空洞卷积，并确保膨胀率(dilation)满足HDC条件，例如采用序列1,2,5。需要堆叠多层并在至少一个数据集上进行实验，从训练时间、预测精度和Loss变化等角度分析结果（最好使用图表展示）。需将所得的空洞卷积模型实验结果与常规二维卷积模型的结果进行对比。 残差网络实验（仅限专业课程） 1.实现给定任务。

全部评论 (0)

还没有任何评论哟~
客服
客服
客服关闭
  • 北京交通大学《深度学习》课程实验三：卷积神经网络、空洞卷积与残差神经网络实践
    优质
    本课程实验为北京交通大学《深度学习》系列之一，聚焦于卷积神经网络(CNN)、空洞卷积及残差神经网络的深入探索和实际应用，旨在通过理论联系实践的方式提升学生在图像识别领域的技术能力。 二维卷积实验（平台课与专业课要求相同） 1.手写实现二维卷积，并在至少一个数据集上进行实验，从训练时间、预测精度、Loss变化等角度分析实验结果（最好使用图表展示）。 2.利用torch.nn库实现二维卷积，在至少一个数据集上进行实验，从训练时间、预测精度、Loss变化等角度分析实验结果（最好使用图表展示）。 3.对比不同超参数的影响，包括但不限于卷积层数、卷积核大小、batchsize和学习率(lr)。选取其中1-2个参数进行深入分析。 4.在PyTorch中实现经典模型AlexNet，并至少在一个数据集上进行实验分析（平台课学生选做，专业课学生必做）。若无GPU环境，则需完成模型的构建部分即可。 5.使用前馈神经网络模型进行实验并与卷积模型的结果对比分析（可选）。 空洞卷积实验（仅限专业课程） 1.利用torch.nn实现空洞卷积，并确保膨胀率(dilation)满足HDC条件，例如采用序列1,2,5。需要堆叠多层并在至少一个数据集上进行实验，从训练时间、预测精度和Loss变化等角度分析结果（最好使用图表展示）。需将所得的空洞卷积模型实验结果与常规二维卷积模型的结果进行对比。 残差网络实验（仅限专业课程） 1.实现给定任务。
     
  • 实践中的深度学习—卷积神经网络
    优质
    本课程深入探讨了卷积神经网络在实际应用中的运作原理与技巧，旨在帮助学员掌握其核心概念及开发技术。 典型的卷积神经网络由卷积层、池化层和全连接层构成。在原始输入上进行特征提取是通过卷积操作实现的。简而言之，就是在一个个小区域中逐个提取特征。 以一个例子为例：第一次卷积可以提取低层次的特征；第二次则能获取到中间级别的特征；而第三次则是高层次的特性。随着不断的深入和压缩，最终会得到更高层面上的特征——也就是对原始输入进行一步步浓缩后得出的结果，这使得最后获得的特性更加可靠。 基于这些高级别的特征，我们可以执行各种任务，例如分类或回归等操作。卷积层之所以得名于“卷积”，是因为它使用了这种运算方式；然而，在实践中通常采用互相关（cross-correlation）来进行计算。
     
  • 卷积神经网络——深度学习
    优质
    卷积神经网络（CNN）是深度学习中用于图像识别和处理的重要模型，通过多层卷积提取特征，广泛应用于计算机视觉领域。 卷积神经网络（CNN）是深度学习领域的重要组成部分，在图像识别和处理任务中表现出色。其主要特点是利用卷积层和池化层来提取并学习图像特征，并通过多层非线性变换实现复杂模式的识别。 1. **基础知识** - **二维互相关运算**：这是卷积神经网络的基础操作，输入数组与卷积核（也叫滤波器）进行相互作用。具体来说，卷积核在输入数组上滑动，在每个位置计算子区域乘积和。 - **二维卷积层**：该过程通过将输入数据与多个卷积核执行互相关运算，并加上偏置来生成输出特征图，表示特定空间维度上的特征信息。 - **感受野**：一个重要的概念是“感受野”，即单个神经元可以接收的局部区域。随着网络层次加深，每个元素的感受野增大，能够捕捉更广泛的输入数据模式。 - **卷积层超参数**：包括填充（padding）和步幅（stride），用于控制输出尺寸的一致性和移动速度；此外还有多个输入通道的概念，这允许处理多维图像，并通过1×1的卷积核调整通道数量。 2. **简洁实现** - 使用PyTorch中的`nn.Conv2d`可以轻松创建二维卷积层。该函数接受参数如输入和输出通道数、卷积核大小、步幅以及填充等。 - `forward()`方法接收四维张量作为输入（批量大小，通道数量，高度及宽度），并返回同样结构的张量但可能改变的是特征图的数量及其尺寸。 3. **池化操作** - 池化层用于减少计算复杂度和防止过拟合。它们通过对输入数据进行下采样来实现这一点。 - 最大池化选择窗口内的最大值，而平均池化则取窗口内所有值的均值得到输出；PyTorch中的`nn.MaxPool2d`能够执行这些操作。 4. **LeNet** - LeNet是早期用于手写数字识别的一个卷积神经网络架构。它由Yann LeCun提出，包含一系列卷积层、池化层和全连接层。 5. **常见CNN模型** - **AlexNet**：在ImageNet竞赛中取得突破性进展的深度学习模型，首次证明了深层结构在网络图像识别中的有效性。 - **VGG网络（Visual Geometry Group）**：以其深且窄的设计著称，大量使用3×3卷积核以增加网络深度和复杂度。 - **NiN (Network in Network)**：引入微小的全连接层来增强特征表达能力。 - **GoogLeNet (Inception Network)**：采用创新性的“inception”模块设计，允许不同大小的滤波器并行工作以提高计算效率和模型性能。 这些架构的发展推动了卷积神经网络的进步，并使其成为现代深度学习系统的核心组成部分。对于图像分类、目标检测、语义分割及图像生成等领域而言，理解和掌握CNN的基本原理与实现方式至关重要。
     
  • 使用手动与torch.nn方法构建卷积神经网络、空洞卷积及残差神经网络
    优质
    本项目深入探讨了利用PyTorch框架实现卷积神经网络(CNN)、空洞卷积(Dilated Convolution)和残差神经网络(ResNet)，结合手动编码与预定义模块，以优化图像识别任务的性能。 1. 二维卷积实验 手写实现二维卷积，并在至少一个数据集上进行实验。从训练时间、预测精度以及损失函数的变化等多个角度分析实验结果（建议使用图表形式展示）。同时，利用`torch.nn`库来实现二维卷积，在相同的数据集上执行同样的实验并进行全面的对比分析。 还需对不同超参数的影响进行研究和比较，比如卷积层数量、卷积核大小、批量大小以及学习率等。至少选择其中一到两个方面深入探讨。 2. 空洞卷积实验 使用`torch.nn`库实现空洞卷积，并保证膨胀因子（dilation）满足HDC条件如1, 2, 5，并堆叠多层进行训练，同样在至少一个数据集上执行实验。从多个角度分析其效果：包括但不限于训练时间、预测精度和损失函数的变化。 将所得到的空洞卷积模型与普通二维卷积网络的结果进行对比研究，在上述提到的角度下展开详细的比较分析。 此外，还需对不同超参数的影响做进一步的研究，比如层数量、核大小以及膨胀因子的选择等。至少选择其中一到两个方面深入探讨（选作）。 3. 残差网络实验 根据给定的结构实现残差网络，并在至少一个数据集上进行训练和测试。从多个角度分析其性能：包括但不限于训练时间、预测精度及损失函数的变化。
     
  • CNN-卷积神经网络-深度学习.ppt
    优质
    本PPT介绍卷积神经网络（CNN）在深度学习中的应用和原理，涵盖其架构、训练方法及实际案例分析。 人工智能领域关于CNN（深度学习之卷积神经网络）的教学版PPT讲解得很到位且详细。希望这份资料能对大家有所帮助。