Advertisement

MixHop与N-GCN:实现“MixHop——基于稀疏邻域混合的高阶图卷积网络”(ICML 2019)

  •  5星
  •     浏览量: 0
  •     大小:None
  •      文件类型:ZIP


简介:
本文介绍了两项图神经网络技术:MixHop和N-GCN,重点讨论了MixHop方法,该方法通过在稀疏邻域中进行多层信息聚合与跳跃连接,实现更高效的高阶图卷积操作。发表于ICML 2019。 最近的方法通过近似图拉普拉斯算子的本征基将卷积层从欧几里得域推广到图结构数据。Kipf和Welling提出的计算效率高且广泛应用的Graph ConvNet(GCN)简化了这一过程,将其视为邻域平均操作。这种简化限制了模型学习三角运算符的能力,而这些运算符是基于图拉普拉斯算子的前提条件。在本研究中,我们提出了一种新的图卷积层,该层混合不同幂次的邻接矩阵,从而能够学习增量运算符。我们的这一层与GCN具有相同的内部结构,但提供了更丰富的表示能力。

全部评论 (0)

还没有任何评论哟~
客服
客服
  • MixHopN-GCNMixHop——”(ICML 2019
    优质
    本文介绍了两项图神经网络技术:MixHop和N-GCN,重点讨论了MixHop方法,该方法通过在稀疏邻域中进行多层信息聚合与跳跃连接,实现更高效的高阶图卷积操作。发表于ICML 2019。 最近的方法通过近似图拉普拉斯算子的本征基将卷积层从欧几里得域推广到图结构数据。Kipf和Welling提出的计算效率高且广泛应用的Graph ConvNet(GCN)简化了这一过程,将其视为邻域平均操作。这种简化限制了模型学习三角运算符的能力,而这些运算符是基于图拉普拉斯算子的前提条件。在本研究中,我们提出了一种新的图卷积层,该层混合不同幂次的邻接矩阵,从而能够学习增量运算符。我们的这一层与GCN具有相同的内部结构,但提供了更丰富的表示能力。
  • Keras-GCNKeras
    优质
    Keras-GCN 是一个利用 Keras 框架构建的图卷积神经网络库。它提供了一种简便的方法来处理和学习图结构数据,适用于复杂网络分析与模式识别任务。 使用Keras对图进行深度学习基于Keras的图卷积网络的半监督分类实现。由Thomas N.Kipf 和 Max Welling 在ICLR 2017 上提出。 有关高级解释,请查看我们的博客文章: Thomas Kipf(2016) 注意,此代码无意于从论文中复制实验,因为初始化方案、退出方案和数据集拆分与TensorFlow中的原始实现不同。 安装方法为python setup.py install。依赖关系包括keras版本1.0.9或更高以及 TensorFlow 或 Theano。 使用说明:运行命令 python train.py 资料集参考(Cora) 引用格式: 如果您在自己的工作中使用以下代码,请参照我们的论文: @inproceedings{kipf2017semi, title={Semi-Supervised Classification with Graph Convolutional Networks}, author={Thomas N. Kipf and Max Welling} }
  • 像融.zip
    优质
    本项目探索了基于卷积神经网络的图像稀疏表示与高效融合技术,旨在提升多源图像信息综合处理能力及视觉效果。 这是一款基于卷积稀疏表征的图像融合源码。下载后可以直接解压并运行。
  • GCN:使用TensorFlow
    优质
    本项目基于TensorFlow框架实现了图卷积神经网络(GCN),适用于节点分类、链接预测等任务。代码开源,易于扩展和应用。 图卷积网络是使用TensorFlow实现的,用于处理图结构数据中的节点分类问题(包括半监督学习任务)。这个项目基于Thomas N.Kipf与Max Welling在ICLR 2017上发表的文章,并且可以在我们的博客文章中找到更详细的解释。要安装,请运行`python setup.py install`命令。 **要求:** - 张量流版本需大于0.12 该网络的使用演示可以通过以下步骤执行: ```bash cd gcn python train.py ``` 对于自定义数据集,你需要提供三个矩阵来表示图结构和节点信息: - N×N大小的邻接矩阵(其中N代表节点的数量) - N×D大小的特征矩阵(这里D是每个节点所拥有的特征数量) - 一个N by E大小的二进制标签矩阵(E为类别数) 在`utils.py`中的load_data()函数提供了如何使用这些数据的具体示例。在此演示中,我们加载了引文网络的数据集(包括Cora、Citeseer或Pubmed)。原始数据可以从相关的文献和存储库获取。 请参考相关文档以了解更多信息并开始您的实验。
  • GCN战篇2:神经
    优质
    本教程深入浅出地介绍图卷积网络和图神经网络的基本原理及应用,并通过实际案例指导读者掌握其在复杂数据结构中的建模技巧。 对于深度学习中的图神经网络以及图卷积网络的实战代码进行了介绍和讲解。
  • GCN,PPT资源
    优质
    本资料深入浅出地介绍了图卷积网络(GCN)的基本原理与应用,并提供了丰富的示例代码和实践案例。适合初学者快速掌握GCN核心概念及操作技巧。 图卷积网络是一种专为处理图形数据设计的深度学习模型,它将传统的卷积神经网络(CNN)的概念扩展到了具有复杂结构的数据上。这种技术通过在图中定义特定的操作来提取节点特征并进行表示学习。 首先,需要以邻接矩阵或邻接列表的形式表示图数据,并且每个节点都用一个特征向量来描述其属性和状态信息。 接下来是特征传播过程:对于每一个节点而言,会将其自身及其邻居的特性综合起来。这一聚合步骤可以采用多种策略实施,比如计算所有相邻节点特性的平均值、最大值或直接拼接等方法进行操作。 然后进入线性变换阶段,在这里将聚合后的结果与一个权重矩阵相乘以捕捉局部结构信息,并通过应用非线性激活函数(如ReLU)来增强模型的表现力和灵活性。 这一过程会重复多次,直到达到预定的层数或者满足一定的收敛条件为止。最后一步是输出预测:可以通过全局池化操作处理最后一层节点特征后输入全连接层进行分类或回归任务等最终目标的操作。 以上就是图卷积网络的基本工作流程,并且在实践中可能还会包括其他各种技术细节和优化手段来提升性能。
  • (SparseConvNet): 子流形应用
    优质
    稀疏卷积网络(SparseConvNet)是一种高效的深度学习架构,专门针对子流形数据设计,能够有效处理高维空间中的复杂几何结构和稀疏性。 子流形稀疏卷积网络是一种利用PyTorch库进行训练的模型。该库引入了空间稀疏性概念,并支持构建计算高效的稀疏VGG、ResNet和DenseNet风格的网络。 通过常规3x3卷积,活跃(非零)站点的数量会迅速增加:然而,在子流形稀疏卷积中,活跃站点集合保持不变。这意味着活跃站点仅与其活动邻居进行交互;而非活动站点则没有计算开销。因此,堆叠多个子流形稀疏卷积可以像构建VGG和ResNet类型的网络那样有效传递信息。 此外,初始阶段不相连的组件不会互相通信,但它们会通过池化或卷积中的步幅操作(即Stride)逐渐合并在一起。另外,在网络中引入ConvolutionWithStride2-SubmanifoldConvolution-DeconvolutionWithStride2路径可以使原先分离的活跃区域重新连接起来。
  • FPGA神经化加速器.pdf
    优质
    本文介绍了设计并实现了一种基于FPGA的卷积神经网络(CNN)稀疏化加速器,旨在提高计算效率和降低能耗。通过引入稀疏矩阵运算技术,有效减少了不必要的乘法操作,在保持高精度的同时显著提升了CNN模型的运行速度与资源利用率。 本段落介绍了一种基于现场可编程门阵列(FPGA)的稀疏化卷积神经网络加速器设计。该设计方案旨在解决在使用卷积神经网络进行前向计算过程中,由于模型参数稀疏性导致无效运算的问题。 首先,简要介绍一下稀疏化卷积神经网络的基本概念:作为深度学习领域的重要组成部分,卷积神经网络(CNN)广泛应用于图像识别、目标检测和自然语言处理等多个方面。然而,庞大的参数数量使得 CNN 模型的计算复杂度高且速度慢。因此,在 CNN 中引入稀疏矩阵以减少参数的数量,并以此提高运算效率成为了一种有效的解决方案。 接着是本段落的核心内容——基于 FPGA 的稀疏化卷积神经网络加速器设计:该设计方案利用了专用逻辑模块,能够识别出特征图和滤波器中的非零点并进行有效数据的传递。这些有效数据随后被送入由数字信号处理器(DSP)组成的阵列中执行乘累加操作,并通过加法树来获取最终输出的结果。此外,在宽度、高度以及输出通道方向上,设计也进行了粗粒度级别的并行处理以优化性能。 实验部分展示了在 Xilinx FPGA 器件上的验证结果:VGG16 卷积层的综合性能达到了 678.2 GOPS,同时功耗效率为 69.45 GOPSW。这些数值显著优于基于 FPGA 的稠密网络和稀疏化网络加速器。 最后,在结论部分作者总结了这一设计的优势,并展望未来的研究方向:本段落提出了一种能够有效利用卷积神经网络中模型参数的稀疏性,从而减少无效运算的设计方案。实验表明这种设计方案在提高计算性能的同时还能降低功耗消耗。未来的研究工作将继续致力于提升基于 FPGA 的稀疏化卷积神经网络加速器设计的速度和效率。
  • Python中GCN半监督分类PyTorch
    优质
    本项目采用PyTorch框架实现了基于图卷积网络(GCN)的半监督节点分类算法,适用于处理带有少量标签信息的大规模图数据。 用于半监督分类的图形卷积网络(GCN)的PyTorch实现。
  • ST-GCN时空神经
    优质
    简介:ST-GCN是一种用于处理时空数据的深度学习模型,通过图卷积神经网络有效捕捉节点间的关系与动态变化,广泛应用于动作识别、时空预测等领域。 Spatial Temporal Graph Convolutional Networks for Skeleton-Based Action Recognition. 这是一篇2018年发表在AAAI会议上的关于图卷积神经网络的论文,并提供了相应的代码。