Advertisement

CorrectAndSmooth-dgl: 实现DGL中“标签传播与简模型超越图神经网络”方法（ICLR 2021）

  •  5星
  •     浏览量: 0
  •     大小:None
  •      文件类型：None

简介：
CorrectAndSmooth-dgl是基于深度图库(DGL)实现的一种创新算法，该算法采用标签传播和简化模型，在不使用复杂图神经网络的情况下超越了现有性能标准，成果发表于ICLR 2021。 DGL CorrectAndSmooth的实现基于论文中的GNN模型。该代码库在Python 3.7环境中运行，并且需要以下软件包版本：dgl 0.6.0.post1、torch 1.7.0 和 ogb 1.3.0。 本示例使用的图形数据集为开放图基准（OGB）。以下是所用数据集的摘要： - **ogbn-arxiv** 数据集包含节点数：169,343，边的数量：1,166,243，每个节点有128个特征。评价指标是准确性。 - **ogbn-products** 数据集包含节点数量：2,449,029，边的数量：61,859,140，每个节点的特征数为100。评价指标同样是准确性。 使用方法： 训练基本预测模型，并在不同数据集中应用正确的平滑算法（Correct & Smooth），遵循原始超参数设置。 - 对于**ogbn-arxiv** 数据集：`python main.py` - 使用MLP + C＆S的示例命令为：`python main.py --pretrain MLP` - 使用线性模型+ C&S 的示例命令为： `python main.py --pretrain 线性` 注意，这里的C&S代表Correct & Smooth算法。

全部评论 (0)

还没有任何评论哟~
客服
客服
客服关闭
  • CorrectAndSmooth-dgl: 实现DGL中“标签传播与简模型超越图神经网络”方法（ICLR 2021）
    优质
    CorrectAndSmooth-dgl是基于深度图库(DGL)实现的一种创新算法，该算法采用标签传播和简化模型，在不使用复杂图神经网络的情况下超越了现有性能标准，成果发表于ICLR 2021。 DGL CorrectAndSmooth的实现基于论文中的GNN模型。该代码库在Python 3.7环境中运行，并且需要以下软件包版本：dgl 0.6.0.post1、torch 1.7.0 和 ogb 1.3.0。 本示例使用的图形数据集为开放图基准（OGB）。以下是所用数据集的摘要： - **ogbn-arxiv** 数据集包含节点数：169,343，边的数量：1,166,243，每个节点有128个特征。评价指标是准确性。 - **ogbn-products** 数据集包含节点数量：2,449,029，边的数量：61,859,140，每个节点的特征数为100。评价指标同样是准确性。 使用方法： 训练基本预测模型，并在不同数据集中应用正确的平滑算法（Correct & Smooth），遵循原始超参数设置。 - 对于**ogbn-arxiv** 数据集：`python main.py` - 使用MLP + C＆S的示例命令为：`python main.py --pretrain MLP` - 使用线性模型+ C&S 的示例命令为： `python main.py --pretrain 线性` 注意，这里的C&S代表Correct & Smooth算法。
     
  • 《基于DGL的大规模图神经网络训练》马超.pdf
    优质
    本文由马超撰写，探讨了利用DGL框架进行大规模图神经网络的有效训练方法，旨在解决当前深度学习中对于复杂图形数据处理的挑战。 图神经网络的实战文档为该领域的初学者提供了参考资源。图网络（Graph Network, GN）是在拓扑空间内按照图结构组织以进行关系推理的函数集合，在深度学习理论中，它是图神经网络（graph neural network, GNN）和概率图模型（Probabilistic Graphical Model, PGM）的一种推广形式。
     
  • GraphSaint: DGL实现版本
    优质
    GraphSaint是基于DGL框架设计的大规模图神经网络高效训练工具，适用于处理超大规模图数据集。 GraphSaint的DGL实现与F1-微型方法生产者价格指数及Flickr的Reddit数据集对比结果如下： 节点（纸）：0.960±0.001，0.507±0.001，0.962±0.001 边缘（纸）： 0.981±0.007， 0.510±0.002 ， 0.966± 0. 0 0 1 RW （ 纸） ： 0 . 9 8 1 ± . . . . . . . . , , , RW（运行）：0.9812，0.5104，0.9648 节点（dgl）： 0 . 5 4 6 2 ， . . . 边缘（dgl） ： 0 . . . RW （ dgl） ： 0 . 具体数值如下： - 节点（运行）：0.9628，0.5077，0.9622 - 边缘（运行）：0.9810，0.5066，0.9656 DGL实现的具体数值： - 节点（dgl）： 0 . 5 . - 边缘（dgl） ： . - RW （ dgl） ： . 注意，在RW (运行)部分的DGL实现中，最后一个数据缺失。
     
  • CapsGNN: PyTorch中的“胶囊图神经网络”实现（ICLR 2019）
    优质
    CapsGNN是基于PyTorch框架实现的一种新型模型，结合了胶囊网络和图神经网络的优势，适用于处理图结构数据，已在ICLR 2019会议上展示。 CapsGNN 是一种基于胶囊图神经网络的PyTorch实现（ICLR 2019）。从图神经网络（GNN）学习到的高质量节点嵌入技术已被广泛应用在基于节点的应用程序中，并且一些应用已经达到了最先进的性能水平。然而，当使用从GNN学习得到的节点嵌入来生成图形嵌入时，简单的标量表示可能不足以有效保留节点或整个图的重要属性，导致次优的结果。 受到胶囊神经网络（CapsNet）的启发，我们提出了胶囊图神经网络（CapsGNN），利用了胶囊的概念以解决现有基于GNN的方法中的不足。通过采用胶囊形式来提取节点特征，并使用路由机制在图形级别上捕获重要信息，我们的模型能够为每个图生成多个嵌入。
     
  • DGL基础实例，GCN与GAT
    优质
    本教程通过具体示例介绍如何使用DGL实现图卷积网络（GCN）和图注意力网络（GAT），帮助读者掌握基于消息传递机制的基本图神经网络模型构建技巧。 本压缩包聚焦于图神经网络（GNN）的学习资源及DGL（Dynamic Graph Library）的应用，涵盖了图卷积网络（GCN）与图注意力网络（GAT）。DGL是一个专为开发GNN模型而设计的高级库，兼容多种深度学习框架如PyTorch。以下是关于这些主题的具体内容： 1. **DGL简介**： DGL是一款跨平台且高性能的图神经网络库，旨在简化GNN模型的设计流程。它提供了丰富的图操作和内置优化策略，使研究人员能够更专注于算法设计而非底层实现。 2. **图神经网络（GNN）**： GNN是一种用于处理图形结构数据的深度学习方法，可以捕捉节点间的拓扑关系。通过在图上传播节点特征来学习表示，并应用于如节点分类、链接预测等任务中。 3. **图卷积网络（GCN）**： GCN是GNN的一个变种，其灵感源自于卷积神经网络的概念。它采用邻居信息聚合的方式更新节点的特征向量，这一过程被称为图卷积。在提供的材料中可能详细解释了GCN的数学原理和实现细节。 4. **图注意力网络（GAT）**： GAT将注意力机制引入到GNN模型之中，允许为不同的邻居分配不同权重。相关文件可能会展示如何使用DGL构建并训练一个GAT模型的具体代码实例。 5. **空手道俱乐部节点分类案例研究**： KarateClubDataset.py可能包含了加载经典社会网络分析示例——空手道俱乐部数据集的代码，其中每个节点代表一名成员而边表示他们之间的互动。gcn.py和gat.py文件可能会利用该数据集训练GCN及GAT模型进行节点分类实验。 6. **其他资源**： - DGL_Chinese_Manual-master：DGL的中文文档，提供详尽的学习资料。 - 简明DGL中文文档.docx：快速指南，概述了DGL的基础概念和使用方法。 - members.csv 和 interactions.csv：分别记录空手道俱乐部成员信息及其互动数据。 综上所述，此压缩包为用户提供了一个全面的DGL学习环境，涵盖了从理论到实践的各种层面。无论是初学者还是研究者都能从中受益匪浅，并能深入了解GNN的工作原理及如何运用DGL来构建和应用GCN与GAT模型。
     
  • DGL库的CPU版与CUDA版
    优质
    本文将介绍DGL库中CPU版本和CUDA版本的区别、特点及应用场景，帮助读者选择合适的版本进行深度图学习。 DGL库的CPU版本可以通过下载文件 `dgl-0.9.1-cp37-cp37m-win_amd64.whl` 来安装。对于希望利用GPU加速处理能力的用户，可以选择CUDA版本，即通过下载名为 `win-64-dgl-cuda11.1-0.9.1-py37-0.tar.bz` 的文件来获取支持CUDA 11.1 的DGL库。
     
  • 基于超图神经网络的恶意流量分类方法模型
    优质
    本研究提出了一种创新性的超图神经网络模型，专门用于复杂网络环境中的恶意流量识别与分类。该模型通过深度学习技术有效提升了网络安全防护水平，为保障数据传输的安全性提供了新的解决方案。 随着网络的普及与依赖程度不断增加，恶意流量泛滥已成为网络安全领域的一大挑战。在数字时代背景下，网络攻击者不断探索新的入侵手段以窃取数据、破坏服务并侵入系统。为了有效应对这些持续性的威胁，并减少由此带来的损失，开发更高效的入侵检测系统至关重要。然而，现有的恶意流量分类方法存在一些局限性，尤其是过度依赖于对特定数据特征的选择。 为提升此类模型的性能与准确性，我们提出了一种基于超图神经网络（HGNN）的新颖方法来实现恶意流量分类。该方案的核心在于将流量数据转换成超图结构，并运用HGNN捕捉其中的空间特性。相较传统方式，这种方法能够更全面地分析不同数据间的关系，进而更加准确地识别和描述恶意行为的特征。 为了进一步优化模型性能并处理时间维度上的变化性，我们引入了循环神经网络（RNN）。结合这两种技术后，所提取出的时空信息可以被用来进行精准分类。这不仅有助于发现潜在威胁，还能显著提高系统的整体安全性。 通过一系列实验测试证明，该HGNN+RNN组合模型在有效识别与处理恶意流量方面表现出色，并且能够高效地从复杂数据中提炼关键特征以改善分类效果。
     
  • 熵值法与MATLAB神经网络代码：简单神经网络的MATLAB实现
    优质
    本书介绍了如何使用熵值法和MATLAB软件来构建简单的神经网络模型，并提供了详细的代码示例。适合初学者学习。 这段文字描述了一个2017年机器学习课程的作业任务，使用了保守值法在Matlab环境中构建神经网络模型。该示例基于一个存档文件（如“immagini.mat”），但也可以适用于其他类型的标记数据集，只需进行一些小修改即可。 代码允许通过批处理或在线方法尝试不同的样本大小，并且当验证误差小于训练误差时继续执行训练过程。此代码支持经典的反向传播和梯度下降算法以及其他优化技术（如RPROP）。此外，它包括了多种错误函数选项：平方和、交叉熵等。然而，该框架足够灵活，可以轻松地用不同的权重更新方法或损失函数替换现有功能。 除了Matlab脚本外，还有一个PDF文档详细介绍了神经网络的原理及其在项目中的具体实现细节（仅提供意大利语版本）。使用者需要先解压“immagini.mat”7zip存档文件，并运行主程序。
     
  • 简易三层神经网络的Matlab实现方法
    优质
    本文章介绍了如何使用MATLAB语言构建和训练一个简单的三层（输入层、隐藏层、输出层）人工神经网络的方法，适用于初学者理解和实践。 最简单的三层神经网络在Matlab中的实现方法，附带详细注释。如果有任何疑问，请参考我的博客文章。