オムライスの備忘録

数学・統計学・機械学習・プログラミングに関することを記す

トップ > データサイエンス > 【深層学習】グラフニューラルネットワーク #まとめ編

【深層学習】グラフニューラルネットワーク #まとめ編

データサイエンス データサイエンス-深層学習

Index

グラフニューラルネットワーク / Graph Neural Network / GNN

グラフデータの解析における Graph Embedding に、深層学習を用いた.

Graph Embedding

Graph Embedding とは、グラフの各ノードの構造情報を低次元のベクトルで表現する手法.

Graph Embedding の手法として、次元圧縮を利用した手法とグラフ構造に着目した手法がある.

これらは、各ノードのベクトル表現を目的関数の最適化などによって学習する浅い Embedding のアプローチであった.

このようなアプローチの欠点としては、以下のものが指摘されている.

  1. 浅い Embedding は、エンコードの際に、ノード間でパラメータを共有しない.


  2. 浅い Embedding では、エンコードの際に、ノードの特徴を用いない.


  3. 浅い Embedding は transductive な (特定の事例から特定の事例への) ものであり、訓練時に存在するノードについての Embedding した生成できない.



これに対して、より深い Embedding のモデルとして、GNN を用いるアプローチがある.

特性

GNN は、グラフの構造だけでなく、各ノードの持つ属性も反映させた表現を学習するニューラルネットワークである.

GNN のメリットとして、ノードの持つ属性を入力として用いることができる.

また、出力に、ノードの表現だけでなく、エッジの表現や、グラフ全体の表現も得ることできる.

手法・アルゴリズム

Graph Neural Network / GNN

GGS-NN

Vision GNN

グラフ畳み込み / Graph Convolutional Network / GCN

Graph AutoEncoder

Variational Graph AutoEncoder / VGAE

Transformer

タスク

  • ノード分類
  • グラフ分類
  • リンク予測
  • グラフ生成

Object Tracking

研究

Does GNN Pretraining Help Molecular Representation? / 2022

グラフニューラルネットワークの事前学習は分子グラフ（molecular graph）の表現獲得に役立つか？.

  • Does GNN Pretraining Help Molecular Representation?

参考

  • A Survey on Network Embedding



  • Graph Neural Networks: A Review of Methods and Applications

  • A Comprehensive Survey on Graph Neural Networks

  • Everything is Connected: Graph Neural Networks

書籍

Web

動画