[ CVPR2022 / GML4VC ] 4. Graph Neural Networks(GNNS) 기본 개념 정리

---

Graph Machine Learning for Visual Computing Tutorial 

CVPR 2022 에서 Graph Machine Learning 에 대한 튜토리얼(tutorial)을 진행했습니다.
이에 대해 요약 정리 하는 시리즈 글입니다.

---

[이전 글]

2022.08.22 - [AI/Graph Neural Networks] - [ CVPR2022 / GML4VC ] 1. 개요 (Graph Machine Learning, GNNs)

2022.08.22 - [AI/Graph Neural Networks] - [ CVPR2022 / GML4VC ] 2. Open Remarks

2022.08.22 - [AI/Graph Neural Networks] - [ CVPR2022 / GML4VC ] 3. Geometric Deep Learning (Invariant, Equivariant)

---

Building GNNs with Pytorch Geometric

• 동영상 링크 : Building GNNs with Pytorch Geometric
• 발표자 : Matthias Fey

matthias_talk.mp4

 

from CVPR 2022 Tutorial:Building GNNs with Pytorch Geometric

---

Graph Neural Networks (GNNs)

 

GNNs 을 간단히 설명하자면, 이웃 노드들의 표현을 반복적으로 변형하고 합쳐서 노드의 표현들을 업데이트 하는 신경망입니다.

 

from CVPR 2022 Tutorial:Building GNNs with Pytorch Geometric

---

Message Passing Scheme

메시지 패싱(Message Passing)은 GNNs 의 핵심 구동 원리입니다.

1. Send Message : 이웃 노드들은 각각의 메시지를 보냅니다.
2. Aggregate Messages : 전체 이웃의 메시지들을 합칩니다. 이는 permutation invariant(ex. sum, mean..) 이어야 합니다.
3. Update central node representation : 합쳐진 이웃 노드들의 정보를 반영하여 중심노드의 표현을 갱신합니다. 

 

from CVPR 2022 Tutorial:Building GNNs with Pytorch Geometric

---

GNNs 특징

• 함수들이 모두 학습가능하고 미분 가능합니다.
• 각 노드의 표현을 업데이트하는데 동일한 신경망(shared set of parameters)을 사용합니다.
• Operator 들을 쌓아서(stack) GNNs 을 구성할 수 있습니다.
• Layer 가 하나 쌓일때 마다, 노드는 한다리 건너서 존재하는 이웃 노드의 표현을 반영하게 됩니다.
• 즉, L 번째 레이어 이후의 노드들은 그것의 L-hop 이웃의 정보를 반영합니다.

 

from CVPR 2022 Tutorial:Building GNNs with Pytorch Geometric

 

• 또한 Message Passing Scheme 은 매우 유연(Flexible)합니다.
  • Anisotropic transformations 
  • 엣지 관계의 종류(type)에 따른 차별적 신경망 적용
  • 엣지 특징 정보(edge feature)의 반영 
• 기존의 CNNs 또는 Transformer 들을 GNNs으로 모두 나타낼 수 있습니다.
  • CNNs 은 GNNs 과 유사하게 지역적인 특징(local feature)을 학습한다고 할 수 있으며,
  • Transformer 는 모든 노드간의 연결을 고려한 fully-connected GNNs 이라고 할 수 있습니다.

 

from CVPR 2022 Tutorial:Building GNNs with Pytorch Geometric

---

Applications

 

GNNs 은 다양한 활용이 가능합니다. 기본적으로 그래프 형태를 가진 데이터에 적용이 쉽습니다. 

• Recommendation
• Chemistry
• Knowledge Graphs

컴퓨터 비전 쪽으로 확장도 가능합니다.

• 3D Processing
• Graph Matching (Image Keypoint Matching)
• Scene Graphs & Motion Capture
• Structured World Models

from CVPR 2022 Tutorial:Building GNNs with Pytorch Geometric

 

---

[ 다음 글 ]

2022.08.24 - [AI/Graph Neural Networks] - [ CVPR2022 / GML4VC ] 5. Pytorch Geometric 이란 무엇인가?

2022.08.25 - [AI/Graph Neural Networks] - [ CVPR2022 / GML4VC ] 6. Deep GNNs (심층 그래프 신경망) 기본 개념 정리

2022.08.25 - [AI/Graph Neural Networks] - [ CVPR2022 / GML4VC ] 7. 비디오 이해를 위한 GNN 응용 (Graph ML for Video Understanding)

---