# Tackling Over-Smoothing for General Graph Convolutional Networks
# Contributions
- 研究了多种深度 GCN (generic GCN, GCN with bias, ResGCN, APPNP) 输出的渐进行为。并从理论上证明了这些 GCN 会收敛于一个长方体。
- 提出了一种在训练过程中均匀、随机丢弃部分边的技术 DropEdge, 并证明了该方法可以缓解过平滑问题。
# Preliminaries
# 图记号
符号 | 含义 |
---|---|
图 | |
\mathbb{V}=\ | 图的顶点集 |
图的顶点数 | |
\mathcal | 图的边集 |
\boldsymbol{X} = (\boldsymbol{x_1}, \dots, \boldsymbol{x_N}) \in \mathbb{R}^ | 顶点特征矩阵 |
顶点特征维度 | |
\boldsymbol{A} = (a_{ij})_ | 邻接矩阵 |
顶点度 | |
\boldsymbol{D} = \mathrm{diag}\{d_1, \dots, d_N\} \in \mathbb{R}^ | 度矩阵 |
\hat{\boldsymbol{D}} = \boldsymbol{D}+\boldsymbol | - |
\hat{\boldsymbol{A}} = \hat{\boldsymbol{D}}^{-1/2}(\boldsymbol{A}+\boldsymbol{I})\hat{\boldsymbol{D}}^ | - |
$$ | |
$$ | |
$$ |
Thm 1.