# toy model about over-symmetry

如果平面单位圆上存在点 $\boldsymbol{x}_1 = (-1,0), \boldsymbol{x}_2 = (1,0)$. 圆心有节点 $\boldsymbol{x}_3 = (0,0)$.

这时候，如果对于系统绕中心点 $\boldsymbol{x}_3$ 作 $\theta$ 角旋转，得到 $\boldsymbol{x}_1' = (-\cos \theta, -\sin \theta), \boldsymbol{x}_2' = (\cos \theta, \sin \theta)$. 那么，基于 EGNN 的更新公式

$$\boldsymbol{x}_3^{l+1} = \boldsymbol{x}_3^l + \sum_{i=1}^2 \boldsymbol{x}_{i3}^l \cdot \phi(\boldsymbol{m}_{i,3}^l) = \boldsymbol{x}_3^l.$$

但是，若更改输入的 $\boldsymbol{x}$ 为 $\boldsymbol{x} \otimes \boldsymbol{x}$. 则 $\boldsymbol{x}_i' \otimes \boldsymbol{x}_i' = (\cos^2\theta, \cos\theta\sin\theta, \cos\theta\sin\theta, \sin^2\theta)^\top, i = 1,2$. 输入 EGNN, 则 $\boldsymbol{x}_3$ 处的特征是等变的。这里推测是 type-2 的特征起到了作用。

一般地，假设 $\vec{\boldsymbol{X}} \in \mathbb{R}^{3 \times n}$, $\mathcal{R}$ 是一种非平凡变换，对应矩阵 $R$. 则

$$R \phi(\vec{\boldsymbol{X}}) = \phi(R \vec{\boldsymbol{X}}) = \phi(\vec{\boldsymbol{X}}).$$

注意到 $R \in \mathrm{O}(3)$, 则 $(R-I) \phi(\vec{\boldsymbol{X}}) = 0$, 从而 $\phi(\vec{\boldsymbol{X}}) = 0$. 这就是 over-symmetry.

# over-symmetry in crystal

晶体输入暂不考虑连边，只考虑三维点云坐标 $\vec{\boldsymbol{X}} \in \mathbb{R}^{3 \times n}$. 若 $R$ 是一个晶体对称群内的操作（的矩阵表示），则有

$$R \vec{\boldsymbol{X}} = \vec{\boldsymbol{X}} P$$

其中 $P$ 是置换矩阵。

现在在外面套一层 GNN, 那么有

$$\phi(R \vec{\boldsymbol{X}}) = \phi(\vec{\boldsymbol{X}} P) = \phi(\vec{\boldsymbol{X}}).$$

# over-symmetry in GNN readout