# 结构

# 数学基础

简单介绍了一下向量、矩阵、加法、数乘、内积、行列式、正交矩阵、对角化、SVD 分解、赋范线性空间、希尔伯特空间等等含义。

我们 AI 研究的空间都是 Hilbert 空间内的,因此孔间距具有

# 结构的表示

如何去表示一个结构:

  • 网格 (grids)
  • 集合 (set)
  • 图 (graph)
  • 流形 (manifold)

# 信号

一个信号 (signal) 是一个函数 x:ΩCx: \Omega \to \mathcal{C}, 其中

  • Ω\Omega 是定义域
  • C\mathcal{C} 是向量空间,其各个维度称作各个通道 (channels).

相同定义域和通道的全体信号组成的空间即信号空间

X(Ω,C)={x:ΩC}.\mathcal{X}(\Omega, \mathcal{C}) = \{x: \Omega \to \mathcal{C}\}.

# 几何域上的场

一个 (field) 是一个定义域 Ω\Omega 到特征空间 Cu\mathcal{C}_u 的映射 x:ΩCux:\Omega \to \mathcal{C}_u, 其中:

  • Cu\mathcal{C}_u 是一个依附于定义域上点 uu 的特征空间(纤维)。

# 对称性与群论

# 对称性

某物体的对称性 (symmetry) 是指该物体在某种变换 gg 下的某性质 pp 保持不变,即

p(g(u))=p(u).p(g(u)) = p(u).

下面来举几个例子:

  • 正三角形中的对称性:将正三角形旋转 120120^\circ 或绕对称轴翻转后,正三角形的形状保持不变。
  • 参数化中的对称性:对于多层全连接神经网络,将中间层神经元的顺序打乱,输出仍保持不变。
  • 标签函数的对称性:对于分类问题,将输入图片进行旋转,输出标签仍保持不变。狗狗转半圈还是狗狗。
  • 集合中的对称性:集合中的元素关于排列对称。
  • 欧式空间中刚体变换的对称性:在欧式空间中,对物体作刚体变换,则距离、角度等性质保持不变。

在使用机器学习解决分类问题的过程中,对类别的学习就是对对称性的学习。

# 对称群

对给定的物体,所有保持其对称性的变换组成的集合称为该物体的对称群 (symmetry group). 注意到:

  • 恒等变换始终是一种对称
  • 对称的复合也是对称
  • 对称的逆也是对称

#

将两个变换之间的二元运算记作 :G×GG\cdot: G \times G \to G. 一个群是满足下列条件的变换的几何:

  1. 闭包
  2. 结合律
  3. 单位元
  4. 逆元

# 群表示

# 不变和等变函数