跳转至

图学习与几何深度学习

这一页解决什么

把关系、拓扑和对称性显式放进模型。它和你的传感器网络(节点之间有空间关系)、点云和三维几何经验都有交汇,但图结构必须由任务或数据支持,不能为用而用。P1 认识,P2 按方向深入。

知识地图

层次 主题 需要理解什么
P1 图基础与任务 节点、边、邻接;节点、边、图级预测;置换不变与等变
P1 消息传递 GCN、GraphSAGE、GAT;邻域聚合、采样与特征
P2 现代几何方法 图 Transformer、位置编码、点云与 SE(3) 等变建模
P2 局限与科学应用 过平滑、过压缩、构图泄漏;分子、传感器图和物理场

核心机制

消息传递:每一层,每个节点收集邻居的特征(消息),聚合(求和、平均或注意力加权),再与自身特征结合更新。k 层之后,一个节点能"看到" k 跳以内的信息。

置换不变与等变:图没有天然的节点顺序,所以聚合函数必须与顺序无关。图级输出应该不变,节点级输出应该随节点重排而同样重排(等变)。

GCN、GraphSAGE、GAT:GCN 按度归一化的平均聚合;GraphSAGE 采样邻居,能用于训练时没见过的新节点(归纳式);GAT 用注意力学习不同邻居的权重。

过平滑与过压缩:层数一多,所有节点的表示趋于相同(过平滑);远处的信息要挤过少数路径传过来,被压缩丢失(过压缩)。所以 GNN 通常只有几层。

几何等变网络:点云和分子的性质不应随整体旋转、平移而改变。SE(3) 等变网络把这种对称性写进结构,比靠数据增强学得更省数据。

传导式 vs. 归纳式:传导式在同一张图上训练和测试(只是标签被遮住);归纳式要泛化到新图或新节点。评估时要说清是哪一种,构图时不能用到测试标签。

精选资源

  • 主课深入 · Stanford CS224W


    节点嵌入、消息传递范式与图的高阶结构。

    打开课程主页

  • 官方跟随 · PyG 快速起步


    Cora 节点分类,在小图上复现 GCN(AI-3)。

    打开文档

跟随实验 · AI-3 · 图结构究竟带来什么

  1. 运行 PyG 原例,理解 x、edge_index、标签与数据 mask。
  2. 使用同一划分比较不用边的 MLP 与 GCN。
  3. 扰动部分边,记录验证和测试效果;避免重新构图时泄漏测试标签。
  4. 报告该例是传导式还是归纳式设定,再讨论传感器应用。

验收:小图 CPU 可起步;报告基线、边扰动、mask 与局限,不把节点分类直接等同于结构损伤识别。

自测

为什么 GNN 一般只叠几层?

层数多会过平滑,节点表示变得无法区分;还会过压缩远处信息。需要长程信息时用图 Transformer、虚拟节点或跳跃连接。

怎么证明图结构真的有用?

在同一划分上和不用边的 MLP 对比;再打乱或删除部分边,看效果是否随之下降。

把传感器网络建成图时要注意什么?

边的定义(物理连接、距离阈值还是相关性)要有依据;如果用全部数据算的相关性构图,会把测试信息泄漏进模型。

相关专题

  • 网络架构


    GNN 与 CNN、Transformer、SSM 的计算范式对比。

    进入

  • 时序与科学 AI


    传感器图与物理场建模。

    进入