时序与科学机器学习¶
这是与你的信号、系统辨识和结构研究最直接的交汇。先建立时间划分与经典基线,再区分数据驱动预测、物理约束和算子学习;它们不是可以互换的名称。
知识地图与优先级¶
| 层次 | 主题 | 需要理解什么 |
|---|---|---|
| P1 | 时序任务与基线 | 预测、分类、异常、缺失插补;持续值/线性模型、频域特征与窗口泄漏 |
| P1 | 时序网络 | TCN、RNN、Transformer、SSM;局部/长程信息与多变量输入 |
| P2 | 时序基础模型与迁移 | 预训练数据、采样率、归一化、域差异与不确定性 |
| P2 | PINN 与反问题 | 用物理方程残差与边界约束训练;并不保证解正确或优于数值解法 |
| P2 | 神经算子与混合模型 | FNO/DeepONet 学习函数间映射;分辨率、参数范围与守恒检查 |
核心机制直觉 · 从时序演进到物理与算子¶
- 时序深度建模三阶段:
- 循环时序(RNN/LSTM):隐状态递推,长程相位易衰减,并行困难。
- 点级自注意力(Vanilla Time Transformer):将每个时间步当作 token,破坏了连续波形局部模式,且二次方复杂度在长传感器序列上开销巨大。
- Patch 化与通道独立(PatchTST/iTransformer):将局部时间子序列聚合成 Patch Token 捕捉动态模式;在多元传感器场景中,通道独立(Channel-Independent)策略往往比强行跨通道计算注意力具备更强泛化性。
- 物理知情(PINN)与神经算子(FNO/DeepONet)的区别:
- PINN(方程残差软约束):用神经网络参数化特定解 \(u(t, x)\),将物理方程残差(如波动/振动方程)作为损失惩罚项。无需海量仿真标签,但每换一次物理参数或几何边界需重新训练,优化极易受多损失项梯度不平衡困扰。
- 神经算子(无穷维函数空间映射):学习输入函数空间到输出函数空间的非线性映射(如激振载荷分布 \(\to\) 结构位移场响应)。通过频域截断卷积实现网格无关性(Mesh-independent / Zero-shot 超分辨率),一次训练支持任意离散点评估。
精选入口¶
-
算子实践主入口 · NeuralOperator
从小型 Darcy flow 实验切入,理解频域截断卷积与网格无关(Mesh-independent)映射。
-
方程求解选修 · DeepXDE PINN
物理约束深度学习代表库,通过一维 Poisson 经典算例体验微分方程残差惩罚项。
跟随实验 · AI-5 · 先时序基线,再选一个物理模型¶
- 用熟悉的信号数据定义任务,按时间/设备分组划分,避免相邻窗口跨集合。
- 先比较持续值、线性/特征基线与一个小网络;记录不同噪声或工况。
- 若选科学 AI,再跟一个官方 Darcy 或 Poisson 例子,核对单位与边界条件。
- 测试未见参数范围或分辨率,比较数值/解析参考与误差,而不只看训练损失。
验收:保存数据划分、条件范围、误差与计算成本;物理一致性与预测精度分开评估,深度模型不默认胜出。
认知自测 · 关键思考¶
- 在多通道传感器阵列(如加速度、应变、温湿度)预测中,为什么“通道独立”策略往往能战胜盲目将所有通道混合计算的密集网络?
- 在 PINN 训练中,当边界条件损失与内部 PDE 残差损失的量级差异达数倍时,梯度反传会出现何种病态主导现象?
- 傅里叶神经算子(FNO)的离散傅里叶层在频域执行截断乘法,这在数学上对应物理系统格林函数的何种空间运算?
Mamba/SSM与图学习可作为后续模型选择;应用领域的算法细节留在原有专题中。