欢迎光临
我们一直在努力

即插即用系列(代码实践) | AMD核心模块:自适应多尺度分解框架——纯MLP架构吊打Transformer,时间序列预测新SOTA

论文题目:Adaptive Multi-Scale Decomposition Framework for Time Series Forecasting

中文题目:用于时间序列预测的自适应多尺度分解框架 论文出处:arXiv 2024 (清华大学深圳国际研究生院 & 同济大学) 应用任务:时间序列预测 (Time Series Forecasting)、长期预测 核心模块:AMD (Adaptive Multi-Scale Decomposition)

摘要: 本文提取自 2024年最新论文《Adaptive Multi-Scale Decomposition Framework for Time Series Forecasting》。针对现有的基于 Transformer 的预测方法计算复杂度高、易过拟合,而基于 MLP 的方法(如 DLinear)虽快但难以捕捉复杂的多尺度纠缠模式(Multi-Scale Entanglement)的痛点,复现了其核心架构——AMD(自适应多尺度分解框架)。该模型完全基于 MLP 构建,通过独特的分解与混合机制,在长时序预测任务上以更低的参数量和更快的速度,取得了超越主流 Transformer 的 SOTA 性能。


目录

    • 第一部分:模块原理与实战分析
      • 1. 论文背景与解决的痛点
      • 2. 核心模块原理揭秘
      • 3. 架构图解
      • 4. 适用场景与魔改建议
    • 第二部分:核心完整代码
    • 第三部分:结果验证与总结

第一部分:模块原理与实战分析

1. 论文背景与解决的痛点

在时间序列预测(TSF)领域,风向正在从复杂的 Transformer 吹回简洁的 MLP:

  • Transformer 的“富贵病”:虽然擅长捕捉长距离依赖,但计算量大(),且在数据噪声大时容易过拟合。
  • MLP 的“短板”:DLinear 等方法证明了简单的线性层也能打败 Transformer,但面对现实世界中复杂的多尺度纠缠(Multi-Scale Entanglement)——即不同时间尺度的模式混合在一起(如日周期、周趋势、突发噪声交织),简单的 MLP 往往显得力不从心,难以解耦这些特征。

痛点总结:我们需要一种既有 MLP 的高效,又能像 Transformer 一样处理复杂多尺度模式的模型。

2. 核心模块原理揭秘

为了解决上述问题,论文提出了 AMD (Adaptive Multi-Scale Decomposition) 框架。我已将其封装为完整的 PyTorch 模型,其核心设计包含以下“三板斧”:

  • 多尺度分解混合 (MDM Block): AMD 并不依赖传统的固定分解(如 STL 分解),而是提出了一种可学习
赞(0)
未经允许不得转载:171主机测评 » 即插即用系列(代码实践) | AMD核心模块:自适应多尺度分解框架——纯MLP架构吊打Transformer,时间序列预测新SOTA
分享到: 更多 (0)

评论 抢沙发

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址