
一、研究背景
- 问题定位:解决多变量时间序列回归预测问题
- 核心创新:提出基于权重优化的多模型组合策略,融合深度学习和传统机器学习方法
- 技术需求:单一模型在复杂非线性问题上可能存在局限性,组合模型可提高预测精度和鲁棒性
二、主要功能
四模型并行训练:
- BiLSTM(双向长短期记忆网络)
- BP神经网络
- SVR(支持向量回归)
- BiLSTM-BP-SVR加权组合模型
权重优化:通过优化算法自动确定各模型在组合中的权重
多维度评估:提供RMSE、MAE、R²等指标对比
可视化分析:包含预测对比、残差分析、误差分布等丰富图表
三、算法步骤
1. 数据读取与预处理(Excel→归一化→序列化)
2. BiLSTM模型训练(序列数据)
3. BP神经网络训练(静态特征)
4. SVR模型训练(贝叶斯优化参数)
5. 权重优化(基于验证集RMSE最小化)
6. 组合预测与评估
7. 结果可视化与保存
四、技术路线
数据流:Excel → 预处理 → 三模型并行训练 → 权重优化 → 组合预测
技术栈:BiLSTM(深度学习) + BP(神经网络) + SVR(传统ML) + 优化算法
评估体系:训练/验证/测试三阶段评估 + 多指标对比
五、核心公式原理
1. 加权组合公式
Y
c
o
m
b
=
w
1
∗
Y
b
i
l
s
t
m
+
w
2
∗
Y
b
p
+
w
3
∗
Y
s
v
r
约束条件:
w
1
+
w
2
+
w
3
=
1
,
w
i
≥
0
Y_comb = w1*Y_bilstm + w2*Y_bp + w3*Y_svr 约束条件:w1 + w2 + w3 = 1, wi ≥ 0
Ycomb=w1∗Ybilstm+w2∗Ybp+w3∗Ysvr约束条件:w1+w2+w3=1,wi≥0
2. 优化目标函数
m
i
n
R
M
S
E
(
w
1
,
w
2
,
w
3
)
=
√
[
1
/
n
Σ
(
y
t
r
u
e
−
Y
c
o
m
b
)
2
]
min RMSE(w1,w2,w3) = √[1/n Σ(y_true – Y_comb)²]
minRMSE(w1,w2,w3)=√[1/nΣ(ytrue−Ycomb)2]
3. 评估指标
- RMSE = √(MSE)
- MAE = mean(|y_true – y_pred|)
- R² = 1 – SS_res/SS_tot
六、关键参数设定
1. BiLSTM参数
- 序列长度:5-10(根据数据量自适应)
- 网络结构:64→32 BiLSTM + 32→16 FC
- 训练参数:epochs=150,lr=0.001,batch=16
2. BP网络参数
- 隐藏层:15个神经元
- 训练算法:贝叶斯正则化(trainbr)
- 学习率:0.001
3. SVR参数优化
- 贝叶斯优化:BoxConstraint、KernelScale、Epsilon
- 核函数:高斯核(RBF)
4. 权重优化
- 初始权重:[0.3, 0.4, 0.3]
- 优化器:fmincon(内点法)
七、运行环境要求
- MATLAB版本:R2020或更高
- 数据格式:Excel文件,多列特征+1列输出
八、应用场景
-
股票价格预测
-
电力负荷预测
-
销售量预测
-
设备剩余寿命预测
-
材料性能预测
-
能耗预测






