前言:
bev鸟瞰图模型 、 classification分类模型、 detection检测模型、disparity_pred深度估计模型、multitask多任务模型、online_map在线建图模型、opticalflow光流模型、segmentation分割模型、tracking追踪模型、traj_pred轨迹预测等
BEV鸟瞰图模型

1. 视图转换类(CNN 基)
- LSS(Lift-Splat-Shoot):BEV 感知开山之作。先从多视图图像预测深度分布,将 2D 特征 “提升” 为 3D 体素,再 “散开” 到 BEV 空间,最后通过卷积 “射击” 生成 BEV 特征。
- ✅ 优点:原理清晰、稳定、工程友好;
- ❌ 缺点:深度估计误差直接影响投影精度。
- BEVDet:基于 LSS 的检测专用框架,分 v1/v2/v3 系列,适配不同算力。
- ✅ 优点:部署成熟、支持多任务头;
- ❌ 缺点:时序融合弱于 Transformer 类。
- BEVDepth:改进 LSS 深度估计,显式建模深度不确定性,提升远距小目标表现。
- ✅ 优点:纯视觉下精度提升明显;
- ❌ 缺点:深度分支训练成本略高。
2. Query 类(Transformer 基)
- BEVFormer:标杆性 Query 模型。在 BEV 空间预设 Query,通过变形注意力(Deformable Attention)从多视图图像中稀疏采样聚合特征,天然支持时序融合。
- ✅ 优点:时序感知强、多任务统一、精度领先;
- ❌ 缺点:算力高于 CNN 类,部署需优化。
- BEVFormerV2:升级版,增强主干网络监督与数据增强,提升收敛速度与精度。
- ✅ 优点:适配大规模数据,支持多模态;
- ❌ 缺点:训练资源需求更高。
- DETR3D:将 3D 检测视为集合预测,直接从 BEV Query 生成 3D 框,端到端训练。
- ✅ 优点:无锚框设计,适合复杂场景;
- ❌ 缺点:收敛慢,算力消耗大。
3. 多传感器融合类
- BEVFusion:统一 BEV 空间,将相机与激光雷达特征对齐后融合。分特征级融合(主流)与点云 – 图像级融合,支持动态权重分配。
- ✅ 优点:鲁棒性强,雨天 / 遮挡表现好;
- ❌ 缺点:激光雷达硬件成本高。
- Sparse4D:稀疏张量 + 原始数据前融合,端到端训练,提升融合效率。
- ✅ 优点:计算量低、实时性强;
- ❌ 缺点:工程实现复杂。
- BEV-SAN:空间自适应注意力融合,为 BEV 每个位置动态分配相机 / 激光权重。
- ✅ 优点:场景自适应强,解决固定权重泛化差问题;
- ❌ 缺点:推理略慢。
4. 4D 占用 / 端到端类
- Occ-BEV:BEV + 占用预测,输出 3D 体素占据网格,支持语义与实例分割。
- ✅ 优点:支持异形物体、长尾场景;
- ❌ 缺点:体素化计算量大。
- Tesla Occupancy Network:特斯拉量产方案,基于 BEV+Transformer 预测体素占用,替代传统 3D 检测。
- ✅ 优点:全链路高效、适配高阶智驾;
- ❌ 缺点:依赖车载大算力平台。
- UniAD:端到端模型,将感知、预测、规划统一为单网络。
- ✅ 优点:减少模块延迟,响应速度快;
- ❌ 缺点:训练与调试复杂。
选型建议(按场景)
2025–2026 前沿方向
- 稀疏与高效:SparseBEV、Sparse4D(全稀疏架构,兼顾精度与实时性)。
- Mamba 替代 Transformer:MambaBEV(用 SSM 替代注意力,降低算力与内存)。
- 端到端一体化:UniAD、XNet 2.0(感知→预测→规划单网络)。
- 自监督 / 弱监督:SelfBEV、WeakBEV(降低标注成本,实车数据闭环)。
Classification分类模型
1、经典 CNN 分类模型
2、Transformer 分类模型
3、轻量高效(适合部署 / 量化)
- MobileOne
- MobileViT
- EfficientNet-Lite
- RepVGG(重参数化,训练多分支,推理单路)
- MobileDense
- ShuffleNetV2
4、2025–2026 最新主流
- Mamba / VMamba(视觉状态空间模型,速度快)
- MetaFormer(PoolFormer、ConvFormer)
- EdgeNeXt
- MobileSAM 配套轻量分类头
5、最简单直接的选型建议
- 通用稳定:ResNet50
- 高精度:EfficientNetB4 / Swin-T
- 移动端 / 嵌入式:MobileNetV3 / MobileViT
- 科研 SOTA:ConvNeXt / Swin Transformer
- 超快推理:RepVGG / MobileOne
检测模型
1、两阶段检测(精度高,速度慢)
2、单阶段检测(速度快,工程首选)
Anchor-based
Anchor-free
3、YOLO 全家桶(最主流、最实用)
- YOLOv5(工程部署最多)
- YOLOv6(美团,速度精度均衡)
- YOLOv7
- YOLOv8(目前最通用、最易用)
- YOLOv9
- YOLOv10(极致速度)
- YOLOv11(最新 SOTA)
- YOLO-World(开放词汇检测)
4、Transformer 检测(SOTA 精度)
5、轻量化检测(边缘 / 嵌入式 / 量化)
- YOLOv8-n/s/m
- MobileNet-SSD
- MobileDets
- PP-YOLOE(百度飞桨轻量)
- YOLO-Pose(姿态 + 检测轻量)
6、3D / BEV 检测(自动驾驶)
- BEVDet
- BEVFormer
- DETR3D
- FCOS3D
- CenterPoint(激光雷达)
7、最简单直接选型(直接照抄)
- 通用项目、快速落地:YOLOv8 / YOLOv11
- 高精度、不计速度:Cascade R-CNN / DINO
- 边缘端、量化部署:YOLOv8-n/s / MobileDets
- 自动驾驶、BEV:BEVFormer / BEVDet
- 激光雷达 3D 检测:CenterPoint
分割模型:
按语义分割 / 实例分割 / 全景分割 / 轻量分割 / 3D/BEV 分割分。
1、语义分割(Semantic Segmentation)
给每个像素分类别(道路、人、车、天空等)
2、实例分割(Instance Segmentation)
把每个物体单独抠出来(每个人、每辆车)
3、全景分割(Panoptic Segmentation)
语义 + 实例一起做(东西 + Stuff)
4、实时 / 轻量分割(边缘、量化、移动端)
5、自动驾驶 / BEV 分割
6、直接给你最强选型(照抄就行)
- 医学影像:U-Net++
- 通用语义分割:SegFormer / SegNext
- 工程快速落地:YOLOv8-seg
- 自动驾驶道路分割:BiSeNetV2 / DeepLabv3+
- 全景 / 多任务一体:Mask2Former
- 边缘端 + 量化:MobileSeg / BiSeNetV2
- BEV / 占用预测:BEVFormer / Occ-BEV
disparity /depth 预测
深度估计模型,分双目视差(disparity)、单目深度(depth)、实时 / 轻量 / 可量化三类
1、双目视差 Disparity 模型(输出 disparity)
这类模型专门做双目匹配 → 视差图,最适合 disparity_pred。
2、单目深度估计模型(输出 depth map)
不做 disparity,直接输出深度值,但很多结构可改输出视差。
3、实时 / 轻量 / 可量化模型(适合 OpenExplorer 量化)
适合INT8 量化、BPU / 嵌入式部署:
- StereoNet
- MobileStereoNet
- AnyNet
- CFNet
- Lite-Mono
- MobileDepth
4、最优路线:
- 高精度:PSMNet / GwcNet / RAF-Stereo
- 工程 / 量化友好:StereoNet / MobileStereoNet
- 最简单快速:AnyNet
multitask多任务模型
1、通用多任务架构(Backbone + 多任务头)
最常见:一个主干,多个检测 / 分割 / 深度 / 分类头。
2、自动驾驶 / BEV 多任务(最常用)
3、2D 视觉多任务(检测 + 分割 + 深度 + 关键点)
4、轻量多任务(适合量化、边缘、OpenExplorer)
5、多任务训练范式(决定你怎么训)
6、最强落地选型(照抄)
- 自动驾驶 BEV 多任务:BEVFormer / BEVFusion
- 2D 检测 + 分割 + 姿态:YOLOv8 / YOLOv11 multi-task
- 高精度分割全家桶:Mask2Former / OneFormer
- 边缘 / 量化 / 低算力:MobileNet + 多任务头 / BiSeNet
- 端到端智驾:UniAD
多个个任务一起做,比如:
- 检测 + 分割
- 检测 + 深度视差(disparity)
- BEV 3D 检测 + 语义分割
opticalflow光流模型
1、深度学习光流模型(最常用)
1). 经典高精度
- FlowNet / FlowNet2光流深度学习开山,精度一般,速度慢。
- PWC-Net金字塔 + 代价体积,轻量化、精度高、工业最常用。
- RAFT迭代优化,目前精度天花板,非常稳。
- GMA基于 RAFT 加注意力,精度更高。
- GMFlow全局匹配 + Transformer,精度接近 RAFT,速度更快。
2). 实时 / 高速光流
- LiteFlowNet轻量 PWC-Net,速度快。
- FastFlowNet实时高精度,适合嵌入式。
- CSR-Flow上下文空间精炼,速度快。
- ROF实时光流,边缘部署友好。
3). 2025–2026 最新 SOTA
- GMFlow++
- MatchFlow
- UniMatch
- RAFT-Stereo(也能做光流)
2、传统光流算法(不用训练,直接跑)
- Lucas–Kanade(LK 光流)
- Horn–Schunck
- Farnebäck
- SIFT Flow
工程上一般只用来做对比 / 初始化,精度远不如深度学习。
3、适合 OpenExplorer 量化、嵌入式部署
最推荐 3 个:
RAFT/GMA 因为有循环 / 迭代,量化难度高,不太适合 BPU。
4、最简单直接选型
- 要精度最高:RAFT / GMFlow
- 要工程落地 + 量化:PWC-Net
- 要实时嵌入式:LiteFlowNet / FastFlowNet
- 做自动驾驶 / BEV 时序:PWC-Net 或 GMFlow
Track追踪模型
分单目标 / 多目标 / 2D / 3D / BEV 跟踪,直接给你能选的那种。
1、单目标追踪 SOT(Single Object Tracking)
给初始框,一直跟着它
2、多目标追踪 MOT(Multi-Object Tracking)
同时跟踪多人 / 多车,最常用在自动驾驶、安防
1). 传统关联(检测 + 卡尔曼 + 匈牙利)
2). 基于外观特征
3). 端到端 MOT(Joint Detect + Track)
3、2D 检测 + 跟踪一体化(工程落地最强)
4、3D 追踪 / 自动驾驶 Tracking
5、BEV 跟踪(时序多目标追踪)
6、适合 OpenExplorer 量化、嵌入式部署
这些结构干净、无复杂循环、好转 ONNX、好量化 INT8:
- DeepSORT
- ByteTrack
- FairMOT
- YOLOv8/v11 Track
- FastReID、OSNet
7、 最强选型(照抄就行)
- 通用 2D 多目标:ByteTrack / BotSort
- 工程最快落地:YOLOv8 + ByteTrack
- 嵌入式 / 量化:DeepSORT + YOLOv8-n/s
- 自动驾驶 3D/BEV:BEVFormerTrack / PETR-Track
- 轻量 ReID:OSNet、FastReID



