多任务权重流形融合:SLERP 球形线性插值、DARE 稀疏剪枝与多专家模型融合落地
专栏名称:《QNL-36:从量子张量网络到端侧异构认知大模型全栈实战》 分卷归属:卷五·流形融合、DPO 对齐与量化感...
专栏名称:《QNL-36:从量子张量网络到端侧异构认知大模型全栈实战》 分卷归属:卷五·流形融合、DPO 对齐与量化感...
专栏名称:《QNL-36:从量子张量网络到端侧异构认知大模型全栈实战》 分卷归属:卷三·核心网络拓扑、MoE与超长上下...
2026年9月,端侧AI正在从\"能跑\"走向\"好用\"。iPhone 18的NPU标称45TOPS,骁龙8 Gen4的Hexag...
2026年9月,端侧AI正在从\"能跑\"走向\"好用\"。iPhone 18的NPU标称45TOPS,骁龙8 Gen4的Hexag...
1. 项目背景与目标定义 在端侧设备上部署大语言模型,一直是团队降本增效的重要方向。过去一年,我们围绕一款面向移动端的智能助手产品&...
ShaRP 论文总结与核心部分翻译 一、文章主要内容 该研究聚焦视频大型语言模型(VLLMs)预填充阶段的高计算负载问题,核心挑战是浅层解码器层的视觉令牌剪...
086、YOLOv11改进-TensorRT FP16/INT8加速部署全流程——即插即用加速模块实现实时检测帧率提升3倍 一、从一次线上事故说起 去年年底...
一、论文基本信息 论文题目:Analyzing Multi-Head Self-Attention: Specialized Heads Do ...
模型剪枝:非结构化剪枝与结构化剪枝的探索 在人工智能领域,模型剪枝作为一种重要的技术手段,正逐渐成为优化模型性能、减少...
核心结论 模型剪枝不是把一些参数设成 0 这么简单,而是把训练好的模型改造成更小、更快或更省显存的部署形态。真正的收益取决于四件事:...