返回全部动态
基于ONNX的量化分析工具助力高效AI模型部署
原标题:Efficient AI Model Deployment Using Quantization Analysis Tool
AI 摘要
马里兰大学的研究者提出 Quantization Analysis Tool,一个基于 ONNX 框架的量化分析工具,用于简化 AI 模型量化工作流。该工具提供逐层敏感度分析、权重与激活分布可视化,帮助开发者识别对低精度敏感或鲁棒的层,从而在模型大小、延迟与精度之间做出权衡。实验表明该工具能有效提升量化后精度,改善边缘设备部署效率。
以上摘要由 AI 生成,可能存在误差。事实请以原文为准。
正文节选
[Page 1] Efficient AI Model Deployment Using Quantization Analysis Tool Dwith Chenna Electrical and Computer Engineering Department University of Maryland College Park, MD, USA cyndwith@ieee.org
发布时间:2026-09-14 12:00
抓取时间:2026-09-14 12:07
来源机构:arXiv