返回全部动态

高通高管谈2bit量化与HBC技术:性价比优于HBM,已与中国厂商合作

原标题:对话高通工程技术高级副总裁:HBC性价比优于HBM,2bit量化已与中国厂商合作

智东西商业质量 77

AI 摘要

高通工程技术高级副总裁侯纪磊在圣迭戈总部与媒体交流,介绍了高通在2bit量化感知训练(QAT)方案上的进展,已与部分中国厂商合作。他还详解了高带宽计算(HBC)技术,相比HBM具有性价比优势,有效内存带宽提升显著。高通正推动端云协同的智能体体验,并与模型厂商深度适配形成参考方案。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

智东西(公众号:zhidxcom) 作者 | ZeR0 编辑 | 漠影 智东西8月30日报道,本周,在高通美国圣迭戈总部,高通技术公司工程技术高级副总裁侯纪磊与智东西等媒体进行深入交流,围绕2bit量化瓶颈与应用潜力、高带宽计算(HBC)技术的优势及进展、端云协同的智能体体验如何实现等话题展开分享。 侯纪磊博士负责领导高通AI工程技术团队,这个部门包含研发、系统、商用软件、面向开发者的AI平台等若干团队,旨在保证强有力的端到端功能。 他谈道,AI研发与产品必须保持强耦合,两者之间需要形成一个“飞轮”,研发驱动产品、产品反哺研发,只有这样,整个体系才能有生命力。在AI领域,研发的意义不仅仅是做出一些炫酷的技术,更重要的是推动产品快速落地。 设备端模型需要在满足功耗和内存限制的前提下,追求更高推理性能。侯纪磊告诉智东西,高通在2bit量化感知训练(QAT)方案上走在行业前沿,已与部分中国厂商合作。在他看来,要解决2bit量化精度损失问题,关键在于用实际用例数据做匹配。 据他分享,高通内部做了一些评估,30B左右的模型在ARC-AGI-3等复杂基准测试上已表现得相当好。面向个人、家庭、私有化


发布时间:—
抓取时间:2026-08-31 01:09
来源机构:智东西
阅读原文zhidx.com