挑战1比特：ETH学者秦浩桐提出极限量化方法压缩大模型

AI 摘要

在IJCAI 2026大会上，苏黎世联邦理工学院博士后秦浩桐介绍了其团队在极低比特量化领域的两项工作BiLLM和SqueezeLLM，分别实现了1比特和2比特的后训练量化，显著压缩大模型体积并保持可用性。他同时指出了低比特量化面临的三大挑战，包括复杂任务性能折损、硬件支持不足以及激活值和KV Cache的量化难题。

正文节选

0 编辑丨岑峰 在 AGI 的狂飙之路上，大语言模型（LLM）正以一种近乎野蛮的“规模法则（Scaling Law）”吞噬着算力与数据。然而，当这些拥有千百亿参数的硅基大脑试图从云端降临到手机、汽车甚至植入式医疗设备时，却撞上了一堵难以逾越的“内存墙”：过去几年，模型参数规模的暴涨速度，惊人地达到了底层硬件内存容量增长速度的 20 倍。 在刚刚于德国不莱梅开幕的 IJCAI 2026 大会上，AI科技评论注意到，学术界与工业界正在达成共识：寄希望于摩尔定律或下一代芯片的发布来填平这 20 倍的算力鸿沟，已是痴人说梦。唯一的出路，是向模型的数据表示方式“动刀”。 来自苏黎世联邦理工学院Center for Project-Based Learning 的博士后、即将履新香港理工大学的秦浩桐，在首日的“Generalizing from Limited Resources in the Open World”主题 Workshop 中，给出了一个创新解法：挑战无需重新训练的“后训练量化（PTQ）”极限，将庞大的 LLM 强行压缩至极端的 1 比特与 2 比特。 作为近年来在模型压缩领域的代

发布时间：2026-08-19 18:38

抓取时间：2026-08-19 20:45

来源机构：雷峰网