AMAImedia 发布 DeepSeek-V4.1-Flash FP8 GGUF 量化版
原标题:AMAImedia/DeepSeek-V4.1-Flash-FP8-GGUF
AI 摘要
AMAImedia 在 Hugging Face 发布了 DeepSeek-V4.1-Flash 的 FP8 GGUF 量化版本,基于 deepseek-ai/DeepSeek-V4.1-Flash 原始模型转换而来,属于 NOESIS 多语言配音自动化平台的一部分。该模型为 552B 参数的多模态 MoE 架构,支持百万级上下文,通过 CED 架构、CSA2 稀疏注意力与 FP4 KV 缓存将全局 KV 缓存压缩至约 890 字节/token。
正文节选
--- license: mit library_name: transformers pipeline_tag: image-text-to-text language: - en - ru - zh - vi - kk - ja - af - am - ar - as - ast - az - be - bg - bn - bs - ca - ceb - ckb - cs - cy - da - de - el - es - et - eu - fa - ff - fi - fil - fr - ga - gl - gn - gu - ha - he - hi - hr - hu - hy - id - ig - is - it - jv - ka - kam - kea - km - kmr - kn - ko - ky - lb - lg - ln - lo - lt - luo - lv - mi - mk - ml - mn - mr - ms - mt - mvy - my - ne - nl - "no" - nso - ny - oc - om - "or" - pa