Unsloth 发布 DeepSeek-V4.1-Flash-1017 GGUF 量化版
原标题:unsloth/DeepSeek-V4.1-Flash-1017-GGUF
AI 摘要
Unsloth 在 Hugging Face 发布了 DeepSeek-V4.1-Flash-1017 的 GGUF 量化版本,基于 DeepSeek 官方的 DeepSeek-V4.1-Flash-1017 模型。该模型是 DeepSeek-V4.1-Flash 的小幅更新,在推理、编程、智能体任务和视觉基准上均有提升,同时缩短任务执行时间和输出长度,降低成本。Unsloth 提供 1-bit 到全精度的多种量化选项,并称相比其他方案推理速度最高提升 3 倍。
正文节选
--- license: mit pipeline_tag: image-text-to-text base_model: - deepseek-ai/DeepSeek-V4.1-Flash-1017 tags: - deepseek - deepseek_v41 - unsloth --- # Read our How to [Run DeepSeek-V4.1 Flash Guide!](https://unsloth.ai/docs/models/deepseek-v4.1-flash) <div> <p style="margin-top: 0;margin-bottom: 0;"> <em>See <a href="https://unsloth.ai/docs/basics/unsloth-dynamic-v3.0-gguf">Unsloth Dynamic 3.0 GGUFs</a> for our quantization benchmarks.</em> </p> <div style="display: flex; gap: 5px; align-i