AtomicChat 发布 Ripple-65B Preview 的 GGUF 量化版本
原标题:AtomicChat/Ripple-65B-Preview-GGUF
AI 摘要
AtomicChat 发布了 Ricursive Intelligence 从零训练的 65B 稠密模型 Ripple-65B Preview 的首个 GGUF 量化版本,并为其编写了 llama.cpp 支持(已合并至上游 b12167)。该仓库提供从 BF16 到 1-bit 级的多档量化文件,并给出 KLD 与 top-token 一致率等评测数据,方便用户在本地运行这一面向 agentic coding 的 Apache-2.0 模型。
正文节选
--- base_model: ricursiveAI/Ripple-65B-Preview base_model_relation: quantized quantized_by: AtomicChat pipeline_tag: text-generation library_name: gguf license: apache-2.0 tags: - gguf - llama.cpp - ripple - ricursiveai - quantized - conversational - agentic-coding - atomic-chat --- # How to Run Ripple-65B Preview Locally <p style="margin-top: 0; margin-bottom: 0;"> <em>The first GGUF of Ricursive's Ripple-65B Preview. We wrote its llama.cpp support, merged upstream in b12167. Built from ricu