返回全部动态

Granite-4.0-1B 大端量化版发布,支持 IBM Z 大型机

原标题:taronaeo/Granite-4.0-1B-BE-GGUF

Hugging Face New and Trending Models一手来源开源质量 54

AI 摘要

开发者 taronaeo 在 Hugging Face 发布了 Granite-4.0-1B-BE-GGUF,这是 IBM Granite-4.0-1B 的量化 GGUF 版本,并做了字节序转换,以便在 IBM Z 与 LinuxONE 大型机(s390x、z15/z16/z17)上运行。该仓库提供从 Q2_K 到 F32 的多种量化文件,并给出用 llama.cpp 的 llama-server 直接加载运行的命令。其影响是让 IBM 大型机平台也能本地部署轻量级指令模型。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

--- base_model: - ibm-granite/granite-4.0-1b license: apache-2.0 tags: - language - granite-4.0 - gguf - mainframe - s390x - z15 - z16 - z17 - big-endian base_model_relation: quantized quantized_by: taronaeo --- # Read our How to [Run on IBM Z & LinuxONE Guide!](https://github.com/ggml-org/llama.cpp/blob/master/docs/build-s390x.md) <div> <p style="margin: 0 0 0px 0; margin-top: 0px;"> <em>These models are byte-swapped to run on IBM Z & LinuxONE systems.</em> </p> <ul style="margin: 0;"> <li>M


发布时间:2026-11-07 18:22
抓取时间:2026-11-07 18:27
来源机构:Hugging Face
阅读原文huggingface.co