返回全部动态
ViuAI 开源 500M 参数 DPO 对齐小模型 Sarus-500M
原标题：ViuAI/ViuAI-500M
AI 摘要
ViuAI Research 发布并开源了 ViuAI Sarus-500M，这是一个从零训练、经 SFT 与 DPO 对齐的 4.95 亿参数小型语言模型，采用 GQA、RoPE、RMSNorm 等架构，上下文长度 2048，模型体积约 944MB。该模型面向边缘设备和 CPU/GPU 轻量部署，提供 Apache-2.0 许可及免 transformers 的本地推理脚本。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
--- license: apache-2.0 language: - en tags: - viuai - sarus - sarus-500m - slm - small-language-model - pytorch - causal-lm - dpo - sft - edge-ai pipeline_tag: text-generation inference: false --- <div align="center"> # 🪶 ViuAI Sarus-500M ### *An Independent 500M-Parameter Small Language Model (SLM) Aligned with DPO* [](https://opensource.org/licenses/Apache-2.0) [![Parameters](https://img.shields.io/badge/Parameters-495M-
发布时间：2026-11-03 23:53
抓取时间：2026-10-31 18:00
来源机构：Hugging Face