NC-AI 联盟发布 VAETKI-100B-A10B 多语言 MoE 大模型
原标题：NC-AI-consortium-VAETKI/VAETKI
AI 摘要
NC-AI 联合 13 家机构组成的 NC-AI 联盟发布了 VAETKI-100B-A10B 大型语言模型，采用 MoE 架构，总参数 112.2B，激活参数 10.1B，支持韩、英、中、日四种语言，上下文长度 32k，基于 MIT 许可开源。该模型针对推理、知识应用和智能体场景设计，工具智能体任务使用非思考模式，其他任务使用思考模式，并经过人类偏好对齐。训练数据总量达 9.8T tokens，包括 NIA 支持的多语言和推理数据集。
正文节选
--- license: mit pipeline_tag: text-generation tags: - VAETKI - causal-lm language: - ko - en - zh - ja --- <p align="center"> [<a href="https://huggingface.co/nc-ai-consortium/VAETKI">🤗 Models</a>] | [<a href="https://github.com/wbl-ncai/VAETKI/tree/releases/v1.0.0">💻 Github</a>] | [<a href="https://github.com/wbl-ncai/VAETKI/blob/releases/v1.0.0/VAETKI_Technical_Report.pdf">📝 Technical Report</a>] </p> ## VAETKI 모델 소개 VAETKI는 NC-AI를 중심으로 총 13개 기관이 참여하는 NC-AI 컨소시엄에서 공동 개발한 대규모 언어 모델입니