Liquid AI 发布 LFM2.5-1.2B-Thinking 端侧推理模型
原标题:LiquidAI/LFM2.5-1.2B-Thinking
AI 摘要
Liquid AI 发布 LFM2.5-1.2B-Thinking,一款面向端侧部署的 1.2B 参数通用推理模型,基于 LFM2 架构,预训练规模从 10T 扩展至 28T tokens 并加入多阶段强化学习。官方称其在 AMD CPU 上解码速度达 239 tok/s、移动 NPU 上 82 tok/s,内存占用低于 1GB,首日支持 llama.cpp、MLX 与 vLLM。模型支持 8 种语言、32K 上下文与函数调用,推荐用于 agent 任务、数据抽取和 RAG,不建议用于知识密集型任务与编程。
正文节选
--- library_name: transformers license: other license_name: lfm1.0 license_link: LICENSE language: - en - ar - zh - fr - de - ja - ko - es pipeline_tag: text-generation tags: - liquid - lfm2.5 - edge base_model: LiquidAI/LFM2.5-1.2B-Base new_version: LiquidAI/LFM3-1.7B --- <div align="center"> <img src="https://cdn-uploads.huggingface.co/production/uploads/61b8e2ba285851687028d395/2b08LKpev0DNEk6DlnWkY.png" alt="Liquid AI" style="width: 100%; max-width: 100%; height: auto; disp