bge-small-en-v1.5 的 MNN fp16 端侧转换版发布
原标题：darkmaniac7/bge-small-en-MNN
AI 摘要
开发者 darkmaniac7 在 Hugging Face 发布了 BAAI/bge-small-en-v1.5 的 MNN fp16 格式转换版本，用于 TokForge 应用在 Android、Linux、iOS 上的端侧推理。该转换通过 MNNConvert 将源仓库的 ONNX 图重新序列化，使嵌入与 LLM 推理统一到单一 MNN 运行时，从而移除对 GGUF/llama.cpp 的依赖。在 300 个文本块、20 条查询的合成检索基准上，其 Recall@1/3/5/10 与 GGUF 基线完全一致，MRR 为 0.7653 对 0.7659，跨模型逐块余弦相似度均值 0.9962，未出现可测量的检索性能退化。
正文节选
--- license: mit language: - en tags: - mnn - embedding - sentence-similarity - bge - bert base_model: BAAI/bge-small-en-v1.5 base_model_relation: quantized pipeline_tag: feature-extraction --- ## TokForge - **Website:** https://tokforge.ai - **Discord:** https://discord.gg/Acv3CBtfVm - **Google Play:** https://play.google.com/store/apps/details?id=dev.tokforge - **iOS TestFlight:** https://testflight.apple.com/join/jnufjzRr Runs on-device in the TokForge app. # bge-small-en-v1.5 — MNN forma