Hugging Face Blog·· 10 天前精选
SLM 词汇专门化可在实际应用中将推理成本降低 77%
How Specializing the Vocabulary of SLMs Can Cut Inference Cost by 77% in Real Applications
原始来源：Hugging Face Blog阅读原始报道
AI 导读
文章介绍了 VocabX 方法，通过专门化词汇将 SLM 推理成本降低 77%。在 Portuguese essay grader 实验中，模型的平均输出 token 数从 350 降至 101，基于 Qwen3-4B 的基座模型在不改变权重的情况下实现成本大幅下降。
推荐理由
文章展示了如何通过专门化词汇显著降低 SLM 推理成本，并提供了具体的实验数据和方法论，读者可直接了解成本优化的关键技术点。
来源：Hugging Face Blog · huggingface.co