LLM Inference GitHub Trending 热门项目

基于 2026-02-13 榜单，共收录 4 个与 LLM Inference 相关的热门仓库。

大模型推理、服务化部署与模型应用。

LLM Inference 相关仓库

提供93+个AI工程实践项目，涵盖LLMs、RAG、AI代理等技术的教程与实战案例，包含从OCR识别到智能对话系统的多种应用场景，适合不同技能层级的开发者学习和项目开发。

语言：Jupyter Notebook · 总 Stars：29,278 · 今日新增：+386

整理了多个提供免费LLM API资源的服务商，包含模型列表、使用限制及试用额度信息，帮助开发者低成本访问大语言模型推理服务。

语言：Python · 总 Stars：10,607 · 今日新增：+442

该项目是O'Reilly书籍《Hands-On Large Language Models》的配套代码库，包含12章实践案例，涵盖语言模型基础、Transformer结构、文本生成、多模态模型等主题，通过Jupyter Notebook形式提供可运行代码与可视化示例。

语言：Jupyter Notebook · 总 Stars：21,145 · 今日新增：+318

slime是面向LLM强化学习训练的后处理框架，提供高性能多模式训练和灵活数据生成能力，支持Megatron与SGLang高效集成，适配多种大模型训练需求。

语言：Python · 总 Stars：4,069 · 今日新增：+85