Agent 开发资源导航

面向复杂推理任务的开放模型与研究仓库，适合作为自托管 Agent 的推理核心。

面向大模型压缩、部署与服务的工具箱，提供 TurboMind、量化和 OpenAI 兼容服务。

高吞吐、显存友好的 LLM 推理与服务引擎，提供 OpenAI 兼容接口与生产级扩展能力。

在 Apple Silicon 上运行与微调大语言模型的 MLX 工具包，适合 Mac 本地推理和轻量实验。

本地优先的多模态 AI 引擎，以 OpenAI、Anthropic 等兼容 API 统一 36+ 推理后端，并内置 RAG、MCP、Skills 与 Agent。

面向大模型与多模态模型的高性能服务框架，强调结构化生成、缓存与集群吞吐。

阿里云通义千问团队的开放权重模型家族，覆盖推理、工具调用、多语言与本地部署。

用统一命令在本机拉取、运行和管理开放模型，适合原型、离线应用与开发者工作站。

NVIDIA 面向 GPU 大模型推理的优化运行时，覆盖量化、并行、KV Cache 与高吞吐服务。

以 C/C++ 实现的高效本地推理引擎，支持 GGUF、CPU/GPU 混合加速和多平台部署。