工具集

高吞吐的大模型推理与服务引擎：vllm serve 一条命令启动兼容 OpenAI 与 Anthropic 接口的服务，支持 Hugging Face 上 200 多种模型架构、量化与分布式推理。主要面向 NVIDIA、AMD 等 GPU 环境。

NVIDIA 官方认证技能目录，收录数百个技能，覆盖 CUDA-X 加速库、NeMo 训练、NIM 与 Dynamo 推理部署、RAG 蓝图、Jetson、Omniverse 与机器人仿真。安装命令只装 nvidia-skill-finder，由它按需推荐其余技能，经用户确认后再安装。