Tools
Alle Skills, MCP-Server, CLIs und Plugins des Verzeichnisses. Nach Typ, Beruf oder Tag filtern oder per Stichwort suchen.
Beruf: Full-stack / Indie +1
Einen oder mehrere wählen: Angezeigt werden Ressourcen, die zu einem davon passen.
Tags: llama-cpp
Einen oder mehrere wählen: Angezeigt werden nur Ressourcen, die alle tragen.
2 Einträge
llama.cpp
CLILocal LLM inference engine in plain C/C++ with a command-line chat and an OpenAI-compatible HTTP server; pulls and runs GGUF models straight from Hugging Face. Supports Apple Silicon, CUDA, Vulkan and other hardware, plus low-bit quantization.
ggml-org/llama.cpp131k
llmfit
CLIDetects your CPU, memory and GPU and scores open models on whether they run, speed, quality and context, then works with local runtimes like Ollama, llama.cpp and MLX to download and benchmark them. recommend --json gives agent-friendly output.
AlexsJones/llmfit38k