FastLLM
Pure C++ LLM inference library — high performance CPU/GPU, no dependencies.
Tags
Open Source · Free · Local · Self-Hostable · Offline · 2026 · FastLLM · open source ai · free ai tool · local ai · local model · privacy
Pure C++ LLM inference library — high performance CPU/GPU, no dependencies.
Open Source · Free · Local · Self-Hostable · Offline · 2026 · FastLLM · open source ai · free ai tool · local ai · local model · privacy