ONNX Runtime GenAI
Microsoft's ONNX runtime with generative AI extensions for fast local LLM inference on any hardware.
Tags
Open Source · Free · Local · Self-Hostable · Offline · 2026 · ONNX Runtime GenAI · open source ai · free ai tool · local ai · local model · privacy