Auto-GPTQ
Easy-to-use LLM quantization package based on GPTQ — 4-bit weights, tiny memory footprint.
Tags
Open Source · Free · Local · Self-Hostable · Offline · 2026 · Auto-GPTQ · open source ai · free ai tool · local ai · local model · privacy
Easy-to-use LLM quantization package based on GPTQ — 4-bit weights, tiny memory footprint.
Open Source · Free · Local · Self-Hostable · Offline · 2026 · Auto-GPTQ · open source ai · free ai tool · local ai · local model · privacy