Articles by Adithya S K

1 article

Run any Huggingface model locally - Adithya S K - Medium adithyask.medium.com 2024-05-08
Artikeln presenterar en guide för att kvantisera stora språkmodeller (LLMs) till GGUF-format för lokal körning, med fokus på effektivitet. Kvantise...