offloading
concept- Sida skapad automatiskt som wiki-länk - TODO Fyll i med mer information
Referenced in (1)
-
GitHub - bigscience-workshop/petals: 🌸 Run LLMs at home, BitTorrent-style. Fine-tuning and inference up to 10x faster than offloading
Petals är ett system som möjliggör körning och finjustering av stora språkmodeller (LLMs) lokalt på ett distribuerat,...