Tool support · Ollama Blog

Ollama har nu lanserat stöd för verktygsanrop (Tool calling) för populära modeller som llama 3.1, vilket möjliggör mer komplexa uppgifter och interaktion med omvärlden. Den nya funktionen tillåter modeller att använda externa verktyg som funktioner, API:er, webbläsning och kodtolkar för att svara på prompts. Verktygsanrop aktiveras via Ollamas API, med exempelkoder i Python som visar hur man integrerar verktyg och hanterar svar, inklusive kompatibilitet med OpenAI:s slutpunkt. Stöd finns för modeller som llama 3.1, Mistral Nemo och Firefunction v2, och framtida förbättringar inkluderar streaming av verktygsanrop och tvingande verktygsval.