GitHub - run-llama/llama_deploy

llama-agents är ett asynkront ramverk designat för att bygga, iterera och produktionssätta multi-agentsystem. Systemet är uppbyggt kring agenter som tjänster, en meddelandekö för kommunikation, en kontrollplan för uppgiftshantering och en orkestrator som dirigerar uppgifter mellan tjänster. Ramverket erbjuder flexibilitet med stöd för både lokal utveckling (notebook-flöde) för snabb iteration och serverbaserad distribution för högre genomströmning och skalbarhet. Installation sker enkelt via pip och det integrerar med LLM:er som OpenAI för att fatta agentbeslut, med betoning på tillförlitligheten hos API:er som stöder funktionsanrop. Viktiga komponenter inkluderar meddelandekön, kontrollplanen, orkestratorn (som kan vara agentisk eller explicit) och tjänster där det faktiska arbetet utförs, inklusive specialiserade verktygstjänster.