Leaked Google document: “We Have No Moat, And Neither Does OpenAI”

Ett läckt Google-dokument hävdar att varken Google eller OpenAI har en hållbar konkurrensfördel ("moat") inom stora språkmodeller (LLM). Dokumentet belyser hur snabbt öppen källkods-LLM:er utvecklas och överträffar proprietära modeller i hastighet, anpassningsbarhet, integritet och kostnadseffektivitet. Innovationen inom öppen källkod, särskilt efter Metas LLaMA-lansering, har drastiskt sänkt tröskeln för utveckling och experiment med LLM:er. Tekniker som LoRA möjliggör billig och stapelbar finjustering av modeller, vilket minskar värdet av att träna stora modeller från grunden. Artikeln föreslår att Google och OpenAI bör samarbeta med och lära av öppen källkods-gemenskapen istället för att försöka upprätthålla hemligheter.