Under 2024 har "GPT-4-barriären" brutits av många organisationer, med ett stort antal modeller som nu överträffar OpenAI:s ursprungliga GPT-4 i prestanda. Trots att LLM:er blivit mer avancerade, kan modeller i GPT-4-klass nu köras på personliga laptops, vilket visar på betydande framsteg inom modellernas effektivitet och prestanda. Priserna för att använda toppskiktets LLM:er har sjunkit dramatiskt under året, drivet av ökad konkurrens och förbättrad effektivitet, vilket gör dem mer tillgängliga och kostnadseffektiva. Artikeln belyser även framsteg inom kontextlängder (upp till 2 miljoner tokens) och multimodala förmågor, inklusive Videoinput, samt en diskussion om LLM:s miljömässiga påverkan.