OpenAI GPT-3 Text Embeddings - Really a new state-of-the-art in dense text embeddings?

Artikeln utvärderar OpenAI:s nya GPT-3 textinbäddningar och jämför deras prestanda, kostnad och praktiska användbarhet med öppna alternativ. Författaren fann att OpenAI:s modeller för textlikhet presterar sämre än både moderna och äldre öppna modeller, medan text-sökmodeller presterar bättre men inte är toppmoderna. GPT-3-inbäddningarna är betydligt dyrare och långsammare att använda, med höga driftskostnader jämfört med öppna lösningar. De genererar extremt högdimensionella inbäddningar, vilket kräver mer minne och saktar ner efterföljande applikationer, vilket gör dem opraktiska för storskaliga uppgifter.