Better RAG results with Reciprocal Rank Fusion and Hybrid Search

Artikeln beskriver hur Assembled förbättrade sin RAG-motor för kundsupport genom att övervinna begränsningarna med enbart vektorsökning. Lösningen involverade implementering av en hybrid sökinfrastruktur som kombinerar vektorsökning med nyckelordssökning för att förbättra resultatens relevans och noggrannhet. För att effektivt slå samman sökresultaten från olika motorer valde de Reciprocal rank fusion (RRF) på grund av dess enkelhet, robusthet och minimala behov av parameterjustering. En abstraktion för dokumentlagring utvecklades för att hantera flera sökaloritmer och säkerställa synkronisering mellan olika datalager med en "single source of truth" i PostgreSQL och S3. Implementeringen av RRF och hybrid sökning ledde till förbättrad noggrannhet och relevans i sökresultaten samt en förenklad och robust sökinfrastruktur för deras varierande kundbas.