Tri stratégie RAG: riedke, husté a hybridné

V dnešnej dobe je Retrieval Augmented Generation (RAG) kľúčovou technológiou v oblasti AI. Umožňuje jazykovým modelom pristupovať k rozsiahlym znalostným zdrojom a generovať presné a relevantné odpovede. Ale ako si vybrať správnu stratégiu pre získavanie informácií (retrieval) v RAG systéme? V tomto článku sa pozrieme na tri najlepšie stratégie: riedke, husté a hybridné, a zistíme, kedy je každá z nich najvhodnejšia.

Čo je to vlastne RAG?

Predtým, ako sa ponoríme do detailov stratégií pre získavanie informácií, krátko si pripomeňme, čo RAG znamená. Predstavte si jazykový model (LLM) ako veľmi inteligentného študenta, ktorý však nevie všetko. RAG mu umožňuje "študovať" relevantné dokumenty a na základe nich odpovedať na otázky. Funguje to takto: používateľ zadá otázku, systém vyhľadá v databáze relevantné informácie a tieto informácie potom poskytne LLM spolu s otázkou. LLM následne vygeneruje odpoveď založenú na týchto informáciách.

Tri hlavné stratégie pre získavanie informácií (Retrieval)

Video od IBM Technology predstavuje tri najpopulárnejšie stratégie pre získavanie informácií v RAG systémoch: riedke, husté a hybridné. Každá z nich má svoje silné a slabé stránky a je vhodná pre rôzne scenáre.

1. Riedenka (Sparse) Retrieval – Klasika s presnosťou

Riedka metóda je najstaršia a zároveň základná stratégia, ktorá sa používa už vyše 50 rokov. Funguje na základe kľúčových slov a ich frekvencie v dokumentoch. Používa algoritmy ako TF-IDF (Term Frequency-Inverse Document Frequency) alebo BM25. Čím častejšie sa kľúčové slovo z otázky vyskytuje v dokumente, tým vyššie je jeho skóre.

Výhody:

• Jednoduchá a rýchla implementácia
• Škálovateľná pre veľké databázy
• Nízke náklady (nepotrebuje embeddingy)

Nevýhody:

• Neberie do úvahy synonymá alebo kontext. Ak použijete iné slovo ako je v dokumente, vyhľadávanie nemusí priniesť relevantné výsledky.
• Môže mať problémy s neštandardnými frázami a žargónmi.

Kedy ju použiť?

Riedka metóda je ideálna pre situácie, kde je dôležitá presnosť a zodpovedajúce kľúčové slová: vyhľadávanie v kóde, logoch, právnych zmluvách alebo krátke, dobre definované otázky.

2. Hustá (Dense) Retrieval – Sémantické porozumenie

Hustá metóda je oveľa novšia a vychádza z princípov sémantického vyhľadávania. Dokumenty aj otázky sú prevedené do vektorového priestoru pomocníctvom tzv. embedding modelov. Tieto modely premenia text na číselné vektory, ktoré reprezentujú jeho význam. Podobné významy majú vektory blízko seba v tomto priestore.

Výhody:

• Rozumie kontextu a synonymám
• Vhodná pre chatboty a vyhľadávanie v neštrukturovaných dátach
• Silná a kontextovo uvedomelá

Nevýhody:

• Môže prehliadnuť zriedkavé alebo špecifické termíny.
• Nie je vhodná pre krátke otázky.
• Vyžaduje výpočtovo náročnejšie embedding modely.

3. Hybridné (Hybrid) Retrieval – Najlepšie zo sveta

Hybridná metóda kombinuje riedku a hustú stratégiu, čím získava ich silné stránky a minimalizuje slabé miesta. Vyhľadávanie prebieha paralelne dvoma spôsobmi: pomocou kľúčových slov (riedka) a pomocou sémantickej podobnosti (hustá). Výsledky z oboch vyhľadávaní sú potom skombinované pomocníctvom fúzneho algoritmu.

Výhody:

• Kombinuje presnosť riedkej metódy so sémantickým porozumením hustej metódy
• Vysoká presnosť a recall (získavanie relevantných informácií)
• Flexibilná pre rôzne typy dát a otázok

Nevýhody:

• Komplexnejšia implementácia ako riedka alebo hustá metóda.
• Vyžaduje viac výpočtových zdrojov.

Kľúčové poznatky

• RAG je kľúčová technológia pre zlepšenie presnosti a relevantnosti odpovedí jazykových modelov.
• Výber správnej stratégie pre získavanie informácií (retrieval) je kritický pre výkon RAG systému.
• Riedka metóda je rýchla a presná, ale nevie pracovať so synonymami.
• Hustá metóda rozumie kontextu, ale môže prehliadnuť zriedkavé termíny.
• Hybridná metóda kombinuje výhody oboch predchádzajúcich stratégií a je aktuálne považovaná za najlepšiu voľbu pre seriózne RAG implementácie.

Záverečné úvahy

Výber správnej stratégie pre získavanie informácií v RAG systéme závisí od konkrétnych potrieb a charakteristík dát. Hybridná metóda sa ukazuje ako najuniverzálnejšia a najefektívnejšia, preto je logické, že ju čoraz viac tímov uprednostňuje. Experimentujte s rôznymi stratégiami a nájdite tú, ktorá najlepšie vyhovuje vašim potrebám!

Dôležité odkazy

• IBM Watsonx Generative AI: https://ibm.biz/BdbX3c
• RAG (Retrieval Augmented Generation): https://ibm.biz/BdbX32

Približne 133 gCO₂ bolo uvoľnených do atmosféry a na chladenie sa spotrebovalo 0.67 l vody za účelom vygenerovania tohoto článku.