RAG v praxi: kedy sa oplatí a kedy nie
Retrieval-Augmented Generation bez hype — čo naozaj rieši a čo nie.
RAG = model + vyhľadávanie v tvojich dátach. Namiesto toho, aby model „vedel” všetko, mu do promptu priložíš relevantné úryvky.
Kedy áno
- Máš veľkú, meniacu sa znalostnú bázu (dokumentácia, tickety, wiki).
- Potrebuješ odpovede podložené zdrojmi.
- Chceš znížiť halucinácie pri faktických otázkach.
Kedy je to overkill
- Malý, statický obsah sa zmestí priamo do kontextu — netreba pipeline.
- Úloha je o štýle/uvažovaní, nie o faktoch.
Typické úskalia
Kvalita RAG stojí a padá na chunkovaní a kvalite retrievalu. Zlé rozdelenie textu = model dostane útržky bez kontextu.