Co je RAG a jak funguje firemní znalostní báze založená na umělé inteligenci
Jednoduše řečeno, Retrieval-Augmented Generation: jak přimět AI, aby odpovídala na základě vašich dokumentů — bez úniků dat a halucinací.
Stručně, když nemáte čas číst vše
- ✓RAG umožňuje modelu pracovat s aktuálními soukromými soubory bez drahého fine-tuningu.
- ✓Dokumenty jsou rozděleny na fragmenty a uloženy jako hodnotové vektory.
- ✓Model odpovídá striktně na základě nalezeného kontextu a poskytuje odkazy na konkrétní body v dokumentu.
- ✓Důvěrná data se nedostanou do veřejných tréninkových datových sad.
Když se firma rozhodne vytvořit interního asistenta pro zaměstnance nebo zákazníky, první myšlenka obvykle bývá: „naučit model na našich souborech“. Jenže klasické doučování modelu (Fine-tuning) je drahé a pomalé. Stačí změnit jediný předpis nebo cenu — a model se musí znovu přeučit, přičemž zaplatíte tisíce dolarů za pronájem výpočetního výkonu.
Proto celé odvětví přešlo na RAG (Retrieval-Augmented Generation) — generování s rozšířeným vyhledáváním.
1. Jak RAG funguje?
Zjednodušeně je RAG jako student u zkoušky, kterému dovolili otevřít si poznámky. Nepamatuje si všechno nazpaměť. Rychle podle obsahu najde správnou stránku, přečte si přesný odstavec a odpoví věcně.
Všechno probíhá ve třech krocích:
- Indexace (připravíme poznámky): vaše firemní PDF, Word soubory nebo tabulky se rozdělí na menší logické bloky (chunks) po 300–800 slovech. Každý blok se převede na matematický vektor (embedding), který popisuje obsah textu, a uloží se do vektorové databáze (například Qdrant nebo pgvector).
- Vyhledávání (Retrieval): uživatel se zeptá třeba „jaký je postup vrácení vadného zboží?“ — a systém okamžitě najde 3–5 obsahově nejbližších fragmentů z vaší databáze.
- Generování odpovědi (Augmented Generation): model dostane systémovou instrukci: „Odpovídej na otázku zákazníka POUZE na základě textu níže. Pokud v textu odpověď není, řekni ‚informace není k dispozici‘ a nic si nevymýšlej.“
2. Co to firmě přináší
- Nemožnost halucinací: model je sevřený v rámci nalezeného kontextu. Podmínky záruky, které ve vašich pravidlech nejsou, si nevymyslí.
- Okamžitá aktualizace: vyměníte soubor na serveru nebo upravíte stránku v Notion — a za minutu už systém odpovídá podle nových pravidel.
- Odkazy na zdroje: ke každé odpovědi se přidá odkaz na konkrétní dokument a sekci. Uživatel si to může sám ověřit.
- Bezpečnost: dokumenty se nestávají součástí veřejně dostupných vah modelu a zůstávají ve vašem kontrolovaném prostředí.
Více o zavedení této technologie najdete na stránce Firemní znalostní báze a RAG. Nebo se podívejte na praktický příklad Scénáře onboardingu.
- Lewis et al.: Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks
- Qdrant Vector Database Architecture Whitepaper
Podniková znalostní báze a RAG
Zůstaly vám k tématu článku otázky?
Pojďme se podívat, jak tyto přístupy sedí na procesy právě ve vaší firmě.