Mi az a RAG és hogyan működik a mesterséges intelligencián alapuló vállalati tudásbázis
Egyszerű szavakkal a Retrieval-Augmented Generation: hogyan lehet az AI-t arra késztetni, hogy a dokumentumaid alapján válaszoljon — adatlopás és hallucinációk nélkül.
Röviden, ha nincs ideje mindent elolvasni
- ✓A RAG lehetővé teszi a modell számára, hogy aktuális privát fájlokkal dolgozzon drága finomhangolás nélkül.
- ✓A dokumentumokat darabokra vágják és értékvektorokká alakítják.
- ✓A modell szigorúan a megtalált kontextus alapján válaszol, és hivatkozásokat ad meg a dokumentumban található konkrét pontokra.
- ✓A bizalmas adatok nem kerülnek nyilvános tanulási adathalmazokba.
Amikor egy cég úgy dönt, hogy belső asszisztenst készít a munkatársaknak vagy az ügyfeleknek, az első gondolat általában ez: „tanítsuk be a modellt a saját fájljainkra”. Csakhogy a klasszikus finomhangolás (Fine-tuning) drága és lassú. Elég, ha akár csak egy szabályzat vagy ár megváltozik, és a modellt újra kell tanítani, miközben több ezer dollárt fizetnek a számítási kapacitás bérléséért.
Ezért állt át az iparág a RAG (Retrieval-Augmented Generation) megközelítésre — vagyis a kereséssel kiegészített szöveggenerálásra.
1. Hogyan működik a RAG?
Leegyszerűsítve a RAG olyan, mint egy diák a vizsgán, akinek megengedték, hogy kinyissa a jegyzeteit. Nem emlékszik mindenre fejből. Gyorsan megtalálja a megfelelő oldalt a mutató alapján, elolvassa a pontos bekezdést, és egyértelmű választ ad.
Az egész három lépésben történik:
- Indexelés (előkészítjük a jegyzetet): a vállalati PDF-eket, Word-fájlokat vagy táblázatokat kisebb logikai blokkokra (chunks), 300–800 szavas egységekre bontják. Minden blokkot egy matematikai vektorrá (embedding) alakítanak, amely leírja a szöveg jelentését, majd ez bekerül egy vektoradatbázisba (például Qdrant vagy pgvector).
- Keresés (Retrieval): a felhasználó megkérdezi például: „mi a hibás termék visszaküldésének menete?” — a rendszer pedig azonnal megkeresi az adatbázisában a jelentés szempontjából 3–5 legközelebbi szövegrészletet.
- Válaszgenerálás (Augmented Generation): a modell kap egy rendszerutasítást: „Az ügyfél kérdésére KIZÁRÓLAG az alábbi szöveg alapján válaszolj. Ha a válasz nem szerepel a szövegben, mondd azt, hogy „az információ nem áll rendelkezésre”, és ne találj ki semmit.”
2. Mit ad ez a vállalkozásnak?
- A hallucinációk kizárása: a modell a megtalált kontextus keretei közé van szorítva. Nem fog olyan garanciális feltételeket kitalálni, amelyek nem szerepelnek a szabályzataikban.
- Azonnali frissítés: kicserélték a fájlt a szerveren vagy szerkesztettek egy oldalt a Notionben — és a rendszer már egy percen belül az új szabályok szerint válaszol.
- Forráshivatkozások: minden válaszhoz hozzáad egy hivatkozást a konkrét dokumentumra és szakaszra. A felhasználó maga is ellenőrizheti.
- Biztonság: a dokumentumok nem válnak a modell nyilvánosan elérhető súlyainak részévé, hanem az önök által ellenőrzött környezetben maradnak.
Erről a technológia bevezetéséről bővebben itt olvashat: Vállalati tudásbázis és RAG. Vagy nézzen meg egy gyakorlati példát: Onboarding forgatókönyv.
- Lewis et al.: Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks
- Qdrant Vector Database Architecture Whitepaper
Vállalati tudásbázis és RAG
Maradtak kérdései a cikk témájával kapcsolatban?
Nézzük meg, hogyan illeszkednek ezek a megközelítések éppen az Ön cégének folyamataihoz.