Technologia
RAG — dlaczego to najbezpieczniejszy sposób użycia AI w firmie
RAG (retrieval-augmented generation) to technika, w której model przed wygenerowaniem odpowiedzi najpierw wyszukuje odpowiednie fragmenty w Waszych dokumentach, a potem odpowiada wyłącznie na ich podstawie. Rozwiązuje to dwa problemy jednocześnie: model nie zna Waszej firmy, a zapytany o coś, czego nie wie, wypełnia lukę treścią najbardziej prawdopodobną — czyli konfabuluje.
Jak to działa krok po kroku?
Krok 1 — dokumenty są dzielone na fragmenty
Umowy, procedury, oferty, dokumentacja techniczna. Fragmenty muszą być wystarczająco duże, żeby zachować sens, i wystarczająco małe, żeby dały się precyzyjnie wyszukać.
Krok 2 — fragmenty są zapisywane jako reprezentacje liczbowe
Tzw. osadzenia (embeddingi) pozwalają szukać po znaczeniu, nie po dokładnym słowie. Dzięki temu pytanie „ile mamy czasu na reklamację” znajdzie fragment mówiący o „terminie zgłoszenia wady”.
Krok 3 — zapytanie użytkownika trafia najpierw do wyszukiwania
System znajduje kilka najbardziej pasujących fragmentów Waszej dokumentacji.
Krok 4 — model odpowiada na podstawie znalezionych fragmentów
I podaje, z którego dokumentu pochodzi odpowiedź. To ten element decyduje o zaufaniu użytkownika.
Krok 5 — odpowiedź bez podstawy w dokumentach jest odmawiana
Dobrze zbudowany system mówi „nie mam tej informacji” zamiast zgadywać. To najważniejsza właściwość i jednocześnie ta, którą najłatwiej zepsuć w konfiguracji.
Dlaczego to ogranicza konfabulacje?
Bo zmienia zadanie modelu. Zapytany bez kontekstu, model generuje najbardziej prawdopodobną odpowiedź na podstawie tego, czego się nauczył. Zapytany z dostarczonymi fragmentami, streszcza i przeformułowuje dostarczony materiał — a to zadanie, w którym modele językowe są znacznie mocniejsze.
Nie prosimy modelu, żeby wiedział. Prosimy, żeby przeczytał i odpowiedział z podaniem źródła.
Ograniczenia modeli, których RAG nie usuwa, opisujemy osobno w artykule czego modele nie potrafią. Sama technika nie zwalnia też z kontroli człowieka w dokumentach o skutkach prawnych i finansowych.
Gdzie szukać badań i implementacji?
| Zasób | Gdzie | Do czego |
|---|---|---|
| Publikacje naukowe o wyszukiwaniu i osadzeniach | arXiv, kategoria cs.CL | Metody i ich ograniczenia |
| Publikacje powiązane z kodem | Hugging Face Papers | Sprawdzenie, czy metoda ma działającą implementację |
| Gotowe frameworki | Repozytoria open source, m.in. LangChain i LlamaIndex | Szkielet aplikacji — frameworki open source z GitHuba |
| Modele osadzeń, także dla języka polskiego | Hugging Face, prace OPI PIB | Jakość wyszukiwania w polskich dokumentach |
Ostatni wiersz ma w polskich firmach znaczenie praktyczne: jakość wyszukiwania w dokumentach po polsku zależy od modelu osadzeń przygotowanego dla tego języka. AI Lab w OPI PIB rozwija wielojęzyczne modele osadzeń — piszemy o tym w artykule polskie modele językowe dla firm.
Co decyduje o jakości takiego systemu?
- Jakość i aktualność dokumentów — system nie naprawi sprzecznych procedur
- Sposób podziału na fragmenty — najczęstsza przyczyna słabych odpowiedzi
- Model osadzeń dopasowany do języka i dziedziny
- Uprawnienia: kto może pytać o które dokumenty — element polityki bezpieczeństwa
- Widoczne źródło odpowiedzi, żeby użytkownik mógł sprawdzić
Najczęściej zadawane pytania
Czy RAG wymaga trenowania własnego modelu?
Czy dokumenty muszą opuścić naszą infrastrukturę?
Ile dokumentów trzeba mieć, żeby to miało sens?
Rozmowa bez zobowiązań
Zostaw numer telefonu — oddzwonimy
Podczas 20-minutowej rozmowy pytamy o procesy, zespół i to, co dzisiaj zjada najwięcej czasu. Na tej podstawie proponujemy konkret: warsztat, szkolenie albo wdrożenie AI — albo mówimy wprost, że w Twoim przypadku szkolenie nie jest jeszcze potrzebne.
- Bez prezentacji sprzedażowej i bez zobowiązań
- Konkretna rekomendacja zakresu i widełki budżetowe
- Rozmawiasz z osobą, która prowadzi warsztaty, nie z call center
Możesz też napisać: kontakt@aibox.edu.pl