Przejdź do treści

Baza wiedzy

RAG na wiedzy firmowej — asystent, który odpowiada z Twoich dokumentów

Aktualizacja: · Sprint0

W skrócie

RAG (retrieval-augmented generation) to sposób na to, żeby model językowy odpowiadał na podstawie dokumentów firmy, a nie tego, co zapamiętał z internetu. Model zostaje nietknięty — przy każdym pytaniu system wyszukuje właściwe fragmenty i podaje mu je jako materiał. Stąd trzy przewagi nad fine-tuningiem: wiedzę aktualizuje się podmianą pliku, odpowiedź wskazuje źródło, a usunięcie dokumentu naprawdę usuwa go z systemu. Najczęstsza poważna wpadka nie jest techniczna, tylko organizacyjna: indeks bez uprawnień zamienia asystenta w wyciek danych między działami. O tym, dlaczego RAG upraszcza też zgodność z RODO, piszemy w przewodniku RODO a AI.

Czym właściwie jest RAG

Model językowy sam z siebie nie wie nic o Twojej firmie. Zna język, wzorce i wiedzę ogólną z treningu — ale nie zna Twojego cennika, instrukcji montażu ani procedury reklamacyjnej. Zapytany o nie, zrobi to, co potrafi najlepiej: wygeneruje odpowiedź brzmiącą wiarygodnie. To właśnie źródło większości rozczarowań firmowymi wdrożeniami AI.

RAG rozwiązuje to prosto: zanim model odpowie, system przeszukuje bazę dokumentów firmy i wkleja do zapytania kilka najtrafniejszych fragmentów. Model nie ma niczego wymyślać — ma streścić i zinterpretować podany materiał. Z „co wiesz o systemach przesuwnych?" robi się „na podstawie poniższych trzech fragmentów instrukcji odpowiedz na pytanie".

Jak to działa krok po kroku

  • Zbiórka i podział. Dokumenty (PDF-y, strony intranetu, instrukcje, umowy) są dzielone na fragmenty — na tyle małe, by były precyzyjne, i na tyle duże, by zachowały sens.
  • Indeksowanie. Każdy fragment dostaje reprezentację liczbową (embedding), która oddaje jego znaczenie. Dzięki temu wyszukiwanie działa po sensie, a nie po dokładnym słowie — „reklamacja okucia" znajdzie akapit o „zgłoszeniu wady zawiasu".
  • Wyszukiwanie z filtrem uprawnień. Pytanie użytkownika trafia do indeksu, ale przeszukiwane jest wyłącznie to, do czego ta osoba ma dostęp. To jest moment, w którym pilnuje się bezpieczeństwa — nie później.
  • Odpowiedź ze wskazaniem źródła. Model dostaje pytanie i znalezione fragmenty, formułuje odpowiedź i podaje, z czego skorzystał. Użytkownik może to sprawdzić.

Do modelu trafia więc tylko to, co jest potrzebne do jednego konkretnego pytania — a nie cała baza wiedzy. To ta sama zasada minimum danych, którą stosujemy w każdym wdrożeniu, tyle że wymuszona architekturą.

Uprawnienia: miejsce, w którym takie wdrożenia się wykładają

Asystent zbudowany na wspólnym indeksie „dla całej firmy" prędzej czy później zacytuje komuś wynagrodzenia, warunki umowy z dostawcą albo notatkę z postępowania dyscyplinarnego. Nie dlatego, że ktoś go zaatakował — wystarczy, że ktoś zadał naturalne pytanie.

Uprawnienia muszą działać jako filtr wyszukiwania: każdy fragment niesie metadane o tym, kto może go zobaczyć, a zapytanie przegląda wyłącznie dozwoloną część indeksu. Filtrowanie gotowej odpowiedzi jest pozorne — dane już opuściły swoją strefę i trafiły do modelu.

Praktyczna zasada: asystent ma odziedziczyć uprawnienia z systemów źródłowych, a nie mieć własne. Jeśli ktoś nie otworzy pliku w intranecie, asystent nie ma prawa mu go streścić.

Co naprawdę decyduje o jakości odpowiedzi

  • Aktualność źródeł. Asystent rzetelnie zacytuje nieaktualną procedurę. Uporządkowanie dokumentów jest częścią wdrożenia, nie warunkiem wstępnym — ale ktoś musi wskazać, która wersja obowiązuje.
  • Sposób podziału na fragmenty. Tabela pocięta w połowie albo instrukcja rozdzielona między dwa fragmenty dają odpowiedzi poprawne zdaniowo i bezużyteczne w praktyce.
  • Metadane. Data, wersja, dział, typ dokumentu — pozwalają zawęzić wyszukiwanie i odróżnić obowiązujący cennik od zeszłorocznego.
  • Zestaw pytań kontrolnych. Kilkadziesiąt pytań ze znanymi odpowiedziami, uruchamianych po każdej zmianie. Bez tego „poprawiliśmy asystenta" jest zdaniem bez pokrycia.

Kiedy RAG nie wystarczy

RAG odpowiada na pytania o treść dokumentów. Nie policzy czegoś, czego nie ma wprost w tekście, nie zastąpi zapytania do bazy danych i nie wykona operacji w systemie. Pytanie „ile zamówień czeka na wysyłkę?" to zadanie dla integracji z ERP, a nie dla wyszukiwania w plikach.

Gdy asystent ma nie tylko odpowiadać, ale też działać — zakładać zgłoszenia, umawiać terminy, aktualizować rekordy — wchodzimy w obszar agentów, z zupełnie innym zestawem ryzyk. Najważniejsze z nich, prompt injection, opisujemy w przewodniku o agentach AI w firmie — dokument znaleziony przez RAG bywa nośnikiem instrukcji dla modelu.

Jak zaplanować pilotaż

  • Jeden obszar, jedna grupa. Nie „asystent firmowy", tylko „asystent produktowy dla salonów". Wąski zakres to jasne kryterium sukcesu i sensowny zestaw dokumentów.
  • Miara przed startem. Ile czasu zajmuje dziś znalezienie odpowiedzi i ile pytań trafia do centrali. Bez punktu odniesienia ocena wdrożenia będzie kwestią wrażeń.
  • Ludzie od pierwszego dnia. Zestaw pytań kontrolnych układają ci, którzy naprawdę odpowiadają na te pytania — nie zespół wdrożeniowy.
  • Decyzja o architekturze na podstawie danych. Jeśli dokumenty nie mogą opuścić sieci, model działa lokalnie. Jeśli mogą — liczy się zakres przekazywanych fragmentów i umowa powierzenia.

Pilotaż takiego asystenta to zwykle tygodnie, nie miesiące — pod warunkiem, że zakres jest wąski, a źródła wskazane.

Najczęstsze pytania o RAG

Czym RAG różni się od fine-tuningu?

Fine-tuning zmienia wagi modelu — wiedza wtapia się w model i nie da się jej stamtąd wyjąć. RAG zostawia model nietknięty: przy każdym pytaniu system wyszukuje właściwe fragmenty dokumentów i podaje je modelowi jako materiał do odpowiedzi. Praktyczne skutki są trzy: aktualizacja wiedzy to podmiana pliku zamiast ponownego treningu, odpowiedź może wskazać źródło, a usunięcie dokumentu z indeksu naprawdę usuwa go z systemu. Dla większości zastosowań firmowych RAG jest tańszy i bezpieczniejszy.

Czy asystent RAG może pokazać pracownikowi dokumenty, do których nie ma dostępu?

Tak — i to najczęstszy poważny błąd w takich wdrożeniach. Jeśli indeks nie zna uprawnień, asystent chętnie zacytuje treść umowy albo danych kadrowych każdemu, kto zada właściwe pytanie. Uprawnienia muszą być filtrem NA ETAPIE WYSZUKIWANIA, zanim cokolwiek trafi do modelu: każdy fragment ma metadane o tym, kto może go zobaczyć, a zapytanie przeszukuje wyłącznie to, do czego pytający ma prawo. Filtrowanie odpowiedzi po fakcie jest pozorne — dane już opuściły swoją strefę.

Skąd wiadomo, że asystent nie zmyśla?

Nie da się tego zagwarantować w stu procentach, ale RAG daje narzędzie, którego sam model nie ma: każda odpowiedź może wskazywać fragmenty, na których się opiera. Czytelnik weryfikuje ją jednym kliknięciem, a brak źródła jest sygnałem ostrzegawczym. Do tego dochodzi instrukcja, by przy braku materiału odpowiadać „nie wiem" zamiast zgadywać, oraz zestaw pytań kontrolnych ze znanymi odpowiedziami, uruchamiany po każdej zmianie w bazie.

Ile dokumentów trzeba mieć, żeby RAG miał sens?

Nie liczba dokumentów decyduje, tylko koszt ich przeszukiwania. Jeśli odpowiedź na typowe pytanie wymaga przekopania kilku instrukcji, intranetu i skrzynki, RAG zwróci się nawet przy kilkuset stronach. Odwrotnie: dziesięć tysięcy nieaktualnych, sprzecznych plików to gwarancja złych odpowiedzi — asystent rzetelnie zacytuje nieaktualną procedurę. Uporządkowanie źródeł jest częścią wdrożenia, nie etapem przygotowań do niego.

Czytaj też

Rozważasz AI w swojej infrastrukturze?

Porozmawiajmy o Twoim przypadku — bezpłatna konsultacja, odpowiadamy w 24 h roboczych, NDA od dnia zero.

Umów bezpłatną konsultację