Stos technologiczny
Technologie, których używamy — i dlaczego akurat tych
Lista narzędzi bez uzasadnienia niczego nie rozstrzyga, więc przy każdej grupie jest pole „Dlaczego tak". Konkretny dobór zapada na audycie — z Waszymi danymi, Waszym wolumenem i Waszymi wymaganiami co do tego, gdzie te dane mogą być.
Aktualizacja: · Sprint0
Modele językowe
Pracujemy na obu drogach — lokalnej i komercyjnej. Wybór nie jest ideologiczny, tylko wynika z tego, czy dane mogą opuścić sieć firmy i jaki jest wolumen zapytań.
- Modele open-source uruchamiane lokalnie
- Rodziny Llama, Mistral, Qwen i pochodne — na sprzęcie klienta, także w środowisku bez łącza wyjściowego.
- Komercyjne API czołowych dostawców
- Na umowie powierzenia i z minimum danych w zapytaniu. Tam, gdzie liczy się jakość odpowiedzi, a wolumen nie uzasadnia własnej maszyny.
- Modele osadzające (embeddingi)
- Osobny, mniejszy model do wyszukiwania po znaczeniu — zwykle lokalny, nawet gdy model generujący jest komercyjny.
- Modele wyspecjalizowane
- Rozpoznawanie tekstu ze skanów, klasyfikacja dokumentów, mowa na tekst — tam, gdzie duży model językowy jest zbędnym kosztem.
Dlaczego tak
Rozdzielenie modelu osadzającego od generującego pozwala trzymać indeks dokumentów firmy lokalnie nawet przy komercyjnym API — do modelu idzie wtedy tylko zapytanie i wybrane fragmenty, nie cały zbiór.
Wyszukiwanie i bazy wektorowe
Serce asystenta RAG to nie model, tylko to, co mu podajemy. Tu decyduje się trafność odpowiedzi i bezpieczeństwo wdrożenia.
- Bazy wektorowe
- pgvector w PostgreSQL, gdy baza już jest; Qdrant albo podobne, gdy zbiór rośnie i trzeba filtrować po metadanych.
- Wyszukiwanie hybrydowe
- Połączenie wyszukiwania po znaczeniu i po słowach kluczowych — numery katalogowe i symbole części gubi samo wyszukiwanie wektorowe.
- Przetwarzanie dokumentów
- Podział na fragmenty z zachowaniem struktury: nagłówki, tabele, przypisy. Od tego kroku zależy, czy odpowiedź ma sens.
- Uprawnienia na etapie wyszukiwania
- Filtr po uprawnieniach użytkownika przed zapytaniem do modelu, nie po odpowiedzi.
Dlaczego tak
Uprawnienia sprawdzane po stronie wyszukiwania to jedyne miejsce, w którym da się je wymusić naprawdę. Filtrowanie odpowiedzi po fakcie oznacza, że dokument już trafił do modelu.
Automatyzacja i agenty
Nie każdy proces wymaga kodu. Część zadań taniej i szybciej uruchomić w gotowym narzędziu — i tak zwykle zaczynamy.
- n8n
- Uruchamiany na serwerze klienta, gdy przepływy mają zostać w jego infrastrukturze i rosnąć bez opłaty za operację.
- Make
- Gdy chodzi o szybkie połączenie usług chmurowych i wolumen jest niski — tańsze niż budowanie czegokolwiek.
- Agenty w kodzie
- Gdy proces staje się rdzeniem firmy: własne konto techniczne z minimalnymi uprawnieniami, człowiek przy decyzjach kosztownych, pełny dziennik.
- Kolejki i zadania cykliczne
- Przetwarzanie wsadowe dokumentów i ponawianie nieudanych operacji — żeby jedna awaria API nie gubiła zgłoszeń.
Dlaczego tak
Kolejność bywa taka: Make na próbę, n8n gdy liczba operacji zaczyna boleć, własny kod gdy proces jest rdzeniem firmy. Przejście między nimi kosztuje, dlatego warto wiedzieć z góry, dokąd to zmierza.
Aplikacje i systemy dedykowane
AI potrzebuje uporządkowanych danych. Część wdrożeń zaczyna się więc nie od modelu, tylko od systemu, który te dane w ogóle zbiera.
- Aplikacje webowe
- React i TypeScript po stronie przeglądarki, Node albo Python po stronie serwera. Panele B2B, CRM-y, portale klienta.
- Aplikacje mobilne z trybem offline
- Android i web dla zespołów w terenie: zapis lokalny i synchronizacja po powrocie zasięgu.
- Bazy danych
- PostgreSQL jako domyślny wybór — relacje, pełnotekstowe wyszukiwanie i wektory w jednym miejscu.
- API i dokumentacja
- REST z opisem OpenAPI, żeby kolejny wykonawca nie musiał czytać kodu, by się podłączyć.
Dlaczego tak
PostgreSQL z pgvector pozwala trzymać dane biznesowe i indeks wektorowy w jednej bazie, z jedną kopią zapasową i jednym zestawem uprawnień. Przy mniejszych wdrożeniach to usuwa cały osobny system do utrzymania.
Integracje
Najczęstszy powód, dla którego wdrożenie się przeciąga, to nie model, tylko system, z którym trzeba się połączyć.
- ERP i systemy księgowe
- Przez API, pliki wymiany albo bezpośrednio z bazy, zależnie od tego, co system udostępnia.
- KSeF
- Pobieranie i wysyłka faktur ustrukturyzowanych, powiązanie z zamówieniami i ścieżką akceptacji.
- EDI
- Wymiana dokumentów z sieciami handlowymi i operatorami logistycznymi.
- Katalog użytkowników
- Logowanie firmowym kontem i uprawnienia z grup, które już istnieją — zamiast drugiej listy użytkowników do utrzymania.
- Poczta, komunikatory, telefonia
- Tam, gdzie proces zaczyna się od wiadomości albo połączenia, a nie od formularza.
Dlaczego tak
Logowanie z firmowego katalogu zamiast własnej bazy użytkowników to jedna z nielicznych decyzji, która jednocześnie upraszcza wdrożenie, obniża koszt utrzymania i poprawia bezpieczeństwo.
Infrastruktura i utrzymanie
Gdzie to stoi i kto to pilnuje po wdrożeniu — pytanie, które zwykle pada za późno.
- Serwery w infrastrukturze klienta
- Maszyna z kartą GPU w serwerowni albo w prywatnej chmurze, z segmentacją sieci i kopiami w istniejącym stacku.
- Konteneryzacja
- Docker i obrazy wersjonowane, żeby wdrożenie dało się odtworzyć, a nie tylko powtórzyć z pamięci.
- Środowiska air-gapped
- Bez łącza wyjściowego; aktualizacje wchodzą nośnikiem, po przeglądzie.
- Monitoring i dziennik audytowy
- Kto, kiedy i o co pytał oraz jakie dokumenty trafiły do modelu — wymóg przy NIS2 i przy każdym poważnym audycie.
- Pomiar jakości odpowiedzi
- Ten sam zestaw pytań kontrolnych co na pilocie, uruchamiany cyklicznie. Jakość potrafi cicho spaść po aktualizacji modelu.
Dlaczego tak
Dziennik audytowy i cykliczny pomiar trafności to dwie rzeczy, których nie da się dodać później bez przebudowy. Dlatego są w architekturze od pierwszego dnia, a nie w planie na drugi etap.
Czyje to jest po wdrożeniu
Kod i dokumentacja są własnością klienta od pierwszego commita — nie od odbioru i nie po zapłacie ostatniej faktury. Budujemy na narzędziach otwartych albo powszechnie dostępnych, żeby wyjście ze współpracy nie wymagało naszej zgody ani wykupu licencji na cokolwiek.
Szczegóły przebiegu: jak pracujemy. Porównania narzędzi w bazie wiedzy: Make, n8n czy własna automatyzacja oraz on-premise czy chmura — koszty.