AI działające lokalnie, bez wysyłania danych na zewnątrz

Dlaczego niektóre firmy nie mogą korzystać z popularnych narzędzi AI

Większość powszechnie znanych narzędzi opartych na sztucznej inteligencji działa w chmurze — dane wysyłane są na zewnętrzne serwery, przetwarzane tam, a wynik wraca do użytkownika. Dla wielu zastosowań to rozwiązanie wystarczające. Są jednak firmy, dla których taki model jest nie do przyjęcia: kancelarie prawne pracujące na dokumentach objętych tajemnicą, firmy przetwarzające dane osobowe klientów na dużą skalę, przedsiębiorstwa związane umowami o poufności z kontrahentami albo po prostu takie, które z ostrożności nie chcą, by jakikolwiek firmowy dokument trafiał poza ich infrastrukturę.

Na czym polega działanie lokalne

Wariant lokalny oznacza, że model sztucznej inteligencji oraz wszystkie dane, na których pracuje, pozostają w całości w infrastrukturze klienta — na serwerze firmowym albo w prywatnej chmurze kontrolowanej przez firmę, nie u zewnętrznego dostawcy. Zapytania nie opuszczają sieci firmy, a wynik przetwarzania nigdy nie trafia na serwery podmiotu trzeciego. To rozwiązanie wymaga innego podejścia niż korzystanie z gotowego serwisu w przeglądarce — model trzeba dobrać, uruchomić i utrzymywać na sprzęcie, do którego firma ma pełen dostęp.

Do czego stosuje się rozwiązania lokalne

Najczęstsze zastosowania obejmują analizę dokumentów wewnętrznych (umów, faktur, korespondencji), obsługę firmowej bazy wiedzy, z której korzysta zespół, oraz wsparcie w powtarzalnych czynnościach związanych z danymi, które z przyczyn prawnych lub umownych nie mogą opuścić firmy. W praktyce oznacza to, że ten sam typ rozwiązania, który w wersji chmurowej jest szybszy i tańszy we wdrożeniu, w wersji lokalnej wymaga większego nakładu na starcie, ale eliminuje ryzyko związane z przesyłaniem danych na zewnątrz.

Co to oznacza w praktyce dla infrastruktury firmy

Wdrożenie lokalne wymaga sprzętu zdolnego obsłużyć wybrany model — to może być istniejący serwer firmowy, dedykowana maszyna albo prywatna chmura, w zależności od skali zastosowania i liczby osób korzystających z rozwiązania jednocześnie. Część projektu obejmuje więc nie tylko dobór i konfigurację samego modelu, ale też ocenę, czy obecna infrastruktura firmy jest w stanie go udźwignąć, i ewentualną rekomendację, co dokupić lub zmienić.

Cztery kroki wdrożenia

• Audyt procesu — ustalenie, jakie dane mają być przetwarzane, jakie ograniczenia prawne lub umowne obowiązują firmę i jaka infrastruktura jest dostępna.
• Projekt i wycena — dobór modelu i sposobu jego uruchomienia lokalnie, z rozliczeniem godzinowym albo projektowym.
• Wdrożenie — uruchomienie na danych klienta, w środowisku klienta, z testami na realnych dokumentach i przypadkach.
• Utrzymanie i rozwój — aktualizacje, dostrajanie modelu do zmieniających się potrzeb i rozszerzanie zastosowania na kolejne obszary.

Co dostaje firma po wdrożeniu

Poza samym działającym rozwiązaniem firma otrzymuje dokumentację opisującą, jak system jest skonfigurowany i gdzie fizycznie przetwarzane są dane, instrukcję obsługi dla zespołu oraz zestaw zasad użycia — czyli jasne wytyczne, jakie dane wolno wprowadzać do systemu, a jakich nie, mimo że działa on lokalnie. Lokalny charakter rozwiązania nie zwalnia z potrzeby takich zasad — wewnętrzne nadużycia i pomyłki są możliwe niezależnie od tego, gdzie fizycznie stoi serwer.

Czym to się różni od rozwiązania chmurowego

Rozwiązanie chmurowe zwykle jest szybsze do uruchomienia, tańsze na starcie i łatwiejsze w utrzymaniu, bo aktualizacje i skalowanie leżą po stronie dostawcy. Rozwiązanie lokalne wymaga więcej pracy na początku (dobór sprzętu, konfiguracja, utrzymanie), ale daje pełną kontrolę nad tym, gdzie dane fizycznie się znajdują — co dla części firm jest warunkiem koniecznym, a nie kwestią preferencji.

Błędy przy próbie zrobienia tego samodzielnie

Firmy, które próbują uruchomić model lokalnie bez wcześniejszego planowania, najczęściej napotykają dwa problemy. Pierwszy to niedoszacowanie wymagań sprzętowych — model, który w demonstracji działał płynnie na jednym stanowisku, potrafi znacząco zwolnić przy kilku osobach korzystających z niego jednocześnie. Drugi to brak jasnych zasad użycia — bez nich pracownicy sami decydują, jakie dane wprowadzają do systemu, co w praktyce prowadzi do tych samych ryzyk, przed którymi wdrożenie lokalne miało chronić.

Kiedy wariant lokalny ma sens, a kiedy nie

Ma sens tam, gdzie istnieje realne, konkretne ograniczenie — prawne, umowne albo branżowe — uniemożliwiające przesyłanie danych na zewnątrz. Tam, gdzie takiego ograniczenia nie ma, rozwiązanie chmurowe zwykle jest szybsze we wdrożeniu i tańsze w utrzymaniu, a dodatkowy nakład na infrastrukturę lokalną nie ma uzasadnienia.

Najczęstsze pytania

Czy rozwiązanie lokalne działa równie dobrze jak chmurowe?
Jakość działania zależy od wybranego modelu i mocy dostępnego sprzętu — dobór jednego i drugiego jest częścią projektu.

Czy trzeba kupować nowy serwer, żeby wdrożyć rozwiązanie lokalne?
Nie zawsze — zależy od tego, czy obecna infrastruktura firmy jest w stanie obsłużyć wybrany model, co sprawdza się na etapie audytu.

Czy dane naprawdę nigdzie nie wychodzą poza firmę?
W wariancie lokalnym cały proces przetwarzania odbywa się w infrastrukturze klienta — na tym polega różnica względem rozwiązań chmurowych.

Przykład: kancelaria analizująca dokumenty klientów

Kancelaria prawna, która na co dzień pracuje z dokumentami objętymi tajemnicą zawodową, nie może korzystać z chmurowego narzędzia AI do wstępnej analizy umów — treść dokumentu, nawet przetworzona automatycznie, nie powinna opuszczać infrastruktury kancelarii. W takim przypadku rozwiązanie lokalne pozwala na wstępne przeszukiwanie i podsumowywanie dokumentów bez wysyłania ich treści na zewnątrz — model działa na serwerze kancelarii, a wynik nigdy nie trafia poza jej sieć.

Warianty skali wdrożenia lokalnego

Najprostszy wariant to jedno stanowisko, na którym pracuje jedna albo dwie osoby korzystające z modelu sporadycznie — wystarcza wtedy stosunkowo skromny sprzęt. Bardziej wymagający wariant to kilka albo kilkanaście osób korzystających z rozwiązania jednocześnie, np. cały zespół obsługi klienta — tu konieczna jest infrastruktura zdolna obsłużyć wiele zapytań naraz bez wyraźnego spowolnienia. Skala wdrożenia jest jednym z pierwszych elementów ustalanych na etapie audytu, bo od niej zależy dobór modelu i sprzętu.

Czy rozwiązanie lokalne można później rozbudować

Tak — wdrożenie lokalne nie jest decyzją zamkniętą raz na zawsze. Jeśli po pewnym czasie okaże się, że zapotrzebowanie rośnie (więcej osób korzystających, więcej rodzajów dokumentów do analizy), infrastrukturę i model da się rozbudować w ramach etapu utrzymania i rozwoju. Podobnie w drugą stronę — jeśli część zastosowań okaże się nie wymagać pełnej izolacji lokalnej, niektóre zadania mogą zostać przeniesione do wariantu chmurowego, jeśli firma uzna to za uzasadnione.

Dodatkowe pytanie

Czy wariant lokalny jest droższy od chmurowego?
Zwykle wymaga większego nakładu na starcie, bo obejmuje dobór i konfigurację infrastruktury, której w wariancie chmurowym po prostu się nie kupuje. Ostateczna różnica w koszcie zależy od skali wdrożenia i tego, czy firma dysponuje już częścią potrzebnej infrastruktury, czy trzeba ją budować od podstaw — dlatego to jeden z elementów ustalanych na etapie projektu i wyceny.

Kto najczęściej pyta o wariant lokalny

Oprócz kancelarii prawnych i firm przetwarzających dane osobowe na dużą skalę, o rozwiązania lokalne pytają też firmy działające w branżach regulowanych, gdzie umowy z kontrahentami wprost zabraniają przesyłania określonych danych poza infrastrukturę firmy, oraz przedsiębiorstwa, które wcześniej doświadczyły sytuacji budzącej wątpliwości co do bezpieczeństwa danych przetwarzanych w chmurze i świadomie chcą tego uniknąć przy kolejnym wdrożeniu.

Znaczenie testów na realnych danych klienta

Przy wdrożeniach lokalnych szczególne znaczenie ma testowanie na rzeczywistych dokumentach i danych klienta, nie na przykładowych zbiorach dostępnych publicznie. Model, który świetnie radzi sobie z ogólnodostępnymi tekstami, może działać inaczej przy specyficznym słownictwie branżowym danej firmy, jej wewnętrznych skrótach czy nietypowym formatowaniu dokumentów. Dlatego etap wdrożenia obejmuje zawsze testy na materiałach faktycznie pochodzących z firmy, zanim rozwiązanie trafi do codziennego użytku zespołu.

Warunki współpracy

Wdrożenie poprzedza płatny audyt procesu, który obejmuje też ocenę dostępnej infrastruktury. Rozliczenie — stawka godzinowa albo wycena za projekt. Obsługa obejmuje Warszawę i okoliczne powiaty. Kontakt telefoniczny:22 378 48 90.