Agent AI czy zwykła automatyzacja? Jak dobrać rozwiązanie do procesu

Chatbot odpowiada, agent może działać

Określenie „agent” bywa używane bardzo szeroko. Użyteczne rozróżnienie opisuje Anthropic: w przepływie pracy kroki wyznacza kod, natomiast agent dynamicznie wybiera sposób realizacji zadania. Chatbot może jedynie udzielać odpowiedzi. Dopiero połączenie z narzędziami daje mu możliwość odczytu danych lub wykonania operacji poza rozmową.

Większa samodzielność nie jest zawsze zaletą. Model wybierający kolejne kroki może potrzebować więcej czasu i wywołań niż ustalony proces. Zacznij od pytania o potrzebę: czy dokumenty rzeczywiście wymagają interpretacji, czy wystarczy rozpoznać typ pliku, sprawdzić sumę i przekazać go do określonej osoby?

Źródła: Anthropic: workflows, agenci i dobór złożoności

Nazwa stanowiska nie nadaje uprawnień

Polecenie „jesteś księgowym” nie tworzy dostępu do systemu księgowego i nie upoważnia do księgowania. Każde narzędzie powinno mieć wąski zakres, określone dane wejściowe oraz wynik, który można odróżnić od błędu. Odczyt faktury, przygotowanie propozycji i zatwierdzenie operacji to trzy różne czynności.

W przykładowym procesie agent może zaproponować kategorię kosztu i wskazać brak numeru zamówienia. Program sprawdza format, kwoty i powiązanie dokumentu. Osoba z odpowiednią rolą akceptuje wynik. Zapis obejmuje identyfikator operacji, źródło danych i decyzję człowieka. Model nie zastępuje tych kontroli własnym zapewnieniem, że wszystko się zgadza.

Co stanie się po awarii lub ponownym kliknięciu?

Załóżmy, że operacja została zapisana, ale użytkownik nie otrzymał odpowiedzi. Ponowienie nie może utworzyć drugiego dokumentu lub ponownie wysłać tej samej wiadomości. Potrzebny jest trwały identyfikator zadania i rozpoznanie, czy ten konkretny zapis już nastąpił. To odpowiedzialność systemu, nie pamięci rozmowy.

Równie ważna jest sytuacja niepewna: dostawca przerwał połączenie i nie wiadomo, czy przyjął zadanie. System powinien pokazać stan wymagający sprawdzenia, a nie automatycznie ponawiać kosztowną lub nieodwracalną czynność. Limit prób, czas oczekiwania oraz możliwość zatrzymania chronią przed pętlą bez końca.

Jak ograniczyć skutki błędnego polecenia?

Treść dokumentu albo wiadomości klienta może próbować zmienić zachowanie AI. Nie powinna stawać się poleceniem administracyjnym. Zgodnie z podejściem opisanym przez OWASP ograniczamy dostępne uprawnienia i walidujemy wyjście; sam prompt nie jest wystarczającym zabezpieczeniem.

Dla przykładowego agenta obsługującego dokumenty oznacza to brak dowolnego SQL, brak samodzielnej zmiany odbiorcy płatności i zakaz dostępu do innej firmy. Akceptacja powinna pokazywać konkretne działanie i jego dane. Ogólny przycisk „zgadzam się na AI” nie zastępuje świadomego zatwierdzenia przelewu czy wysyłki.

Źródła: OWASP: kontrola uprawnień i walidacja wyjścia

Jak odebrać pierwszy proces?

Wybierz powtarzalne zadanie z czytelnym początkiem i końcem. Najpierw zmierz jego ręczną obsługę, w tym wyjątki. Następnie sprawdź rozwiązanie na tej samej klasie przypadków, także trudnych. Oszczędność czasu licz po uwzględnieniu kontroli oraz poprawek, a koszt na poprawnie zakończone zadanie, nie na samo wywołanie modelu.

Sześć specjalizacji może korzystać z jednego jawnie wybranego modelu. O jakości zespołu decyduje wspólny, wersjonowany kontekst i przekazanie wyniku między zadaniami, nie liczba równoległych rozmów. Wdrożenie uznajemy za gotowe dopiero wtedy, gdy działa również po odmowie dostępu, anulowaniu i awarii narzędzia.

• Zdefiniuj dane wejściowe oraz wynik zaakceptowany przez właściciela procesu.
• Oddziel przygotowanie propozycji od wykonania działania.
• Sprawdź duplikaty, błędne dokumenty i zmianę uprawnień.
• Zapewnij czytelną historię oraz ścieżkę przejęcia przez człowieka.