Human on the Loop: człowiek nad procesem, nie w każdej decyzji
Opublikowano 24 sie 2026 · 9 min czytania
Sztuczna inteligencja coraz rzadziej tylko podpowiada. Agenci AI potrafią już analizować dokumenty, podejmować decyzje, aktualizować dane w systemach, wysyłać wiadomości, uruchamiać kolejne zadania i doprowadzać proces do końca.
To zmienia podstawowe pytanie, które firmy powinny zadawać przed wdrożeniem AI. Nie brzmi ono już: „czy w procesie ma być człowiek?”. Lepsze pytanie to: „w którym miejscu człowiek rzeczywiście wnosi wartość, a kiedy staje się tylko wąskim gardłem?”
Jedną z odpowiedzi jest model Human on the Loop — człowiek nie zatwierdza każdej czynności systemu, ale obserwuje jego działanie, otrzymuje alerty i może wkroczyć wtedy, gdy sytuacja tego wymaga.
To podejście łączy autonomię AI z realną kontrolą biznesową.
Od „zatwierdź” do „nadzoruj”
Najczęściej mówi się o trzech modelach współpracy człowieka z AI:
Human in the Loop
Człowiek znajduje się wewnątrz procesu decyzyjnego. System przygotowuje rekomendację lub działanie, ale przed wykonaniem czeka na akceptację.
Takie podejście ma sens, gdy decyzja jest trudna do odwrócenia, dotyczy dużych kwot, praw człowieka, bezpieczeństwa albo odpowiedzialności regulacyjnej. Problem pojawia się wtedy, gdy akceptacji wymagają setki lub tysiące prostych spraw. Automatyzacja zaczyna wówczas działać z prędkością kolejki zadań człowieka.
Human on the Loop
AI prowadzi proces samodzielnie w ustalonych granicach, a człowiek nadzoruje jego przebieg. Widzi wyniki, wyjątki i ryzyka, może zatrzymać działanie, zmienić decyzję albo przejąć konkretną sprawę.
Brytyjskie National Cyber Security Centre ujmuje tę różnicę bardzo jasno: w modelu human-in-the-loop człowiek zatwierdza działanie przed jego wykonaniem, natomiast w modelu human-on-the-loop monitoruje działanie i może interweniować, gdy jest to potrzebne.
Human out of the Loop
System działa autonomicznie bez bieżącego nadzoru człowieka. Ten model może być właściwy dla zadań o niskim ryzyku, takich jak klasyfikowanie treści, zmiana formatu danych czy wykonywanie odwracalnych operacji technicznych. Im większe potencjalne konsekwencje błędu, tym mniej rozsądna staje się jednak pełna autonomia.
Dlaczego samo „człowiek zatwierdza” nie wystarczy
Dodanie przycisku „Akceptuj” często daje organizacji poczucie bezpieczeństwa. Nie zawsze daje jej realną kontrolę.
Jeżeli pracownik otrzymuje setki podobnych rekomendacji, nie zna sposobu ich przygotowania i ma kilka sekund na podjęcie decyzji, z czasem zaczyna je zatwierdzać automatycznie. Formalnie człowiek nadal uczestniczy w procesie. W praktyce staje się częścią interfejsu.
To zjawisko jest szczególnie niebezpieczne, gdy system zwykle działa poprawnie. Wysoka skuteczność obniża czujność, a pojedynczy nietypowy przypadek może zostać zaakceptowany tylko dlatego, że poprzednich sto decyzji nie budziło zastrzeżeń.
Dobry nadzór nie polega więc na tym, aby człowiek dotykał każdej sprawy. Polega na tym, aby otrzymywał właściwą informację we właściwym momencie i miał rzeczywistą możliwość zmiany biegu procesu.
Jak Human on the Loop wygląda w praktyce
Wyobraźmy sobie agenta AI obsługującego niezgodności fakturowe. System porównuje fakturę z zamówieniem, umową i danymi w ERP. Rozpoznaje rodzaj rozbieżności, ustala prawdopodobną przyczynę, przygotowuje uzasadnienie i proponuje dalsze działanie.
W modelu Human in the Loop każda sprawa trafiałaby do pracownika po akceptację. Nawet wtedy, gdy chodzi o znany błąd, niewielką kwotę i przypadek identyczny z setkami wcześniej rozwiązanych.
W modelu Human on the Loop agent może samodzielnie zamykać sprawy, które spełniają ustalone warunki, na przykład:
- pewność klasyfikacji przekracza określony próg,
- kwota mieści się w dopuszczalnym limicie,
- przypadek odpowiada zatwierdzonemu scenariuszowi,
- działanie można odwrócić,
- wszystkie wymagane dane są kompletne.
Do człowieka trafiają tylko wyjątki: duża wartość, sprzeczne dokumenty, nietypowa przyczyna, niska pewność, brak danych albo działanie o podwyższonym ryzyku. Operator nie zaczyna analizy od zera. Otrzymuje opis sprawy, wykorzystane źródła, rekomendację i historię decyzji agenta.
Właśnie wtedy autonomia zaczyna przynosić realny efekt. AI obsługuje skalę, a człowiek zajmuje się osądem.
Pięć warunków prawdziwego nadzoru
Human on the Loop nie oznacza: „uruchommy agenta i od czasu do czasu sprawdzajmy, co zrobił”. Skuteczny model wymaga zaprojektowania konkretnych mechanizmów kontroli.
1. Jasne granice autonomii
System musi wiedzieć, co może wykonać samodzielnie, czego nie wolno mu zrobić i kiedy ma przekazać sprawę człowiekowi. Granice powinny wynikać z ryzyka, wartości transakcji, rodzaju danych, pewności modelu oraz odwracalności działania.
2. Widoczność procesu
Operator powinien widzieć nie tylko wynik, ale również kontekst: jakie dane zostały użyte, co agent zrobił, jaki jest poziom pewności i jaki ma być następny krok. Nadzór nad czarną skrzynką jest tylko pozorny.
3. Alerty oparte na ryzyku
Człowiek nie powinien obserwować każdego ruchu AI. System ma sam rozpoznawać zdarzenia wymagające uwagi: anomalie, przekroczenia progów, nietypowe sekwencje działań, nagły spadek jakości czy kontakt z danymi wrażliwymi.
4. Możliwość zatrzymania i cofnięcia działania
Operator musi móc wstrzymać proces, odrzucić rekomendację, zmienić decyzję i — jeśli charakter procesu na to pozwala — cofnąć wykonaną operację. Prawo do interwencji bez technicznej możliwości interwencji niczego nie zabezpiecza.
5. Odpowiedzialność i ślad audytowy
Każdy proces powinien mieć właściciela. Potrzebny jest również zapis danych wejściowych, decyzji, działań, wyjątków i interwencji człowieka. Dzięki temu można wyjaśnić zdarzenie, poprawić reguły oraz wykazać, kto i na jakiej podstawie podjął decyzję.
Nie każdy proces potrzebuje takiego samego poziomu kontroli
Najgorszym rozwiązaniem jest narzucenie jednego modelu nadzoru całej organizacji. Poziom udziału człowieka powinien wynikać z konsekwencji błędu.
Nie jest to podział raz na zawsze. Proces może zaczynać jako Human in the Loop, a po zebraniu danych i potwierdzeniu jakości przejść do Human on the Loop. Autonomia powinna być przyznawana stopniowo — na podstawie wyników, a nie obietnic technologii.
Human on the Loop a regulacje
Europejski AI Act wymaga dla systemów AI wysokiego ryzyka skutecznego nadzoru człowieka. Osoby nadzorujące powinny rozumieć możliwości i ograniczenia systemu, rozpoznawać ryzyko nadmiernego polegania na jego wynikach oraz móc zignorować, zmienić lub odwrócić rezultat, a także zatrzymać system.
Przepisy nie sprowadzają więc nadzoru do obecności człowieka „gdzieś w procesie”. Liczy się to, czy człowiek ma kompetencje, informacje, uprawnienia i techniczne narzędzia potrzebne do działania.
Podobny kierunek wskazuje NIST AI Risk Management Framework. NIST podkreśla potrzebę jasnego rozdzielenia ról ludzi współpracujących z AI, ciągłego monitorowania systemów po wdrożeniu oraz przygotowania mechanizmów odwołania, nadpisania decyzji, reakcji na incydenty i wycofania systemu.
To ważna wskazówka także dla zastosowań, które formalnie nie należą do kategorii wysokiego ryzyka. Dobrze zaprojektowany nadzór nie jest wyłącznie obowiązkiem compliance. Jest elementem odpornego procesu biznesowego.
Człowiek powinien zarządzać ryzykiem, nie kolejką kliknięć
Największa wartość agentów AI pojawia się wtedy, gdy mogą doprowadzić zadanie do wyniku. Jeśli każda czynność czeka na zatwierdzenie, firma kupuje inteligentną technologię, ale zachowuje stary model pracy.
Z kolei przekazanie agentowi pełnej swobody bez limitów, monitoringu i możliwości zatrzymania procesu tworzy ryzyko, którego organizacja może nawet nie zauważyć.
Human on the Loop jest praktycznym środkiem pomiędzy tymi skrajnościami. AI otrzymuje przestrzeń do działania, a człowiek zachowuje kontrolę nad tym, co najważniejsze: granicami, wyjątkami i konsekwencjami.
Dlatego przed uruchomieniem agenta warto odpowiedzieć na pięć pytań:
- Jakie działania AI może wykonywać samodzielnie?
- Jakie progi lub zdarzenia wymagają przekazania sprawy człowiekowi?
- Co dokładnie zobaczy operator, gdy otrzyma alert?
- Czy może zatrzymać, zmienić lub cofnąć działanie?
- Kto odpowiada za wyniki procesu i jego okresową ocenę?
Jeżeli odpowiedzi są niejasne, agent nie jest jeszcze gotowy do autonomicznej pracy. Jeżeli są konkretne, mierzalne i zapisane w systemie, człowiek nie musi stać na drodze każdej decyzji. Może znaleźć się tam, gdzie jego rola jest naprawdę potrzebna — nad procesem.
Mechanizmy nadzoru opisane wyżej są wbudowane w nasze AI Agents, a granice autonomii ustalamy w trakcie wdrożenia. Wymagania regulacyjne i audytowe opisujemy na stronie Bezpieczeństwo.