Co to jest human in the loop?

Jak działa tryb szkiców

1. SprawaPrzychodzi wiadomość klienta, zapytanie albo wniosek o zwrot.
2. SzkicAgent sprawdza dane w systemach i przygotowuje odpowiedź lub decyzję z uzasadnieniem.
3. AkceptacjaCzłowiek czyta szkic i wybiera: wyślij, popraw albo odrzuć.
4. Wysyłka i poprawkiZatwierdzony szkic wychodzi do klienta, a poprawki zespołu są podstawą do zmian w instrukcjach agenta.

Skąd nazwa?

Angielskie „human in the loop” znaczy dosłownie „człowiek w pętli”. Pętlą jest cykl pracy systemu: dane wchodzą, AI coś przygotowuje, wynik wychodzi. Człowiek jest wpięty w ten cykl w miejscu, w którym zapada decyzja. Bez niego system działa w pełni automatycznie.

Jak to wygląda w praktyce?

Są trzy typowe poziomy kontroli:

1. Tryb szkiców: agent przygotowuje każdą odpowiedź albo decyzję, a człowiek zatwierdza każdą z osobna.
2. Akceptacja wybranych spraw: proste, powtarzalne sprawy agent załatwia sam, a pieniądze, wyjątki i skargi trafiają do człowieka.
3. Kontrola wyrywkowa: agent działa samodzielnie, a zespół przegląda próbkę spraw i logi.

Poziom dobiera się osobno dla każdego rodzaju spraw. Ten sam agent może sam odpowiadać na pytanie o czas dostawy, a decyzję o zwrocie pieniędzy zawsze oddawać człowiekowi.

Anthropic w tekście „Building effective agents” opisuje agentów, którzy zatrzymują się w ustalonych punktach albo przy przeszkodzie i proszą człowieka o informację lub ocenę. OWASP wśród zabezpieczeń przed prompt injection wymienia potwierdzenie człowieka przy działaniach o wysokim ryzyku.

Kiedy człowiek powinien zatwierdzać?

• Gdy chodzi o pieniądze: zwroty, rabaty, korekty faktur.
• Gdy odpowiedź wiąże firmę: oferta, termin realizacji, uznanie reklamacji.
• Gdy sprawa jest nietypowa albo klient jest zdenerwowany.
• Gdy wiadomość ma trafić do wielu odbiorców naraz, np. do wszystkich klientów z opóźnioną dostawą.
• Gdy agent ma za mało danych i musiałby zgadywać, co grozi halucynacją.

Czy AI Act wymaga człowieka w pętli?

Art. 14 AI Act wymaga, żeby systemy AI wysokiego ryzyka, np. AI używane w rekrutacji i ocenie pracowników, dało się skutecznie nadzorować przez ludzi. Typowy agent do obsługi wiadomości albo porannego raportu zwykle nie jest systemem wysokiego ryzyka, więc ten przepis go nie obejmuje. Tryb szkiców jest wtedy dobrą praktyką, a nie obowiązkiem prawnym. Role i terminy z rozporządzenia: AI Act w małej firmie.

Tryb szkiców w naszych agentach

Każde wdrożenie zaczynamy w trybie szkiców. Agent pracuje na prawdziwych sprawach, ale nic nie wychodzi do klienta bez akceptacji. Zespół widzi, gdzie agent się myli, a my poprawiamy instrukcje i reguły. Dopiero gdy szkice w danej kategorii spraw przez dłuższy czas nie wymagają poprawek, część prostych spraw można oddać agentowi. Zwroty pieniędzy, anulacje i sprawy nietypowe zostają przy ludziach także później. Tak pracuje m.in. agent AI do wiadomości kupujących i zwrotów.

Najczęstsze pytania

Czy tryb szkiców nie zabiera tyle samo czasu co ręczna praca?

Zwykle nie, bo przeczytanie gotowego szkicu trwa krócej niż szukanie danych i pisanie odpowiedzi od zera. Agent sam sprawdza zamówienie, przesyłkę czy regulamin, a człowiek ocenia wynik.

Jak długo agent powinien działać w trybie szkiców?

Tak długo, aż zespół rzadko poprawia szkice w danej kategorii spraw. To decyzja oparta na wynikach z prawdziwych spraw, a nie na kalendarzu. Sprawy z pieniędzmi i wyjątki warto zostawić do akceptacji na stałe.

Kto w firmie powinien zatwierdzać szkice?

Osoba, która dziś odpowiada na te sprawy, np. obsługa klienta albo właściciel. Ważne, żeby miała uprawnienia do decyzji, które zatwierdza, i wiedziała, kiedy przekazać sprawę wyżej.

Źródła

• Anthropic: Building effective agents (grudzień 2024)
• OWASP Top 10 for LLM Applications 2025: LLM01 Prompt Injection
• Rozporządzenie (UE) 2024/1689 (AI Act), art. 14: tekst na EUR-Lex