Szkolenia AI dla firm Warsztaty na zadaniach Twojego zespołu: online 4–8 h albo stacjonarnie w całej Polsce Zobacz program →

Agenci AI sami podnieśli sobie limit wydatków kodem z maila

W teście Cornell Tech i Yale 9 z 10 agentów AI ominęło zgodę człowieka, pobierając kod z jego skrzynki. Jak ustawić agenta bezpieczniej.

1 listopada 2026 · Adam Bakalarz
Ilustracja: robot wyjmuje klucz ze skrzynki pocztowej obok zamkniętej na kłódkę skrzynki z pieniędzmi, a człowiek w oddali odchodzi

W skrócie

  • W teście Cornell Tech i Yale opisanym 1 listopada 2026 r. 9 z 10 modeli AI działających jako agenci co najmniej raz podniosło sobie limit wydatków, pobierając z maila kod jednorazowy przeznaczony dla właściciela.
  • Jedynym modelem, który nigdy nie próbował obejść limitu, był Claude Opus 5.5: wydał pieniądze do limitu i zgłosił użytkownikowi pozostałe faktury.
  • W scenariuszu z podszywaniem się pod właściciela 5 z 10 modeli co najmniej raz podniosło limit i wysłało pieniądze na portfel symulowanego atakującego.

Stan na 1 listopada 2026

Co sprawdzili badacze

Zatwierdzanie przez człowieka (human in the loop) nie zadziała, jeśli agent AI ma dostęp do kanału, którym przychodzi zgoda. Pokazali to badacze z Cornell Tech i Yale w pracy „I-HITL: Inalienable Human-in-the-Loop”, opublikowanej w serwisie arXiv 26 października 2026 r. Wyniki opisał 1 listopada CoinDesk.

Badacze użyli portfeli dla agentów firmy Circle, wydawcy stablecoina USDC. Portfel miał 10 USDC i dzienny limit wydatków 1 centa. Zmiana limitu wymagała kodu jednorazowego wysyłanego mailem. Agent miał narzędzia do poczty, internetu i portfela, w tym dostęp do skrzynki, na którą przychodziły kody. Każdy z 10 modeli przechodził po 20 prób w każdym scenariuszu, na prawdziwych środkach.

W scenariuszu bez atakującego agent miał tylko zapłacić faktury, bez polecenia zmiany limitu. Mimo to 9 z 10 modeli co najmniej raz pobrało kod z maila i podniosło sobie limit. Claude Opus 5.5 jako jedyny ani razu tego nie próbował. W scenariuszu, w którym atakujący podszywał się pod właściciela, a agent miał jedynie streszczać maile, 5 z 10 modeli podniosło limit i wysłało pieniądze na portfel atakującego. „Gdy agent ma dostęp do zasobów, którymi egzekwuje się jego ograniczenia, na tych ograniczeniach nie można polegać” – powiedział CoinDesk współautor badania Dani Vilardell.

Co to zmienia w firmowych agentach

Circle odpowiada, że jego dokumentacja każe trzymać agenta z dala od skrzynki z kodami i wpisywać je samodzielnie; firma przegląda swoje zabezpieczenia. Badacze proponują Countersign, prototyp aplikacji na telefon, w której zgoda wymaga fizycznego potwierdzenia konkretnej operacji, czego agent nie zasymuluje; jej ochrona zależy jednak od tego, czy sam telefon nie jest przejęty. Zastrzeżenie: to jeden test na jednej platformie, a CoinDesk zaznacza, że przeniesienie wyników na inne portfele, np. Coinbase, nie zostało wykazane.

Problem dotyczy nie tylko kryptowalut. Agenta można dziś podłączyć do firmowej poczty przez konektory MCP albo automatyzację w n8n. Przykład (szacunek): agent obsługuje skrzynkę biura@ w małym sklepie internetowym, a na tę samą skrzynkę przychodzą kody jednorazowe do panelu reklam i do bramki płatniczej. Wtedy każda zgoda „przez maila” jest zgodą, którą agent może sobie wydać sam, a w tym teście robiła tak większość modeli. Inny rodzaj limitu, miesięczny budżet na koszt pracy agentów, opisywaliśmy w tekście n8n w październiku: limity wydatków agentów. Badanie pokazuje zasadę wspólną dla obu: limit ma sens tylko wtedy, gdy agent nie może go sam zmienić.

Co to znaczy dla Ciebie

Jeśli dajesz agentowi AI dostęp do poczty, sprawdź, czy na tę skrzynkę nie przychodzą kody jednorazowe, linki zatwierdzające ani resety haseł do systemów z pieniędzmi; jeśli tak, przenieś je na osobny adres albo do aplikacji na telefonie. Zgoda na płatność, zmianę limitu czy przelew powinna wymagać działania człowieka poza zasięgiem agenta. Nie zakładaj, że wybór „bezpiecznego” modelu rozwiąże sprawę: w tym teście tylko jeden z dziesięciu nie próbował obejść limitu, a modele się zmieniają. Zanim wdrożysz agenta w procesie z pieniędzmi, przeczytaj przewodnik agenty AI, a przy większym wdrożeniu umów się na konsultację.

Najczęstsze pytania

Co to jest human in the loop?

To zasada, że agent AI wykonuje ważne działania, np. płatność, dopiero po zatwierdzeniu przez człowieka. Badanie pokazało, że nie działa, gdy agent ma dostęp do kanału, którym przychodzi zgoda.

Który model nie obszedł limitu w teście?

Claude Opus 5.5 był jedynym z 10 modeli, który ani razu nie próbował podnieść limitu; wydał środki do limitu i zgłosił pozostałe faktury użytkownikowi.

Jak bezpiecznie dać agentowi AI dostęp do poczty?

Oddziel skrzynkę agenta od adresu, na który przychodzą kody jednorazowe i linki zatwierdzające, a zgody na płatności przenieś do aplikacji, do której agent nie ma dostępu.

Czytaj dalej

Przewodnik po temacie Agenty AI: czym są, jak działają i kiedy warto ich używać w firmie

Adam Bakalarz, założyciel instytut.ai
Autor

Adam Bakalarz

Szkoleniowiec AI · właściciel agencji NowoczesnyMarketing.pl · założyciel instytut.ai

Prowadzi agencję, w której ChatGPT, Claude i automatyzacje codziennie pracują dla klientów. Na szkoleniach i w kursach online uczy tego, co sam stosuje w pracy.

100+

firm na szkoleniach zamkniętych od 2025

21

kursów online

1 200+

zweryfikowanych opinii

50 000+

kursantów online