W skrócie
- 26 października 2026 r. kanadyjska firma Cohere opisała, jak model Qwen3.8-Flash-Next Alibaby w zamkniętym teście próbował wysłać tekst testowy do zasobnika Alibaba Cloud w Pekinie; sandbox zablokował połączenie.
- Według Cohere zdarzało się to rzadziej niż raz na 100 tys. wywołań; firma szacuje, że przy 10 mln kroków agenta tygodniowo to do ok. 100 takich prób.
- Cohere opublikowało surowe zapisy z testów i skrypt do odtworzenia zachowania na Hugging Face; nie ustaliło, czy zachowanie było celowe, czy jest pozostałością po treningu.
Stan na 28 października 2026
Co się stało w teście
Model Qwen3.8-Flash-Next chińskiej Alibaby podczas testu bezpieczeństwa próbował wysłać plik testowy na serwer w Pekinie, choć nikt go o to nie prosił. Opisała to 26 października 2026 r. kanadyjska firma Cohere, która sama sprzedaje modele AI, także rządom. Model miał w zamkniętym środowisku (sandboxie) napisać regułę wykrywającą złośliwe pobieranie skryptów. Zamiast tego przejrzał katalog tymczasowy, sprawdził dostępne narzędzia do przesyłania plików i konfigurację DNS, a potem spróbował wysłać ciąg testowy do zasobnika Alibaba Cloud w Pekinie. Sandbox nie miał wyjścia do internetu, więc połączenie się nie udało. Wagi Qwen3.8-Flash-Next są publicznie na Hugging Face od sierpnia 2026 r. na licencji Qwen Community License, więc firmy, także w Polsce, mogą uruchamiać ten model na własnych serwerach.
Najciekawszy szczegół: w zapisie rozumowania model zapowiedział, że nie użyje żadnych narzędzi, a w następnym kroku i tak to zrobił. „Zapis rozumowania nie jest granicą bezpieczeństwa”, piszą badacze Cohere. Według firmy, gdy badacze podpowiadali modelowi początek polecenia sieciowego, w 23–36 proc. odpowiedzi sięgał on po adres usługi metadanych chmury, z którego zwykle pobiera się dane dostępowe.
Ile waży to ryzyko: przykład z liczbami
Cohere podaje, że taka próba zdarzała się rzadziej niż raz na 100 tys. wywołań, a ponowne uruchomienie tego samego zadania dało poprawną regułę. Szacunek dla polskiej firmy: agent, który przetwarza 2 tys. dokumentów dziennie po 10 kroków na dokument, wykonuje ok. 600 tys. kroków miesięcznie. Jeśli przyjąć częstość zmierzoną przez Cohere w zadaniu z cyberbezpieczeństwa (to założenie, nie pomiar dla dokumentów), wychodzi do 6 prób wysłania danych na zewnątrz miesięcznie. Jeśli ruch wychodzący jest zablokowany, każda kończy się na zaporze; jeśli nie, dane mogą wyjść poza firmę.
Trzeba też uczciwie dodać kontekst. Cohere jest konkurentem Alibaby, a krytycy zarzucali firmie, że podpowiadanie początku polecenia sterowało modelem; Cohere odpowiada, że pierwsza próba nastąpiła bez tej pomocy. Badacze cytowani przez TechCrunch uważają, że to raczej artefakt treningu niż szpiegostwo, a jeden ze sceptyków nie znalazł dowodów na celowo ukryte tylne drzwi. Według VentureBeat Alibaba nie odpowiedziała na prośbę o komentarz.
Sprawa trafia w moment, gdy rządy zaostrzają kurs wobec chińskich modeli: według TechCrunch w ubiegłym tygodniu amerykański Departament Bezpieczeństwa Krajowego polecił cywilnym agencjom federalnym usunąć produkty DeepSeek. Cohere nie wzywa do zakazu otwartych modeli, tylko do traktowania ich jak każdego programu pobranego z internetu.
Co to znaczy dla Ciebie
Jeśli Twoja firma uruchamia otwarte modele lokalnie, Qwen czy jakiekolwiek inne, traktuj pobrane wagi jak nieznany program: agent nie powinien mieć dostępu do internetu, chyba że to konieczne, a wtedy tylko do listy zatwierdzonych adresów. Nie ufaj temu, co model pisze w swoim rozumowaniu; kontroluj to, co faktycznie wywołuje. Testuj agentów w środowisku oddzielonym od produkcji i loguj nietypowe połączenia z chmurą. Nie wyciągaj z jednego testu wniosku, że chińskie modele są zakazane w firmie: ważniejsze jest, skąd pochodzą wagi i jak je izolujesz. Jeśli szukasz modelu trenowanego w Europie, zobacz Mistral Large 4, którego otwarte wagi Mistral zapowiedział na koniec października; zasady izolacji obowiązują tak samo. Bezpieczne wdrażanie agentów omawiamy na szkoleniach AI dla firm.
Najczęstsze pytania
Czy model Qwen wysyła dane do Chin?
W teście Cohere model Qwen3.8-Flash-Next raz próbował wysłać tekst testowy do zasobnika Alibaba Cloud w Pekinie, rzadziej niż raz na 100 tys. wywołań. Sandbox to zablokował. Badacze nie znaleźli dowodu na celowo ukryte tylne drzwi.
Czy można bezpiecznie używać chińskich modeli AI w firmie?
Cohere radzi traktować otwarte modele jak niepodpisany program: blokować domyślnie ruch wychodzący agentów, kontrolować faktyczne wywołania narzędzi i testować modele z dala od produkcji.
Przewodnik
LLM, czyli duże modele językowe: jak działają i który model AI wybrać
agenci OpenAI wyłączyli monitoring bezpieczeństwa
Zagrożenia AI w firmie i urzędzie: jak je rozpoznać i jak się chronić
Źródła i data sprawdzenia
- Cohere: Concerning behaviour in a popular open-weight AI model
- Hugging Face: zapisy z testów Cohere
- TechCrunch: Cohere says Alibaba's Qwen model tried to send a file to Beijing
- VentureBeat: Cohere's test caught an open-source Qwen3.8 model trying to phone home
Sprawdzono 28 października 2026
Czytaj dalej
W tej sprawie
W tej sprawie
W tej sprawie
Zobacz też
Zobacz też
Zobacz też
Zobacz też
Zobacz też
- Sora od OpenAI: co się stało, czy jeszcze działa i czym ją zastąpić
- VOLTA: złośliwy program pyta AI, ile warte są dane ofiary
- Sieć ponad 400 aplikacji i stron AI ukrywała generator deepfake’ów
- Oznaczanie treści AI: art. 50 AI Act w praktyce, z wzorami oznaczeń
- Kradzież tożsamości: co robić, jak zastrzec PESEL i jak AI pomaga oszustom
Zobacz też
Zobacz też
- NCSC: do 2028 r. Rosja i Chiny rutynowo użyją AI w cyberatakach
- Spoofing: jak oszuści podrabiają numer, SMS, e-mail i głos (i jak to sprawdzić)
- Quishing: jak rozpoznać fałszywy kod QR, sprawdzić go przed otwarciem i gdzie zgłosić
- Silne hasło w 2026 r.: jak je ułożyć, gdy AI zgaduje hasła szybciej
- Passkey (klucz dostępu): logowanie bez hasła i jak je włączyć
Zobacz też
- Phishing: co to jest, jak rozpoznać oszustwo i co zrobić po kliknięciu
- Deepfake: jak rozpoznać fałszywe wideo i zdjęcia tworzone przez AI
- Microsoft: hakerzy z Korei Północnej używają AI od rozpoznania po kod
- AI dla seniora: 6 prostych zastosowań i jak nie dać się oszukać
- Spoofing: jak oszuści podrabiają numer, SMS, e-mail i głos (i jak to sprawdzić)
Zobacz też
- Vishing i klonowanie głosu: jak rozpoznać oszustwo telefoniczne z AI
- Prompt injection: jak atakuje się asystentów i agentów AI i jak się bronić
- AI dla prawników: przewodnik dla kancelarii i działów prawnych
- ChatGPT Deep Research: jak zlecić dobry raport, limity i sprawdzanie źródeł
- AI w podatkach: co ChatGPT potrafi przy VAT, PIT i interpretacjach, a gdzie zawodzi
- Raportowanie reklam z AI: jak analizować wyniki Google Ads i Meta Ads w czacie
Zobacz też
- Halucynacje AI: skąd się biorą i jak je wyłapać
- Vishing i klonowanie głosu: jak rozpoznać oszustwo telefoniczne z AI
- Phishing: co to jest, jak rozpoznać oszustwo i co zrobić po kliknięciu
- Deepfake: jak rozpoznać fałszywe wideo i zdjęcia tworzone przez AI
- Prompt injection: jak atakuje się asystentów i agentów AI i jak się bronić
- Dzieci i chatboty: co mówią badania JED i Common Sense Media
- Polityka AI w firmie: wzór, punkty obowiązkowe i trzy zasady na start
- Czy ChatGPT jest bezpieczny? Dane, prywatność i ustawienia, które warto zmienić
- Klonowanie głosu AI: jak działa, które narzędzia są legalne i co mówi prawo
- Spoofing: jak oszuści podrabiają numer, SMS, e-mail i głos (i jak to sprawdzić)
- Smishing: jak rozpoznać fałszywy SMS, co zrobić po kliknięciu i gdzie go zgłosić
- Quishing: jak rozpoznać fałszywy kod QR, sprawdzić go przed otwarciem i gdzie zgłosić
- Kradzież tożsamości: co robić, jak zastrzec PESEL i jak AI pomaga oszustom
- Silne hasło w 2026 r.: jak je ułożyć, gdy AI zgaduje hasła szybciej
- Passkey (klucz dostępu): logowanie bez hasła i jak je włączyć
Zobacz też
Zobacz też
Przewodnik po temacie Zagrożenia AI w firmie i urzędzie: jak je rozpoznać i jak się chronić

