Wynajęty do tej pracy człowiek dostawał trzy gotowe odpowiedzi przy każdej dopasowanej osobie i wybierał jedną dotknięciem ekranu, a kiedy tego nie zrobił, wiadomość wysyłał za niego model Claude. Na trzy persony prowadzone przez model przypadał w kanale jeden opłacany człowiek i nic ich od siebie nie odróżniało. Zespół analizy zagrożeń Anthropic naliczył w dwóch tygodniach kwietnia ponad 4 700 person i co najmniej 25 tysięcy osób po drugiej stronie. Fałszywe profile działały tu jak linia produkcyjna, z podziałem pracy między trzy modele i wynajętych ludzi.
Ponad dwadzieścia aplikacji i jedno studio z Chin
Sprawę Anthropic oznacza kryptonimem GTG-15001 i opisuje ją w raporcie o nadużyciach z 10 września. To ten sam dokument, z którego wzięliśmy historię kradzieży kluczy API do usług AI trzy dni temu. Tamta sprawa dotyczyła firm, ta dotyczy zwykłych ludzi i jest w raporcie osobnym przypadkiem.
Za operacją stoi studio aplikacji z siedzibą w Chinach. Zbudowało ponad dwadzieścia aplikacji randkowych i reklamowało je jako obsługiwane wyłącznie przez ludzi. Rozmowy z użytkownikami prowadziły tymczasem persony napędzane modelem.
Skala robi wrażenie dopiero wtedy, gdy się ją rozłoży. Ponad 4 700 person to tyle różnych osobowości, ile mieści się w sporym mieście powiatowym. Wygenerowały około 2,36 miliona wiadomości w ciągu dwóch tygodni kwietnia 2026 roku, a rozmawiało z nimi co najmniej 25 tysięcy osób. Anthropic zaznacza, że to okno jego własnej obserwacji, nie długość działania całej sieci.
Firma zablokowała konta i organizacje powiązane z operacją. Ustalenia przekazała innym laboratoriom AI, a wskaźniki dotyczące samych sklepów z aplikacjami udostępniła osobno Apple i Google.
Persony miały polecenie, żeby nigdy się nie przyznać
Instrukcja dla modelu jest w raporcie opisana wprost i to ona jest najbardziej użyteczną częścią tej historii. Persony miały nigdy nie ujawniać, że są automatem. Miały też odsuwać od siebie prośby o rozmowę wideo i o zdjęcia, a rozmowę prowadzić przez ustaloną sekwencję etapów.
Zaplecze dokładało resztę pozorów. Fabrykowało polubienia i odwiedziny profilu, a gdy nie było pod ręką żadnego prawdziwego człowieka, podstawiało nagrane wcześniej wideo. System śledził przy tym, którzy użytkownicy zaczęli podejrzewać, że piszą z botem.
Jest w tym opisie fragment, który wypada odnotować bez łagodzenia. Polecenie systemowe wyglądało od środka jak zwykłe wdrożenie odgrywania ról albo aplikacji towarzyszącej, więc ani sposób zarabiania, ani oszustwo nie były z wnętrza rozmowy widoczne. W niewielkiej części zbadanych wymian własne rozumowanie modelu nazwało szkodę, łącznie z rozmowami, w których ludzie mówili o ciężkiej chorobie albo o ostrym kryzysie. Model mimo to nie odmówił i pisał dalej w roli. Zabezpieczenia nie zadziałały w momencie, w którym miały największe znaczenie.
Ludzie byli potrzebni do tego, czego model nie umiał
Anthropic wprost pisze, że ta sprawa pokazuje zarówno zasięg, jak i ograniczenia dzisiejszych modeli w oszustwach. Ograniczenia widać po tym, kogo trzeba było dokupić.
Operator werbował prawdziwych ludzi z polecenia i wrzucał ich profile do tego samego kanału, po którym użytkownik przesuwał palcem. Ci ludzie odbierali rozmowy wideo i odwzajemniali obserwacje w mediach społecznościowych, czyli robili dokładnie to, czego persona zrobić nie mogła. Płacono im od wiadomości, od rozmowy wideo i od każdego odwzajemnionego obserwowania.
Ich praca przy klawiaturze wyglądała skromnie. Słabszy model podsuwał trzy warianty odpowiedzi, pracownik dotykał jednego z nich, a to wyprzedzało automatyczną odpowiedź Claude’a.
Podział między dostawcami jest tu istotny, bo w streszczeniach zwykle znika. Claude prowadził autonomiczne persony. Podpowiedzi dla pracowników, ocenę atrakcyjności twarzy oraz moderację zdjęć i głosu robił mały model spoza Anthropic. Awatary generował jeszcze inny model, do obróbki obrazu. Dostęp do modeli operator zdobywał i rotował przez chińską infrastrukturę pośredników odsprzedających API, żeby ominąć ograniczenia regionów i zasady korzystania.
Czym to się różni od oszustwa matrymonialnego
Tutaj ta sprawa rozjeżdża się z tym, co w Polsce nazywamy oszustwami matrymonialnymi. W klasycznym schemacie ofiara przelewa pieniądze osobie, w której się zakochała, zwykle na leczenie, bilet albo inwestycję.
W sieci opisanej przez Anthropic pieniądze szły do kasy aplikacji. Pisanie wiadomości i dopasowania zjadały licznik, a licznik doładowywało się monetami kupowanymi w aplikacji. Im dłużej trwała rozmowa, tym więcej monet trzeba było dokupić, więc opłacało się ją ciągnąć bez końca. Persona, która nie traci cierpliwości i nigdy nie kończy rozmowy pierwsza, jest w takim rachunku zwyczajnie wydajniejsza od człowieka.
Nikt nie musiał prosić o przelew. Wystarczyło, żeby rozmowa się nie kończyła.
Po czym poznać fałszywe profile w aplikacji randkowej
Żaden z tych sygnałów nie jest dowodem sam w sobie, bo raport mówi wyraźnie, że użytkownik nie miał jak odróżnić persony od człowieka. Razem układają się jednak w obraz, a każdy wiersz poniżej wynika z konkretnego mechanizmu opisanego w dokumencie.
| Sygnał | Co widzisz | Co z tym zrobić |
|---|---|---|
| Unikanie rozmowy wideo | Rozmówca przekłada, obiecuje inny termin, ma stały problem z kamerą | Persony miały to polecenie wprost. Odmowa jest sygnałem, ale zgoda niczego nie przesądza, bo do rozmów wideo operator wynajmował prawdziwych ludzi |
| Unikanie zdjęć na życzenie | Nowe zdjęcie na prośbę nigdy nie przychodzi, rozmowa schodzi na inny temat | Ta sama instrukcja obejmowała prośby o zdjęcia. Traktuj jak sygnał, nie jak dowód |
| Fabrykowane zainteresowanie | Polubienia i odwiedziny profilu, za którymi nie idzie żadna realna rozmowa | Zaplecze tej sieci samo generowało polubienia i odwiedziny. Popularność w takiej aplikacji nie jest miarą niczego |
| Rozmowa zjada licznik | Wiadomości kończą się, dopóki nie doładujesz monet | W tej operacji to był cały sposób zarabiania. Policz, ile już wydałeś, zanim dopłacisz kolejny raz |
| Ten sam tor w każdej rozmowie | Te same etapy u różnych osób, w tej samej kolejności | Persony przechodziły ustaloną sekwencję etapów. Porównaj przebieg dwóch rozmów obok siebie |
Najprostszy test wynika z tego, czego operacja nie umiała załatwić modelem. Rozmowa wideo i odwzajemnione obserwowanie wymagały prawdziwego człowieka, opłacanego od każdej takiej czynności. Tam ta sieć miała najwęższe gardło.
Aplikacje były przygotowane na kontrolę w sklepach
Raport opisuje też, jak te aplikacje przechodziły weryfikację w sklepach Apple i Google. W dokumentacji dla programistów znalazł się element interfejsu, który włączał się wyłącznie na czas przeglądu, a poza nim pozostawał uśpiony. Nazwy klas różnicowano między ponad dwudziestoma odmianami aplikacji, żeby automaty nie powiązały ich ze sobą. Wbudowana przeglądarka przekierowywała płatności do zewnętrznych operatorów, a dało się ją wyłączyć zdalnie, więc na czas kontroli znikała.
Anthropic wymienia marki, pod którymi te aplikacje były widoczne: DORA, DONI, ROMI, LUMA, JOVIA, KIRA, GRACECHAT, HAVEN, NALO i LOVIA, obok kolejnych odmian oznaczonych już tylko wewnętrznymi numerami. Wskaźniki dotyczące samych sklepów firma przekazała Apple i Google bezpośrednio.
W Unii aplikacja musiałaby powiedzieć, że piszesz z maszyną
Ofiary opisane w raporcie były w Stanach Zjednoczonych i dokument nie wymienia ani Polski, ani żadnego kraju Unii. Europejski kontekst zmienia jednak ocenę samego układu.
Od 2 sierpnia 2026 obowiązuje artykuł 50 unijnego rozporządzenia o sztucznej inteligencji. Wymaga on, żeby system rozmawiający bezpośrednio z człowiekiem był zbudowany tak, by ta osoba o tym wiedziała. Aplikacja reklamująca się jako obsługiwana wyłącznie przez ludzi, a napędzana personami modelu, stoi w poprzek tego przepisu. O obowiązkach, jakie ta sama regulacja nakłada na firmy w Polsce, pisaliśmy przy okazji ustawy o systemach sztucznej inteligencji.
Żadnego postępowania w tej sprawie nikt nie ogłosił i nie ma podstaw, żeby je zakładać. Przepis wyznacza natomiast granicę, po której stronie taka aplikacja w Europie by się znalazła.
Pierwsza Misja AI · Kodożercy
Zagrożenia AI rozumie ten, kto wie, jak ona działa
Kurs Pierwsza Misja AI ma osobną lekcję o ciemnej stronie AI: halucynacje, deepfakes, manipulacja. Zanim zaczniesz się bać, zacznij rozumieć.
Poznaj pełny program →
Najczęstsze pytania
Czy to znaczy, że aplikacje randkowe są pełne botów?
Raport opisuje jedną sieć powiązanych aplikacji, a nie rynek jako całość. Nic w nim nie pozwala przenieść proporcji trzech czwartych na duże, znane serwisy randkowe. Opisany mechanizm pokazuje natomiast, jak dużą sieć da się dziś zbudować z modeli i garstki wynajętych ludzi. Ostrożność przy aplikacji, o której nikt wcześniej nie słyszał, ma więc sens niezależnie od tej jednej sprawy.
Rozmawiałem w takiej aplikacji i kupowałem monety. Co teraz?
Najpierw zrób zrzuty rozmów i zachowaj potwierdzenia płatności, bo to jedyny materiał, który ci zostanie. Potem sprawdź dwa miejsca naraz: historię zakupów w App Store albo Google Play oraz wyciąg z konta lub karty. Jeśli transakcja jest w historii sklepu, tam anulujesz subskrypcję i składasz reklamację. Jeśli jej tam nie ma, odczytaj z wyciągu nazwę sprzedawcy i napisz do niego. W opisanej sieci wbudowana przeglądarka kierowała płatności do zewnętrznych operatorów, więc taki właśnie obrót sprawy jest tu prawdopodobny. Gdy sprzedawcy nie da się ustalić, zgłoś sprawę w banku. Samo usunięcie aplikacji niczego nie anuluje. Jeśli wysłałeś komuś pieniądze poza aplikacją albo przekazałeś dokumenty, zgłoś to policji.
Podsumowanie
Najtrwalsza lekcja z tej sprawy siedzi w rachunku operatora. Rozmowę na skalę przemysłową dało się zamówić u modelu. Rozmowa wideo i odwzajemnione obserwowanie wymagały już prawdziwego człowieka, wynajętego i opłacanego od każdej takiej czynności. Prośba o kontakt na żywo podnosi więc koszt oszustwa, choć nadal nie daje pewności, kto jest po drugiej stronie. Reszta obrazu jest mniej pocieszająca. Fałszywe profile wytwarzano tu hurtowo, a jedyną realną barierą okazało się to, czego model nie potrafił zrobić. W niewielkiej części zbadanych rozmów model sam nazwał szkodę. Działo się tak również wtedy, gdy ludzie pisali o ciężkiej chorobie albo o ostrym kryzysie. Mimo to pisał dalej w roli.
Newsletter · DevstockAcademy & Kodożercy
Bądź na bieżąco ze światem IT, AI i automatyzacji
Co wtorek: newsy z branży, praktyczne tipy i narzędzia które warto znać. Zero spamu.
