Biurka w naszych biurach, identyfikatory i firmowe laptopy. Tak brzmi pierwsza pozycja listy, którą Dario Amodei zapisał dla niezależnego zespołu mającego oceniać ryzyko w jego własnej firmie. Dalej są uprawnienia w większości porównywalne z tymi, które mają wewnętrzne zespoły oceny ryzyka, oraz prawo publikowania ustaleń o poziomach ryzyka, incydentach i praktykach bez kontroli redakcyjnej Anthropic. Prezes firmy stojącej za modelami Claude ogłosił to w eseju z 12 września 2026 jako jednostronne zobowiązanie i wezwał pozostałe czołowe laboratoria, żeby zrobiły to samo. Polskie relacje streściły z tego jedno zdanie o apelu o spowolnienie.
Biurka, identyfikatory i prawo do niewygodnych publikacji
Sedno propozycji siedzi w trzech punktach, które Amodei wypisuje jeden pod drugim. Zewnętrzny zespół ma dostać biurka, identyfikatory i firmowe laptopy, czyli stały dostęp zbliżony do pracowniczego. Ma dostać przestrzenie robocze, narzędzia i uprawnienia w większości porównywalne z tymi, które mają wewnętrzne zespoły oceny ryzyka. Ma też umowę, która pozwala publikować ustalenia.
Ostatni punkt jest tym, który odróżnia tę propozycję od zwykłego audytu. Recenzenci mogą opisać publicznie poziomy ryzyka, incydenty, praktyki firmy oraz to, jaki dostęp faktycznie dostali i czego im odmówiono. Anthropic zastrzega sobie wąskie prawo do wykreślenia informacji wrażliwych dla bezpieczeństwa, objętych tajemnicą prawną, wrażliwych handlowo albo należących do osób trzecich. Do tego dokłada zdanie, które trudno potem odkręcić: firma nie może wykreślić ustalenia tylko dlatego, że jest dla niej niekorzystne. Recenzenci mają przy tym prawo powiedzieć publicznie, że wykreślenie usunęło coś istotnego dla ich wniosków.
Jako przykład organizacji, która mogłaby taką rolę pełnić, esej wymienia METR. Precedens Amodei bierze z bankowości, gdzie nadzorcy regulacyjni bywają osadzeni wśród pracowników nadzorowanej instytucji.
Dlaczego akurat teraz
Amodei podaje dwa powody i oba są konkretne. Pierwszy dotyczy tempa. Od mniej więcej tego lata postęp przyspieszył, bo systemy AI coraz sprawniej budują kolejne pokolenie systemów AI. Zjawisko dzieje się według niego w całej branży, włącznie z Anthropikiem. O tej samej sprawie pisał we wrześniu główny naukowiec OpenAI, co opisywaliśmy przy eseju Jakuba Pachockiego.
Drugi powód to incydent OpenAI i Hugging Face. Amodei przyznaje, że łatwo go zlekceważyć, bo nikt nie ucierpiał, a straty były niewielkie. Jego zdaniem rój o podobnym stopniu niedopasowania, ale większych możliwościach, mógłby wyrządzić szkody na inną skalę. Podaje konkretną prognozę: w ciągu 6 do 12 miesięcy taki rój mógłby przejąć internet trwałą siecią przejętych maszyn, ze stratami liczonymi w setkach miliardów dolarów.
Najmniej wygodne zdanie eseju dotyczy jednak własnego podwórka. Amodei pisze, że podobne, choć łagodniejsze incydenty zdarzały się w całej branży, w tym w Anthropicu. Dodaje, że firma ma dowody, iż jej własne zgłoszone incydenty niedopasowania wzięły się po części z niedokładnego filtrowania zepsutych środowisk treningowych.
Co Amodei rozumie przez tempowanie
Tu jest rozróżnienie, którego brakuje we wszystkich streszczeniach. Tempowanie w jego ujęciu nie polega na wstrzymaniu treningu ani postępu technicznego. Polega na tym, żeby firmy miały dość czasu na dopasowanie i zabezpieczenie modeli, a zewnętrzni oceniający zdążyli to potwierdzić.
Na pytanie, co dałby zyskany czas, esej odpowiada czterema obszarami. Doskonałość operacyjna, czyli monitorowanie, izolowanie i higiena środowisk treningowych. Dopasowanie modeli. Interpretowalność, którą Amodei porównuje do rezonansu magnetycznego dla wnętrza modelu i w której, jego zdaniem, znaczny postęp byłby możliwy w ciągu roku lub dwóch. Wreszcie testowanie, trudniejsze o tyle, o ile model jest zdolniejszy, bo sprawniejszy model łatwiej zmyli test.
Dopiero przy tych czterech punktach widać, po co komu osadzeni recenzenci. Każde zobowiązanie dotyczące tempa pełne jest ocen uznaniowych i sporów o literę kontra ducha zapisu. Bez kogoś z zewnątrz, kto widzi szczegóły, zostaje deklaracja firmy o samej sobie.
Dwa pozostałe kroki i miejsce, w którym się zacinają
Krok drugi to koordynacja firm w krajach demokratycznych. W Stanach Zjednoczonych najskuteczniejsza byłaby według Amodeiego regulacja obejmująca wszystkie czołowe firmy AI, także te niechętne dobrowolnej współpracy. Ponieważ stanowienie prawa trwa, proponuje równolegle dobrowolne standardy branżowe. Do tego potrzeba jednak wąskiego zwolnienia antymonopolowego od rządu, bo bez niego rozmowy konkurentów o wspólnych ograniczeniach są prawnie ryzykowne.
Tempowanie w demokracjach ma według niego twardy limit w postaci przewagi nad Chinami. Esej wymienia trzy grupy działań, które tę przewagę utrzymują. Pierwsza to zakaz sprzedaży zaawansowanych układów i sprzętu do ich produkcji oraz ściganie przemytu i zdalnego dostępu do centrów danych poza Chinami. Druga to zwalczanie nieuprawnionej destylacji modeli, o czym pisaliśmy przy ostrzeżeniu amerykańskich agencji. Trzecia to wzmocnienie zabezpieczeń samych firm i ochrona przed kradzieżą wag modeli.
Najbardziej mu odpowiada wiązanie tempa z tym, co dany system potrafi. Esej podaje przykładowy schemat punktów kontrolnych. Model o określonej zdolności mógłby wychodzić do świata dopiero z poświadczeniem konkretnych własności dopasowania, opartym na ewaluacjach, analizie interpretowalności i audycie środowisk treningowych. Jako przykład takiej zdolności Amodei wskazuje umiejętność wyjścia poza typowe mechanizmy izolacji. Drugą możliwość, czyli ograniczanie samych składników treningu, ocenia jako łatwiejszą do obejścia.
Krok trzeci, koordynacja globalna, rozpisany jest na cztery poziomy trudności. Zakaz najbardziej oczywistych zastosowań, na przykład do broni biologicznej, Amodei uważa za prawdopodobnie osiągalny. Wzajemne testowanie modeli przed wydaniem widzi jako wykonalne, choć trudne do wyegzekwowania. Ograniczenie tempa rekurencyjnej samopoprawy stawia na granicy możliwego i porównuje do układów SALT, czyli amerykańsko-radzieckich porozumień ograniczających zbrojenia strategiczne. Pełne tempowanie albo pauzę ocenia jako mało prawdopodobne w dającej się przewidzieć przyszłości.
Pierwsza Misja AI · Kodożercy
Rozumiesz zagrożenia AI, gdy rozumiesz jak naprawdę działa.
Kurs Pierwsza Misja AI ma osobną lekcję o ciemnej stronie AI: halucynacje, deepfakes, manipulacja. Zanim zaczniesz się bać, zacznij rozumieć.
Poznaj pełny program →
Czyj to jest interes
Warto czytać ten tekst z jedną poprawką. Napisał go prezes firmy, która na takim postulacie zyskuje reputacyjnie i od lat buduje wizerunek ostrożniejszego gracza. Zobowiązanie jest jednostronne, więc nikt nie musi go dotrzymać poza samym Anthropikiem, a terminu wdrożenia esej nie podaje. Amodei pisze wprawdzie, że wszystkie czołowe laboratoria powinny sformalizować pomysł stałych osadzonych recenzentów wspólnie z rządem. Na razie jest to jednak postulat, a nie ustalenie z kimkolwiek. Dokument regulatora wyglądałby zupełnie inaczej.
Reakcje z 12 września też mają swoją wagę i swoje ograniczenie. Sam Altman napisał w serwisie społecznościowym, że zgadza się z potrzebą tempowania granicy. Dodał, że wpuszczenie niezależnych oceniających z dostępem zbliżonym do pracowniczego jest dobrym pomysłem i że OpenAI zrobi to samo. Elon Musk udostępnił wpis Amodeiego i skomentował krótko, że ten ma rację. Są to deklaracje opublikowane w mediach społecznościowych, bez szczegółów wdrożenia i bez terminu.
Sama nazwa też nie jest nowa. Pod hasłem tempowania granicy szło już lipcowe wystąpienie 1134 pracowników czołowych laboratoriów, skierowane do rządu Stanów Zjednoczonych. Tamto było oddolne i adresowane na zewnątrz. To jest odgórne i dotyczy własnego biura. Dzień wcześniej o uzasadnieniu bezpieczeństwa, które musi przekonać niezależnych ekspertów, pisał też Yoshua Bengio.
Najczęstsze pytania
Czy to oznacza, że Anthropic zwalnia tempo prac nad Claude’em?
Z eseju nie wynika żadne wstrzymanie treningu ani wydawania modeli. Amodei definiuje tempowanie jako zapewnienie firmom dość czasu na dopasowanie i zabezpieczenie modeli oraz na potwierdzenie tego przez stronę trzecią. Pisze wprost, że postęp nadal będzie wydawał się szybki. Jedyne konkretne zobowiązanie w całym tekście dotyczy wpuszczenia zewnętrznego zespołu oceniającego, a nie zwolnienia prac.
Co ta propozycja zmienia dla firmy, która korzysta z modeli w Europie?
Na dziś nic bezpośrednio, bo to zobowiązanie jednej firmy wobec samej siebie, bez terminu i bez mocy prawnej. Pośrednio warto ją śledzić z dwóch powodów. Jeżeli zewnętrzni recenzenci rzeczywiście zaczną publikować ustalenia o incydentach, powstanie dodatkowe niezależne źródło informacji o zachowaniu modeli. Drugi powód jest regulacyjny. Amodei popiera ustawy skupione na przejrzystości i audycie zewnętrznym, a więc podobną logikę do tej, którą w sprawie modeli ogólnego przeznaczenia stosuje europejski akt o sztucznej inteligencji.
Podsumowanie
Propozycja z 12 września jest krótka i bardzo konkretna. Zewnętrzny zespół oceniający ryzyko ma dostać biurka w biurach Anthropic, identyfikatory, firmowe laptopy i uprawnienia w większości takie same jak wewnętrzne zespoły oceny ryzyka. Do tego prawo publikowania ustaleń o poziomach ryzyka, incydentach i praktykach, bez kontroli redakcyjnej firmy i bez możliwości wykreślenia czegoś tylko dlatego, że jest niewygodne. Dwa pozostałe kroki, koordynacja firm w demokracjach i koordynacja globalna, wymagają odpowiednio zgody rządu na rozmowy konkurentów i porozumienia z Chinami. Sam Amodei ocenia je jako trudniejsze. Wszystko to pozostaje zobowiązaniem jednej firmy, bez terminu i bez sankcji za niedotrzymanie, co warto trzymać w głowie przy każdej relacji pisanej tonem komunikatu regulatora.
Newsletter · DevstockAcademy & Kodożercy
Bądź na bieżąco ze światem IT, AI i automatyzacji
Co wtorek: newsy z branży, praktyczne tipy i narzędzia które warto znać. Zero spamu.
