Pytanie o to, gdzie fizycznie przetwarzane są dane, pada w każdym formularzu bezpieczeństwa. Wraca w każdym postępowaniu publicznym, w którym ktoś wpisał słowo chmura. Przy modelach językowych odpowiedź brzmiała dotąd zwykle tak: u dostawcy, czyli tam, gdzie ma serwery. Mistral AI udostępnił właśnie wybór regionu wnioskowania, więc odpowiedź przestaje być z góry ustalona. W tym samym komunikacie stoi jednak zdanie o dalszych podmiotach przetwarzających i to ono decyduje, ile ta obietnica jest warta.
Co dokładnie udostępnił Mistral AI
Regionalne punkty końcowe są od 11 sierpnia ogólnie dostępne, czyli wyszły z fazy testów i wchodzą do normalnej oferty. Klient wybiera, czy wnioskowanie jego modelu wykonuje się w Europie, czy w Stanach Zjednoczonych.
Producent podaje trzy powody, dla których ktoś miałby z tego skorzystać. Są to wymagania co do miejsca przechowywania danych, wymagania regulacyjne oraz opóźnienia. Ostatni bywa niedoceniany. Bliższy region skraca drogę zapytania, co widać zwłaszcza przy agentach wieloetapowych. Każde kolejne wywołanie dokłada tam czas oczekiwania, więc drobne różnice się sumują.
Drugą nowością jest usługa z gwarantowanym poziomem obsługi, na razie w publicznej wersji zapoznawczej. Obejmuje uzgodnione limity zapytań i umowę o dostępności. O jedno i drugie pyta każdy dział zakupów, gdy model ma trafić do procesu produkcyjnego.
Firma dopisuje przy tym zdanie o sobie. Ma być jedynym europejskim laboratorium, które daje naraz wybór regionu i umowne zobowiązanie do poziomu usługi. Tego twierdzenia nie sprawdzaliśmy u konkurencji. Traktujmy je więc jak fragment komunikatu marketingowego, a nie ustalony fakt.
Zdanie o podprzetwarzających, przez które “w Europie” znaczy mniej
Zaraz po zapowiedzi wyboru regionu stoi zastrzeżenie, którego nie da się pominąć przy czytaniu dokumentacji. Wnioskowanie i związane z nim przetwarzanie odbywają się w wybranym regionie. Producent zastrzega jednak ograniczone i zabezpieczone przekazania do dalszych podmiotów przetwarzających, które mogą następować poza tym regionem.
Dalszy podmiot przetwarzający to firma, której twój dostawca powierza fragment usługi: hosting, monitoring, obsługę zgłoszeń, wykrywanie nadużyć. W języku RODO jest to podprzetwarzający. Skorzystanie z niego wymaga wcześniejszej pisemnej zgody administratora danych, szczegółowej albo ogólnej, a dostawca odpowiada wobec klienta za wykonanie obowiązków przez ten podmiot. Mistral publikuje aktualną listę w swoim centrum zaufania.
Zwrot o ograniczonych i zabezpieczonych przekazaniach jest standardową formułą umowną. Sam w sobie nie oznacza niczego złego. Oznacza natomiast, że wybór Europy nie zamyka tematu, tylko go zawęża. Kto wpisuje ten wybór do analizy ryzyka jako gotową odpowiedź, wpisuje coś, czego dostawca nie obiecał.
Praktyczny wniosek jest prosty i mało efektowny. Trzeba wejść do centrum zaufania producenta i wyciągnąć aktualną listę podprzetwarzających. Potem sprawdzić, którzy z nich siedzą poza wybranym regionem i na jakiej podstawie następuje przekazanie. Dopiero to jest odpowiedź na pytanie z formularza.
O co zapytać dostawcę, zanim wpiszesz region do dokumentacji
Wybór regionu jest deklaracją techniczną. Dokumentacja wymaga czegoś więcej, a różnica między jednym a drugim bywa źródłem nieporozumień z działem prawnym.
Cztery pytania załatwiają większość sprawy. Pierwsze: czy wybór regionu jest zapisany w umowie, czy jest tylko ustawieniem w panelu. To druga sytuacja bywa kłopotliwa, bo dostawca może takie ustawienie zmienić jednostronnie.
Drugie pytanie dotyczy aktualnej listy podprzetwarzających i tego, którzy z nich działają poza wybranym regionem. Trzecie: na jakiej podstawie prawnej odbywają się te przekazania.
Czwarte pytanie wygląda na niezwiązane, a jest najczęściej mylone z resztą. Czy dane z twoich zapytań są wykorzystywane do uczenia modeli? To osobna kwestia od miejsca przetwarzania i w rozmowach regularnie zlewa się z nią w jedno.
Odpowiedzi zacznij od umowy powierzenia, centrum zaufania, polityki prywatności i ustawień samej usługi. Zwykle rozstrzygają one większość przypadków. Rozmowa z działem prawnym dostawcy jest potrzebna dopiero wtedy, gdy te dokumenty milczą o twojej sytuacji.
Warunek, o którym łatwo zapomnieć przy porównywaniu ofert: lista podprzetwarzających jest dokumentem żywym. Dostawcy zmieniają ją i zwykle zobowiązują się do uprzedzenia klienta z wyprzedzeniem. Sprawdzenie jej raz, na etapie wyboru, nie wystarcza na cały okres umowy.
Na platformę wchodzi GLM-5.2, czyli ostatni model Z.ai z otwartymi wagami
Trzecia część komunikatu jest ciekawa z zupełnie innego powodu. Mistral zapowiada, że na jego platformie staną otwarte modele innych producentów, a pierwszym z nich będzie GLM-5.2 chińskiego Z.ai. Mają działać na tej samej infrastrukturze i z tymi samymi kontrolami regionalnymi co modele gospodarza.
Wybór akurat tej wersji nie jest przypadkowy i dobrze widać to z naszej perspektywy. Kilka dni temu sprawdzaliśmy, gdzie leżą pliki nowszego GLM-5.3. Nie było ich w żadnym publicznym repozytorium tego producenta. GLM-5.2 jest więc najnowszą wersją Z.ai, której wagi da się pobrać i uruchomić u siebie.
Dla firmy wybierającej model to jest konkretna informacja, a nie ciekawostka. Otwarte wagi znaczą, że można zajrzeć do środka modelu, dostosować go i zatrzymać u siebie efekt tej pracy. Jeśli dostawca przestaje je publikować, ta możliwość znika przy kolejnej wersji, choć nazwa produktu wygląda tak samo.
Koalicja firm zamiast zwykłej inwestycji w moc obliczeniową
Ostatnia część zapowiedzi jest w istocie konstrukcją finansową, nie techniczną. Mistral zbiera grupę dużych przedsiębiorstw składających wieloletnie zobowiązania. Zagregowany popyt ma wspierać rozwój infrastruktury w Europie w skali nieosiągalnej dla pojedynczego uczestnika.
Mechanizm nazwano European Compute Units. Zobowiązania zamieniają się w rozłożony na lata dostęp do infrastruktury Mistrala, który można potem wykorzystać na różne produkty firmy. Według producenta takie zagregowanie popytu ma pomóc ustalić, jaką moc zbudować, gdzie ją ulokować i komu ma służyć.
Wśród cytowanych w komunikacie prezesów są Amadeus, ASML, Capgemini, Caisse des Dépôts i CMA CGM. To nie są firmy technologiczne z Doliny Krzemowej, tylko przemysł, logistyka, doradztwo i francuska instytucja publiczna. Taki skład mówi o intencji więcej niż deklaracje o suwerenności.
Plan mocy sięga 1 GW do 2030 roku. Proporcje wypada od razu zaznaczyć. To zapowiedź oparta na zobowiązaniach klientów, a nie zbudowana infrastruktura. Sama treść komunikatu nie podaje przy tym żadnej liczby: ta pojawia się dopiero w streszczeniu na stronie i w relacjach prasowych.
Co z tego wynika dla polskiej firmy i dla przetargu
Dla zespołu, który wdraża AI w Polsce, zmienia się jedna rzecz i jest ona konkretna. W ofercie Mistrala pojawia się opcja, której wcześniej u tego dostawcy nie było: korzystasz z modelu obsługiwanego przez producenta, ale wskazujesz region jego wnioskowania. Wybór miejsca przetwarzania sam w sobie nie jest przy tym nowością na rynku, bo dużym platformom chmurowym towarzyszy od dawna.
Ta opcja nie załatwia jednak żadnej zgodności sama z siebie i tu najłatwiej o nadinterpretację. Wybór regionu jest jednym elementem dokumentacji, obok listy podprzetwarzających, podstawy przekazania danych poza Europejski Obszar Gospodarczy i umowy powierzenia. Pytania, które regulator zadaje przed wdrożeniem AI, zaczynają się zresztą od czegoś innego. Od tego, jakie dane w ogóle trafiają do modelu.
W postępowaniu publicznym wybór regionu można opisać jako jeden z elementów architektury rozwiązania. Jego waga zależy od wymagań konkretnego postępowania i od pełnej dokumentacji przekazań. Dostawca, który takiego wyboru w ogóle nie daje, ma po prostu mniej do napisania w tej rubryce.
Pierwsza Misja AI · Kodożercy
Używasz AI codziennie, ale czy robisz to dobrze?
Kurs Pierwsza Misja AI pokaże Ci techniki promptowania, które naprawdę działają. Praktyczne ćwiczenia z prawdziwym modelem, gamifikacja i certyfikat.
Sprawdź program kursu →
Najczęstsze pytania
Czy wybór Europy oznacza, że dane nie opuszczą Unii?
Nie, i producent sam tego nie twierdzi. Komunikat mówi, że wnioskowanie i związane z nim przetwarzanie odbywają się w wybranym regionie. Zastrzega przy tym ograniczone i zabezpieczone przekazania do dalszych podmiotów przetwarzających poza tym regionem. Zakres tych przekazań opisuje centrum zaufania firmy i to tam trzeba zajrzeć przed podpisaniem umowy powierzenia. Wybór regionu zawęża problem, ale go nie usuwa.
Czy to jest to samo co uruchomienie modelu na własnym sprzęcie?
Nie i różnica jest zasadnicza. Przy własnym wdrożeniu pobierasz wagi modelu i uruchamiasz go w swojej serwerowni, więc dane mogą zostać w twojej infrastrukturze. Warunek jest taki, że lokalne pozostają również integracje, logi i telemetria. Przy regionalnym punkcie końcowym dane nadal trafiają do zewnętrznego dostawcy. Masz tylko wpływ na to, na którym kontynencie stoi maszyna, która je liczy. Pierwsze rozwiązanie daje pełną kontrolę i pełny koszt utrzymania, drugie zdejmuje utrzymanie i zostawia zależność.
Podsumowanie
Mistral AI zrobił trzy rzeczy naraz i tylko jedna z nich jest gotowa do użycia od zaraz. Wybór regionu wnioskowania między Europą a Stanami Zjednoczonymi jest ogólnie dostępny. Realnie zmienia odpowiedź na pytanie, które pada w każdej analizie ryzyka. Usługa z gwarantowanym poziomem obsługi jest dopiero w wersji zapoznawczej. Koalicja na moc obliczeniową z planem sięgającym 1 GW do 2030 roku to zapowiedź oparta na zobowiązaniach klientów, a nie zbudowana infrastruktura. Najważniejsze zdanie całego komunikatu jest przy tym najmniej efektowne: przekazania do dalszych podmiotów przetwarzających poza wybranym regionem nadal mogą występować. Kto wpisze samo słowo Europa do dokumentacji i uzna sprawę za zamkniętą, wpisze mniej, niż mu obiecano.
Newsletter · DevstockAcademy & Kodożercy
Bądź na bieżąco ze światem IT, AI i automatyzacji
Co wtorek: newsy z branży, praktyczne tipy i narzędzia które warto znać. Zero spamu.
