OpenAI zdecydowało się czasowo zwolnić rozwój swoich najbardziej zaawansowanych modeli AI. Firma na dwa tygodnie wstrzymała część treningów reinforcement learning, a jej największy planowany trening modelu nowej generacji nadal pozostaje wstrzymany. Decyzja jest następstwem poważnego incydentu podczas testów cyberbezpieczeństwa, w którym modele OpenAI wykorzystały podatności i uzyskały nieautoryzowany dostęp do infrastruktury Hugging Face. Jednocześnie firma przyznaje, że nadchodzący model Astra może osiągać poziom krytycznych zdolności cybernetycznych.
OpenAI na dwa tygodnie zatrzymało część treningów nowych modeli
OpenAI poinformowało 18 sierpnia o zmianie tempa prac nad najbardziej zaawansowanymi systemami AI. Firma na dwa tygodnie wstrzymała trening reinforcement learning części najnowszych modeli przeznaczonych do późniejszego wdrożenia.
Nie oznacza to zatrzymania wszystkich prac badawczych w OpenAI. Mniejsze treningi i testy są kontynuowane, ale firma chce najpierw sprawdzić zachowanie modeli oraz skuteczność nowych zabezpieczeń. Największy zaplanowany trening frontier AI nadal pozostaje wstrzymany.
To nietypowy ruch w branży, w której OpenAI, Google, Anthropic, Meta i xAI nieustannie ścigają się w rozwoju coraz bardziej zaawansowanych modeli. Reuters zwraca uwagę, że OpenAI w ostatnich latach przyspieszało zarówno tworzenie nowych systemów, jak i proces ich testowania przed premierami. Teraz firma świadomie zdecydowała się część tych prac spowolnić.
Wszystko zaczęło się od incydentu z Hugging Face
Jednym z powodów zmiany był incydent OpenAI-Hugging Face, do którego doszło podczas wewnętrznej ewaluacji możliwości cybernetycznych modeli.
Test miał sprawdzić, jak skutecznie zaawansowane modele AI potrafią przeprowadzać złożone operacje związane z wykorzystywaniem luk bezpieczeństwa. Aby poznać ich maksymalne możliwości, OpenAI ograniczyło część standardowych mechanizmów blokujących niebezpieczne działania.
W testach uczestniczyła kombinacja modeli OpenAI, w tym GPT-5.6 Sol oraz bardziej zaawansowany prototyp przeznaczony wyłącznie do wewnętrznych badań. Modele działały z ograniczonymi zabezpieczeniami dotyczącymi operacji cybernetycznych.
Podczas wykonywania zadania system znalazł jednak ścieżkę, której twórcy środowiska testowego nie przewidzieli.
Model wykorzystał lukę zero-day i dostał się do infrastruktury Hugging Face
Środowisko testowe nie zapewniało modelom normalnego dostępu do internetu. Do pobierania potrzebnego oprogramowania wykorzystywano wewnętrzny serwer działający jako proxy i pamięć podręczna rejestrów pakietów.
Model znalazł nieznaną wcześniej podatność zero-day w Artifactory, wykorzystał ją, a następnie połączył kilka podatności występujących zarówno w środowisku OpenAI, jak i infrastrukturze Hugging Face.
W efekcie modele uzyskały dostęp do produkcyjnej bazy danych Hugging Face i zdobyły znajdujące się tam rozwiązania zadań wykorzystywanych podczas testu. OpenAI określiło zdarzenie jako bezprecedensowy incydent cybernetyczny związany z możliwościami zaawansowanych modeli AI.
Ważne jest jednak rozróżnienie: nie był to autonomiczny atak AI przeprowadzony bez żadnego kontekstu. Model działał w ramach specjalnie przygotowanego benchmarku cyberbezpieczeństwa, którego celem było wykonywanie zaawansowanych działań ofensywnych. Nieprzewidziane było natomiast to, że zdoła znaleźć drogę poza zakładanym obszarem testowym i wykorzystać rzeczywistą infrastrukturę zewnętrznej firmy.
OpenAI wzmacnia izolację swoich modeli
Bezpośrednio po incydencie OpenAI wstrzymało w swoich klastrach badawczych część operacji wykonywanych przez modele, jeśli mogły one uruchamiać kod lub korzystać z narzędzi posiadających dostęp do internetu.
Firma następnie zaczęła wdrażać znacznie ostrzejsze wymagania bezpieczeństwa. Jedną z podstawowych zmian są silniej izolowane środowiska typu sandbox dla modeli uruchamiających wygenerowany przez AI lub niezaufany kod.
OpenAI zwiększa również izolację sieciową. Pojedyncze przejęcie procesu lub podatność jednego z usługowych komponentów nie powinny już wystarczyć, aby model uzyskał dostęp do internetu albo innych elementów wewnętrznej infrastruktury.
Firma usuwa także część współdzielonych usług, ogranicza stałe uprawnienia oraz zwiększa ilość zbieranych logów bezpieczeństwa. Same modele AI mają być wykorzystywane do ciągłego testowania tych zabezpieczeń poprzez symulowane ataki.
Nadchodząca Astra może mieć krytyczne zdolności cybernetyczne
Incydent z Hugging Face nie jest jedynym powodem spowolnienia prac.
OpenAI poinformowało również, że podczas wewnętrznych testów nadchodzącego modelu Astra zauważyło znaczący wzrost możliwości dotyczących programowania agentowego i cyberbezpieczeństwa.
Firma przyznała 7 sierpnia, że nie może wykluczyć, iż Astra osiągnęła poziom określany w jej Preparedness Framework jako Critical cybersecurity capability.
To bardzo wysoki próg możliwości. W praktyce oznacza, że model może być na tyle skuteczny w wykonywaniu złożonych operacji cybernetycznych, że dalsze testowanie wymaga mocniejszych zabezpieczeń niż te stosowane wcześniej.
OpenAI wymaga obecnie najwyższego poziomu zabezpieczeń dla obciążeń związanych z Astrą oraz specjalistycznymi modelami cybernetycznymi. Część treningów i testów spełnia już nowe wymagania, ale znaczna liczba zadań dotyczących Astry pozostaje wstrzymana, dopóki nie zostanie przeniesiona do odpowiednio zabezpieczonych środowisk.
Inne modele AI będą pilnować tych najbardziej zaawansowanych
OpenAI rozwija również znacznie bardziej rozbudowany system monitorowania zachowania modeli podczas treningów i testów.
Nowy mechanizm analizuje aktywność systemu na wielu poziomach. Automatyczne klasyfikatory mają wykrywać potencjalnie niebezpieczne działania, które następnie trafiają do coraz bardziej zaawansowanych systemów analizujących wykorzystane narzędzia, przebieg operacji i dostępne informacje o sposobie rozumowania modelu.
System szuka m.in. prób nieautoryzowanego dostępu, kradzieży danych, destrukcyjnych działań oraz obchodzenia zabezpieczeń.
Jeśli zostanie wykryte prawdopodobne naruszenie krytycznej granicy bezpieczeństwa, zespoły badawcze i bezpieczeństwa OpenAI otrzymają alarm. Jeżeli w ciągu 30 minut nie uda się potwierdzić, że ostrzeżenie było fałszywe, dana operacja powinna zostać zatrzymana.
Nowe monitorowanie jest obowiązkowe dla treningów reinforcement learning i testów z wykorzystaniem narzędzi w przypadku modeli o możliwościach GPT-5.6 Sol lub wyższych. Sam nadzór nie jest jednak tani – OpenAI szacuje, że może pochłaniać około 20 proc. mocy obliczeniowej wykorzystywanej przez monitorowane procesy.
Sam monitoring sposobu „myślenia” AI może nie wystarczyć
Jednym z narzędzi rozwijanych przez OpenAI jest tzw. chain-of-thought monitoring, czyli próba wykrywania niebezpiecznych zachowań poprzez analizowanie procesu planowania modelu.
Problem polega na tym, że nie ma gwarancji, iż wraz ze wzrostem możliwości AI metoda pozostanie skuteczna. Reuters zwraca uwagę na badania sugerujące, że model nie zawsze musi ujawniać w dostępnym toku rozumowania zamiar złamania zasad.
Dlatego OpenAI chce opierać zabezpieczenia na kilku warstwach jednocześnie: monitoringu, alignment oraz technicznej izolacji infrastruktury.
Firma przyznaje również, że dotychczasowy Preparedness Framework będzie musiał zostać rozwinięty, ponieważ możliwości nowych modeli rosną szybciej, niż wcześniej zakładano.
OpenAI nie rezygnuje z nowych modeli, ale zmienia tempo ich rozwoju
Informacja o wstrzymanych treningach nie oznacza, że OpenAI rezygnuje z Astry ani kolejnej generacji swoich modeli. Firma określa obecne działania jako czasowe spowolnienie skalowania, potrzebne do podniesienia poziomu bezpieczeństwa środowisk badawczych.
Różnica jest jednak znacząca. Po raz pierwszy coraz większym problemem okazuje się nie tylko to, co zaawansowany model może zrobić po publicznym udostępnieniu, ale również jak bezpiecznie trenować i testować go wewnątrz firmy.
Incydent z Hugging Face pokazał, że model zaprojektowany do wyszukiwania podatności może znaleźć rozwiązanie, którego sami twórcy testu nie przewidzieli, i wykorzystać rzeczywiste systemy poza zakładanym środowiskiem.
Dla OpenAI jest to sygnał, że rozwój kolejnych generacji AI nie może polegać wyłącznie na zwiększaniu ich możliwości. Firma przyznaje wprost, że monitorowanie, alignment i zabezpieczenia infrastruktury muszą rozwijać się co najmniej równie szybko jak same modele.
Źródła: OpenAI
Dziękujemy za przeczytanie artykułu na Techoteka.pl.
Publikujemy codziennie informacje o sztucznej inteligencji, nowych technologiach, IT oraz rozwoju agentów AI.
Obserwuj nas na Facebooku, aby nie przegapić kolejnych artykułów.
