OpenAI i NASK podpisały porozumienie dotyczące wspólnych badań nad bezpieczeństwem sztucznej inteligencji. Polska instytucja będzie uczestniczyć w testowaniu coraz bardziej zaawansowanych systemów AI, szukaniu ich słabych punktów oraz sprawdzaniu, czy stosowane zabezpieczenia rzeczywiście działają.
Współpraca obejmie również zagrożenia związane z autonomicznymi agentami, wykrywaniem treści generowanych przez AI i możliwością szkodliwego wykorzystania modeli. Dla Polski to szczególna umowa — NASK podaje, że jest pierwszym instytutem bezpieczeństwa AI w Unii Europejskiej, który nawiązał tego rodzaju partnerstwo z OpenAI.
Najważniejsze informacje w skrócie:
- porozumienie podpisano 23 października 2026 roku,
- współpracę poprowadzą OpenAI i Ośrodek Badań nad Bezpieczeństwem AI NASK,
- badania obejmą ocenę zaawansowanych modeli i systemów agentowych,
- zespoły będą szukać podatności i testować skuteczność zabezpieczeń,
- NASK zajmuje się również wykrywaniem treści syntetycznych i szkodliwych zastosowań AI,
- według NASK jest to jedyna taka umowa w Unii Europejskiej,
- obie organizacje współpracowały już wcześniej w obszarze cyberbezpieczeństwa.
NASK będzie testować coraz bardziej zaawansowane systemy AI
Po stronie NASK prace poprowadzi Ośrodek Badań nad Bezpieczeństwem Sztucznej Inteligencji, który pełni funkcję polskiego Instytutu Bezpieczeństwa Sztucznej Inteligencji. Wspólnie z OpenAI zespół będzie sprawdzał możliwości coraz bardziej zaawansowanych modeli, szukał potencjalnych podatności oraz oceniał, czy zabezpieczenia rzeczywiście ograniczają ryzykowne zachowania.
“Współpraca z OpenAI to naturalny krok dla Instytutu i jego Centrum Badań nad Bezpieczeństwem AI, które aktywnie prowadzi badania w tym obszarze. Prace te obejmują opracowywanie zabezpieczeń przed nowymi zagrożeniami, wykrywanie syntetycznych treści generowanych przez AI oraz analizę ich złośliwego wykorzystania i wyzwań związanych z wielojęzycznością. Bezpieczeństwa AI nie da się zapewnić w pojedynkę. To wspólne zadanie. Tylko dzięki aktywnej współpracy publicznych instytutów bezpieczeństwa AI z twórcami pionierskich systemów AI możemy sprawić, że technologia ta stanie się naprawdę niezawodna i bezpieczna w użyciu. Łącząc naszą wiedzę badawczą z możliwościami technicznymi OpenAI, możemy lepiej przewidywać zagrożenia, wzmacniać zabezpieczenia i budować społeczne zaufanie do tych przełomowych technologii.”
— Radosław Nielek, dyrektor NASK
Zakres jest szerszy niż klasyczne testowanie jakości odpowiedzi chatbota. NASK prowadzi badania nad zagrożeniami powstającymi wraz ze wzrostem możliwości modeli, wykrywaniem treści syntetycznych oraz wykorzystaniem AI do szkodliwych działań. Ważną częścią są również różnice językowe, bo zabezpieczenie działające dobrze po angielsku nie musi zachowywać tej samej skuteczności w innych językach.
OpenAI zyskuje dzięki temu zewnętrzny zespół badawczy, który może sprawdzać modele z innej perspektywy niż ich twórcy. NASK dostaje natomiast bezpośredni dostęp do współpracy z firmą rozwijającą jedne z najbardziej zaawansowanych systemów AI. Właśnie takie niezależne testy stają się coraz ważniejsze, gdy modele dostają dostęp do narzędzi, kodu i rzeczywistych systemów.
Bezpieczeństwo agentów AI staje się coraz trudniejszym problemem
Rozwój agentów zmienia skalę konsekwencji błędu. Model generujący niepoprawną odpowiedź można poprawić albo zignorować. Agent mający dostęp do przeglądarki, kodu, firmowych aplikacji czy infrastruktury może natomiast wykonać działanie, którego użytkownik nie zamierzał mu zlecać. Dlatego bezpieczeństwo coraz częściej oznacza kontrolowanie nie tylko odpowiedzi AI, ale całej sekwencji wykonywanych operacji.
Problem nie jest teoretyczny. OpenAI w ostatnich miesiącach wzmacniało izolację środowisk wykorzystywanych do treningu i ewaluacji modeli, ograniczało ich dostęp do internetu i testowało zabezpieczenia za pomocą własnych agentów. Opisywaliśmy już, jak firma zaostrzyła zabezpieczenia po problemach z autonomicznymi systemami AI.
NASK i OpenAI mają badać właśnie takie scenariusze: gdzie model może przekroczyć zakres zadania, jakie słabości umożliwiają obejście zabezpieczeń i jak wcześnie wykryć niepożądane zachowanie. Im więcej czynności AI wykonuje samodzielnie, tym ważniejsze stają się mechanizmy zatrzymywania operacji, kontroli uprawnień i niezależnej oceny działania systemu.
Może Cię zainteresować: Cell Broadcast w Polsce. Co zmieni nowy system ostrzegania?
OpenAI i NASK mają już za sobą wspólny projekt
Porozumienie nie zaczyna współpracy obu organizacji od zera. W lipcu CERT Polska, działający w strukturach NASK, otrzymał w ramach programu Daybreak dostęp do zaawansowanych modeli OpenAI przeznaczonych do pracy nad cyberbezpieczeństwem. Zespół wykorzystał je do analizy MikroTik RouterOS, czyli systemu działającego na popularnych urządzeniach sieciowych.
Efektem było wykrycie sześciu podatności. Część z nich można było połączyć w taki sposób, aby przejąć kontrolę nad podatnym urządzeniem bez wcześniejszego uwierzytelnienia. Producent otrzymał informacje o problemach i przygotował poprawki, a CERT Polska potwierdził później, że blokują one wykryte metody ataku.
Ten przykład pokazuje, dlaczego współpraca przy bezpieczeństwie AI nie musi ograniczać się do sprawdzania samego modelu. Zaawansowane systemy mogą również wspierać specjalistów w szukaniu błędów w rzeczywistym oprogramowaniu. Jednocześnie ta sama zdolność do znajdowania podatności może być niebezpieczna w niewłaściwych rękach. Badania nad zabezpieczeniami muszą więc rozwijać się razem z możliwościami modeli.
Polska wchodzi do międzynarodowych badań nad bezpieczeństwem AI
OpenAI współpracuje już z publicznymi instytucjami zajmującymi się bezpieczeństwem sztucznej inteligencji w Stanach Zjednoczonych i Wielkiej Brytanii. NASK dołącza teraz do tej grupy jako partner z Polski. Według instytutu podpisane porozumienie jest pierwszą tego rodzaju umową OpenAI z instytutem bezpieczeństwa AI w Unii Europejskiej.
Znaczenie takiej współpracy będzie rosło wraz z tworzeniem wspólnych metod oceny modeli. Poszczególne kraje potrzebują porównywalnych sposobów testowania możliwości AI, mierzenia ryzyka, sprawdzania zabezpieczeń i raportowania incydentów. Bez tego ten sam system może być oceniany według zupełnie innych kryteriów w różnych częściach świata.
Polski zespół wnosi również doświadczenie związane z ochroną usług publicznych, cyberbezpieczeństwem i lokalną przestrzenią informacyjną. Ma to znaczenie przy zagrożeniach zależnych od języka i lokalnego kontekstu, których nie da się dobrze zbadać wyłącznie na anglojęzycznych danych. Dla NASK podpisanie umowy oznacza bezpośredni udział w pracach nad sposobami testowania systemów, które w kolejnych latach będą trafiać do coraz większej liczby usług i instytucji.
Źródła: OpenAI, NASK. Opracowanie własne.
Dziękujemy za przeczytanie artykułu na Techoteka.pl.
Codziennie publikujemy najważniejsze informacje z Polski i ze świata dotyczące technologii, sztucznej inteligencji, nowych rozwiązań cyfrowych oraz trendów technologicznych, które kształtują przyszłość.
Obserwuj nas na Facebooku, aby być na bieżąco z najważniejszymi wydarzeniami ze świata technologii.
