OpenAI nawiązało współpracę z Hacktron, firmą zajmującą się testami penetracyjnymi, analizą kodu i wykrywaniem podatności z wykorzystaniem AI. Zespoły będą wspólnie sprawdzać wybrane elementy infrastruktury OpenAI i szukać błędów, zanim zostaną wykorzystane w realnym ataku.
Duża część testów obejmie integracje z zewnętrznymi usługami i aplikacjami. Wraz z rozwojem agentów AI rośnie liczba połączeń z firmowymi danymi, chmurą, repozytoriami kodu i narzędziami biznesowymi, a każde z nich wymaga osobnej kontroli bezpieczeństwa. Hacktron otrzyma też rozszerzony dostęp do modeli cyberbezpieczeństwa OpenAI w ramach programu Daybreak Red.
Najważniejsze informacje w skrócie:
- OpenAI rozpoczęło współpracę z Hacktron w zakresie testowania bezpieczeństwa swoich systemów,
- badacze będą szukać podatności w infrastrukturze i usługach OpenAI,
- dużą część testów obejmą integracje z zewnętrznymi aplikacjami i usługami,
- Hacktron otrzyma rozszerzony dostęp do modeli bezpieczeństwa w ramach Daybreak Red,
- AI będzie wykorzystywane do analizy kodu, testów penetracyjnych i red teamingu,
- współpraca rozwija wcześniejsze działania Hacktron w programie Bug Bounty OpenAI,
- OpenAI zwiększyło również nagrody za wykrywanie poważnych luk bezpieczeństwa.
Hacktron będzie szukać słabych punktów w systemach OpenAI
Hacktron zna już systemy OpenAI z wcześniejszych badań. Firma uczestniczyła w programie Security Bug Bounty i zgłaszała znalezione podatności. W lipcu jej badacze połączyli dwa krytyczne błędy w jeden scenariusz ataku, który mógł prowadzić do przejęcia kont pracowników OpenAI i uzyskania dostępu do powiązanych z nimi zasobów. Informacje o lukach zostały przekazane firmie przed ich publicznym opisaniem.
Teraz oba zespoły będą pracować razem nad wybranymi fragmentami infrastruktury. Inżynierowie OpenAI wskażą obszary wymagające dokładniejszych testów, a badacze Hacktron spróbują znaleźć sposoby obejścia zabezpieczeń w kontrolowanym środowisku. Firma otrzyma przy tym rozszerzony dostęp do modeli przeznaczonych do zadań związanych z cyberbezpieczeństwem.
Dostęp będzie odbywał się przez program Daybreak Red, przeznaczony dla zweryfikowanych zespołów prowadzących testy penetracyjne, red teaming i badania podatności. Modele mogą pomagać w analizie kodu, wyszukiwaniu błędów i sprawdzaniu, czy potencjalną lukę da się rzeczywiście wykorzystać.
Największym problemem są połączenia agentów z innymi aplikacjami
OpenAI wskazuje wprost, że jednym z głównych obszarów badań będą miejsca, w których jego systemy komunikują się z usługami zewnętrznymi. Agent AI może dziś korzystać z repozytorium kodu, firmowego dysku, kalendarza, poczty czy aplikacji biznesowej. Każda taka integracja wymaga odpowiednich uprawnień i tworzy dodatkową powierzchnię ataku.
Problem rośnie razem z możliwościami agentów. GPT-6 Astra potrafi samodzielnie wykonywać wieloetapowe zadania, korzystać z przeglądarki i pracować w aplikacjach. Jeśli system ma dostęp do kilku usług jednocześnie, błąd w jednym połączeniu może pozwolić na wykonanie operacji w zupełnie innym miejscu, niż zakładał użytkownik.
Hacktron specjalizuje się właśnie w takich granicach między systemami. Firma bada zależności pomiędzy aplikacjami, infrastrukturą chmurową oraz mechanizmami tożsamości. Z perspektywy bezpieczeństwa agentów jest to szczególnie istotne, bo problemem nie musi być sam model. Słabym punktem może okazać się sposób, w jaki agent uwierzytelnia się w usłudze albo przekazuje dane pomiędzy dwoma systemami.
OpenAI coraz częściej wykorzystuje własne AI do cyberbezpieczeństwa
Partnerstwo z Hacktron jest częścią szerszego programu wzmacniania zabezpieczeń OpenAI. Kilka dni wcześniej firma zapowiedziała kolejny wewnętrzny security sprint z udziałem zewnętrznych badaczy oraz ponad czterokrotnie zwiększyła średnie nagrody za podatności o średnim, wysokim i krytycznym poziomie zagrożenia.
OpenAI rozwija równolegle wyspecjalizowane modele cyberbezpieczeństwa. GPT-6 Cyber został przygotowany do znajdowania podatności, analizy kodu, weryfikowania exploitów i opracowywania poprawek w autoryzowanych środowiskach. Dostęp do najbardziej zaawansowanych możliwości pozostaje ograniczony do zweryfikowanych organizacji w programie Daybreak Red.
Podobny kierunek widać również we współpracy z polskim NASK. Pisaliśmy już o tym, jak OpenAI i NASK będą wspólnie badać bezpieczeństwo AI. Firma próbuje więc jednocześnie rozwijać możliwości ofensywnego testowania systemów i budować mechanizmy, które pozwolą wykorzystać te same modele po stronie obrońców. W przypadku agentów podłączanych do coraz większej liczby usług takie testy szybko stają się podstawowym elementem bezpieczeństwa całego produktu.
Źródła: OpenAI, Hacktron. Opracowanie własne.
Dziękujemy za przeczytanie artykułu na Techoteka.pl.
Codziennie publikujemy najważniejsze informacje z Polski i ze świata dotyczące technologii, sztucznej inteligencji, nowych rozwiązań cyfrowych oraz trendów technologicznych, które kształtują przyszłość.
Obserwuj nas na Facebooku, aby być na bieżąco z najważniejszymi wydarzeniami ze świata technologii.
