OpenAI i Microsoft ostrzegają przed nadchodzącą falą cyberataków AI

OpenAI i Microsoft ostrzegają przed nadchodzącą falą cyberataków AI

Szybki rozwój sztucznej inteligencji stwarza nowe wyzwania dla cyberbezpieczeństwa. Najnowsze modele wykazują wysokie umiejętności w realizowaniu zadań takich jak łamanie zabezpieczeń czy eskalacja uprawnień. Większość kluczowych firm technologicznych wskazuje, że czas na przygotowanie odpowiedniej ochrony jest ograniczony.

W odpowiedzi na rosnące zagrożenie giganci branży, w tym OpenAI i Microsoft, opublikowali list otwarty wzywający do globalnego wzmocnienia cyberobrony. Pod listem podpisali się także inni branżowi liderzy, domagając się przekazania zaawansowanych narzędzi AI w ręce obrońców.

OpenAI i Microsoft apelują o wzmocnienie ochrony w obliczu rozwoju AI

Szybki postęp w rozwoju sztucznej inteligencji stwarza nowe wyzwania dla bezpieczeństwa cyfrowego. Najnowsze modele wykazały wysokie umiejętności w realizowaniu zadań z zakresu cyberbezpieczeństwa. Model GPT-5.6-Cyber stworzony przez OpenAI zrealizował 95 proc. zaawansowanych poleceń obejmujących m.in. łańcuchy eksploitów, obejście uwierzytelniania czy eskalację uprawnień. Firma poinformowała również, że nadchodzący model Astra zyska jeszcze większe możliwości w obszarze operacji cyfrowych.

Większość kluczowych firm z branży technologicznej wskazuje, że czas na przygotowanie odpowiednich mechanizmów obronnych jest ograniczony. OpenAI opublikowało list otwarty wzywający do globalnego wzmocnienia cyberobrony. Pod dokumentem podpisało się ponad 100 organizacji, w tym Microsoft, Google, Anthropic, AWS, AMD, Cisco, Cloudflare, CrowdStrike, IBM, Oracle, Palo Alto Networks czy Fortinet.

Sygnatariusze listu przewidują, że cyberataki wspierane przez sztuczną inteligencję staną się znacznie powszechniejsze i bardziej wyrafinowane w najbliższych miesiącach. Zjawisko to może uderzyć w szpitale, zakłady uzdatniania wody, infrastrukturę internetową oraz inne kluczowe usługi publiczne. Wiele z nich wciąż korzysta z przestarzałych systemów zawierających nieaktualne oprogramowanie, słabe mechanizmy uwierzytelniania czy zbyt szerokie uprawnienia.

Głównym założeniem proponowanych zmian jest zapewnienie specjalistom ds. bezpieczeństwa szerokiego dostępu do zaawansowanych modeli AI. Pozwoli to na szybsze wykrywanie podatności, tworzenie poprawek oraz sprawniejsze reagowanie na incydenty.

Organizacje muszą natychmiast podnieść standardy ochrony

"Uczyńcie cyberobronę bezpośrednim priorytetem kierownictwa" - zaznaczono w apelu. Oznacza to, że każda firma i instytucja powinna potraktować cyberobronę jako kluczowy priorytet. Rekomendacje obejmują eliminację najbardziej ryzykownych podatności, podnoszenie wymogów wobec kupowanego i tworzonego kodu i modernizację architektur w oparciu o zasadę najmniejszych uprawnień. W sytuacjach, gdzie natychmiastowa aktualizacja nie jest możliwa bez przerwania działania kluczowych usług, konieczne jest wdrożenie zweryfikowanych środków zastępczych.

"Pomóżcie przewodzić odpowiedzi w obronie przed ciągłymi atakami wspieranymi przez AI, w tym poprzez ciągłe testowanie obrony pod kątem możliwości najnowocześniejszych modeli" - apelują autorzy listu.

Sektor firm zajmujących się bezpieczeństwem ma za zadanie ciągłe testowanie własnych produktów w starciu z zaawansowanymi modelami sztucznej inteligencji. Dostawcy oprogramowania powinni wbudowywać mechanizmy AI do istniejących narzędzi oraz ułatwiać ich wdrażanie w obiektach infrastruktury krytycznej. Kolejnym ważnym elementem działania staje się dzielenie się wiedzą o zagrożeniach i sprawdzonymi procedurami reagowania.

Giganci technologiczni apelują do rządów państw

W liście znalazło się również wezwanie kierowane do władz państwowych. "Finansujcie cyberobronę, zaczynając od usług kluczowych, którym brakuje personelu lub budżetu na działanie" - czytamy w dokumencie.

Od władz państwowych sygnatariusze oczekują koordynacji działań obronnych na poziomie lokalnym, krajowym i międzynarodowym. Apel obejmuje wsparcie finansowe dla podmiotów o ograniczonych budżetach, takich jak szpitale, zakłady komunalne czy samorządy. Rządy powinny rozszerzać programy zaufanego dostępu do technologii, ułatwiać wymianę danych wywiadowczych i podnosić koszty ponoszone przez osoby przeprowadzające ataki, tak by stawały się one nieopłacalne.

Twórcy modeli AI zapewnią wsparcie i narzędzia obronne

Firmy podpisujące się pod listem wyszły również z apelem do innych przedstawicieli branży technologicznej. "Zapewnijcie odpowiedzialny dostęp do modeli, znaczne finansowanie, szkolenia i bezpośrednie wsparcie, szczególnie dla obrońców infrastruktury krytycznej o ograniczonych zasobach" - głosi ich wezwanie.

Wiodące firmy rozwijające sztuczną inteligencję zobowiązują się do przekazywania dostępu do modeli, środków finansowych i szkoleń dla obrońców systemów. W planach jest rozwijanie narzędzi monitorujących, zapewnienie rozliczalności autonomicznych agentów, a także inwestowanie w autoryzowane testy i bezpieczne zgłaszanie podatności.

Informacje o wykrytych lukach mają trafiać bezpośrednio do rządów, partnerów branżowych oraz twórców oprogramowania Open Source.

Dowiedz się więcej z naszych artykułów:

Źródło: https://openai.com/collective-cyberdefense/

Warsztaty: AI Security
Warsztaty: AI Security