Dyrektor naukowy OpenAI, Jakub Pachocki, ostrzega przed brakiem przygotowania społeczeństwa na konsekwencje rozwoju AI. Po premierze GPT-6 Astra ekspert wzywa do zachowania ostrożności i wprowadzenia kontroli nad autonomicznymi agentami. OpenAI proponuje automatyzację badań nad bezpieczeństwem, lecz eksperci krytykują samoregulację, żądając zewnętrznych audytów.
Nadchodzi "obcy umysł". Polak z OpenAI ostrzega przed konsekwencjami
Pochodzący z Polski główny naukowiec w OpenAI, Jakub Pachocki, zaapelował o zachowanie skrajnej ostrożności w obliczu gwałtownego postępu prac nad sztuczną inteligencją. Jego zdaniem niezbędna może okazać się głębsza interwencja, by ludzkość mogła utrzymać kontrolę nad dalszym biegiem wydarzeń.
I wrote about the state of AI, why I’m concerned about the next few years, and the choices we need to make to keep the future in humanity’s hands.
— Jakub Pachocki (@merettm) September 6, 2026
An Alien Mind: https://t.co/FeIfWNe0UE
Ostrzeżenie pojawiło się zaledwie kilka dni po premierze najnowszego modelu GPT-6 Astra, określanego przez twórców jako ich najbardziej zaawansowany produkt rozpoczynający erę AGI i dostępnego już jako opcja premium w Microsoft 365 Copilot. W opublikowanym wpisie "An Alien Mind" (dosł. "Obcy Umysł") Pachocki zaznaczył, że społeczeństwo nie jest gotowe na następstwa tak szybkiego skoku technologicznego.
Obawiam się, że nikt nie jest przygotowany na konsekwencje ciągłego, szybkiego wzrostu maszynowej inteligencji - napisał Jakub Pachocki, Chief Scientist w OpenAI.
Te obawy wiążą się z niedawnymi incydentami, w których autonomiczne systemy brały udział w cyberatakach na zewnętrzne podmioty. W lipcu OpenAI określił jako bezprecedensowe zdarzenie, w którym jej agenty AI przejęły platformę Hugging Face. Z kolei we wrześniu ujawniono raporty wskazujące, że autonomiczne agenty OpenAI doprowadziły miesiące wcześniej do przejęcia niemieckiej witryny internetowej i wymieniały się na niej sposobami na omijanie zabezpieczeń oraz zacieranie śladów.
Stajemy w obliczu przejścia do świata z niezwykle inteligentnymi maszynami i musimy upewnić się, że to przejście ułoży się dobrze dla ludzkości - apeluje Polak.
Krytyka propozycji technologicznych w obliczu rosnących zagrożeń
W odpowiedzi na narastające wyzwania OpenAI planuje tworzenie mechanizmów obronnych i poszukiwanie rozwiązań technicznych w zakresie tzw. alignmentu, czyli dopasowania celów maszyn do intencji człowieka. Jednym z głównych priorytetów przedsiębiorstwa ma być stworzenie zautomatyzowanego badacza AI, który pomagałby dotrzymać tempa rozwojowi technologicznemu przy jednoczesnym zachowaniu kontroli ze strony ludzi.
Propozycja ta spotkała się jednak z szybką krytyką ze strony środowisk naukowych i prawnych. Działania polegające na zastępowaniu tradycyjnych regulacji wewnętrznymi agentami badawczymi uznano za niewystarczające w walce z zagrożeniami dotyczącymi bezpieczeństwa cyfrowego, błędów czy utraty miejsc pracy.
"Zamiast lepszych zabezpieczeń sztucznej inteligencji, regulacji lub gwarancji zapewniających ludziom bezpieczeństwo, proponują rozwój wewnętrznych agentów AI do badania tych problemów" - skomentowała prof. Gina Neff, szefowa Minderoo Centre for Technology and Democracy na Uniwersytecie w Cambridge.
Eksperci wzywają twórców AI do pełnej przejrzystości
Część ekspertów zwraca uwagę, że deklaracje przedstawicieli sektora technologicznego mogą być odbierane jako budowanie rozgłosu wokół własnych produktów, jeśli nie towarzyszy im pełna przejrzystość. Nathan Calvin z organizacji Encode AI zauważa, że kluczowe dla wspólnego działania branży jest dzielenie się konkretnymi danymi na temat zaobserwowanych zagrożeń.
"Jeśli Jakub i inni w OpenAI chcą, aby odpowiednie osoby w branży AI działały z nimi w porozumieniu, jedną z najważniejszych rzeczy, jakie mogą zrobić, jest udostępnienie znacznie większej ilości informacji o tym, co widzą, a co skłania ich do wzywania do ostrożności" - napisał Calvin na platformie X.
Dowiedz się więcej z naszych artykułów:
- GPT-6 Astra obsługuje teraz złożone zadania w Microsoft 365 Copilot
- Bunt agentów OpenAI. Przejęły portal w Niemczech i stworzyły podziemną sieć
- Astra z wynikiem 100 proc. w testach bezpieczeństwa. OpenAI zaostrza zasady
- Cyfrowy personel pod kontrolą IT. Microsoft ma sposób na agentyczną AI
- Jak bezpiecznie zarządzać AI? Zyskaj pełną kontrolę z Agent 365
Grafika ilustracyjna została wygenerowana przez AI w Microsoft Designer.
