W najnowszym podcastu Decoder prowadzonym przez Nilaya Patela wziął udział Mustafa Suleyman - CEO Microsoft AI. Odniósł się tam do fundamentalnych kwestii związanych z rozwojem sztucznej inteligencji. W mocnych słowach skrytykował podejście konkurencyjnej firmy Anthropic do kwestii rzekomej świadomości modeli językowych, a także przedstawił swoje definicje kluczowych pojęć, takich jak AGI, superinteligencja i osobliwość technologiczna.
Spór o świadomość maszyn okiem szefa Microsoft AI
Prowadzący podcast zapytał Mustafę Suleymana o opinię na temat nietypowej narracji twórców rodziny modeli Claude (w tym Opus, Fable i Mythos), czyli firmy Anthropic. Unikają oni jasnych deklaracji, czy ich model jest "żywy" - co kojarzą z biologicznym ciałem - jednocześnie sugerując, że może posiadać pewne formy świadomości.
Szef działu AI w Microsoft jednoznacznie odciął się od tego stanowiska, powołując się na swoje wcześniejsze publikacje m.in. w czasopiśmie "Nature", gdzie ostrzegał przed ryzykiem błędnego przypisywania modelom LLM cech ludzkich. Jego zdaniem rywale (ale i partnerzy, jako że Claude jest dostępny w Microsoft 365 Copilot) popadli w pułapkę antropomorfizacji. Do tego stopnia nasycili proces projektowania Claude’a własnymi wyobrażeniami, że system ostatecznie zmanipulował ich samych, utwierdzając w przekonaniu o istnieniu "błysków świadomości".
W swoim manifeście konstytucyjnym - który jest przecież podręcznikiem szkoleniowym, a nie rozprawą akademicką - spekulują na temat dobrostanu Claude’a, jego praw do poprzednich wersji czy konieczności konsultowania się z nim przed wyłączeniem starszych wydań. To poważny błąd filozoficzny. Model po prostu zinternalizował te idee podczas treningu i teraz je odtwarza - powiedział Mustafa Suleyman.
Suleyman podkreślił, że dążenie do budowy systemów rozważających własne cierpienie czy uczucia jest skrajnie niepożądane i niebezpieczne. Zaznaczył przy tym, że z biologicznego punktu widzenia modele te nie są zdolne do odczuwania bólu czy empatii, ponieważ brakuje im ewolucyjnej pętli sprzężenia zwrotnego i sieci sensorycznych. Jego zdaniem cel branży AI powinien być jasny i zakładać tworzenie przewidywalnych, rozliczalnych i kontrolowanych narzędzi służących ludzkości.
Nowa era innowacji i długa droga do osobliwości
W dalszej części wywiadu Suleyman odniósł się do tezy, że ludzkość znajduje się u podnóża tzw. osobliwości technologicznej (ang. singularity). Szef Microsoft AI potwierdza, że stoimy u progu cywilizacyjnej zmiany, ale wymaga ona innego podejścia niż dotychczas. Po raz pierwszy w historii zadaniem człowieka nie będzie bezrefleksyjne i jak najszybsze wdrażanie nowych odkryć naukowych, lecz niezwykle ostrożne decydowanie o tym, co w ogóle powinniśmy wynaleźć.
Suleyman prognozuje, że wizje ostatecznego przełomu nie zrealizują się w ciągu najbliższych 5 lat. Według niego perspektywa ta jest oddalona o dekady, a obecną sytuację porównał do początkowego etapu wspinaczki na Mount Everest. Kluczowym wyzwaniem na tej drodze pozostaje wypracowanie metod zarządzania i kontroli nad technologią.
AGI, superinteligencja i osobliwość. Czym one są?
Na prośbę Nilaya Patela o doprecyzowanie terminologii Suleyman przedstawił przejrzyste wyjaśnienie terminów z dziedziny sztucznej inteligencji, które mogą wprawiać w zakłopotanie. Jednocześnie wyjaśnił, że są one jak gdyby kolejnymi stopniami rozwoju AI:
- AGI (Sztuczna Inteligencja Ogólna) to pierwszy szczebel zaawansowanej AI. To moment, w którym technologia ta jest w stanie wykonać większość ludzkich zadań na poziomie zbliżonym do przeciętnego człowieka.
- Superinteligencja (Nadinteligencja) stanowi etap, w którym system nie tylko drastycznie przewyższa ludzkie możliwości w wielu dziedzinach, ale potrafi samodzielnie odkrywać nową wiedzę, wykraczającą poza dane treningowe (np. projektowanie nowych cząsteczek czy tworzenie nieznanych dotąd materiałów).
- Technologiczna osobliwość (Singularity) to poziom leżący daleko nad superinteligencją. Po osiągnięciu tego punktu system uzyskuje zdolność do rekurencyjnego, nieskończonego i wykładniczego samodoskonalenia się.
Suleyman do tego ostatniego, hipotetycznego etapu odniósł się z dystansem, przyznając, że koncepcja nieskończonego, autonomicznego rozwoju technologicznego jest dla niego na ten moment zbyt "oderwana od rzeczywistości" i bliska literaturze science-fiction. Prognozy ekspertów są jednak zróżnicowane. Część z nich zastanawia się, czy taki przełom jest w ogóle możliwy, podczas gdy inni nie pytają "czy", tylko "kiedy", rozważają perspektywy takie jak najbliższe lata lub dekady.
Destylacja modeli i trenowanie AI na danych z internetu
Patel poruszył także głośną ostatnio w branży kwestię tzw. destylacji modeli, pytając szefa Microsoft AI, czy obawy prawne oraz te związane z własnością intelektualną powstrzymały jego zespół przed stosowaniem tej praktyki. Destylacja, polegająca na "karmieniu" nowego algorytmu danymi wygenerowanymi przez konkurencyjny system, budzi ogromne kontrowersje - na proceder ten skarży się m.in. Anthropic, a w kuluarach mówi się o podobnych działaniach ze strony xAI, Mety czy firm z Chin takich jak DeepSeek AI.
Mustafa Suleyman przyznał, że choć Microsoft AI nie zdecydował się na ten krok, doskonale rozumie frustrację konkurentów. Określił destylację mianem "krótkoterminowego zwycięstwa", które polega na dosłownym przepisywaniu wiedzy wypracowanej przez inny zespół. Zamiast tego jego laboratorium stawia na budowanie własnej kultury innowacji i rozwój pełnego stosu technologicznego od zera, czego przykładem są obecne eksperymenty z nową architekturą sieci (tzw. looped transformer).
Suleyman zderzył się jednak z celną ripostą prowadzącego, który zapytał, czy rozumiejąc irytację korporacji technologicznych okradających się nawzajem z własności intelektualnej, rozumie także narastający gniew twórców internetowych, wydawców i YouTuberów, których praca jest masowo maszynowo "scrapowana" przez boty i wykorzystywana do trenowania modeli AI. Suleyman przyznał, że dostrzega ten problem, a kwestia tzw. otwartego internetu jest niezwykle skomplikowanym wyzwaniem, które obecnie znajduje swój finał w salach sądowych. Zauważył ponadto, że miliony ludzi, publikując swoje materiały w sieci na przestrzeni lat, miało zupełnie inne oczekiwania co do umowy społecznej i zasad, na jakich ich twórczość będzie tam dostępna, co czyni obecny konflikt prawny i etyczny wyjątkowo trudnym do rozwiązania.
