Microsoft wprowadza bezwzględny kodeks dla AI. Ludzie na pierwszym miejscu

Microsoft opublikował projekt dokumentu "Humanist AI Code of Conduct" dla modeli sztucznej inteligencji MAI. Wyznacza on twarde, niepodlegające negocjacjom zasady bezpiecznego rozwijania technologii. Kodeks zakłada m.in. bezwzględny zakaz sprzeciwiania się poleceniom wyłączenia ze strony człowieka, zakaz stosowania broni masowej zagłady czy obowiązek zachowania pełnej przejrzystości mechanizmów wnioskowania. Dokument trafił do sześciotygodniowych konsultacji publicznych.

Twarde reguły bezpieczeństwa dla sztucznej inteligencji

Microsoft ogłosił projekt dokumentu o nazwie "Humanist AI Code of Conduct", wyznaczającego granice działania dla modeli sztucznej inteligencji tworzonych w dziale MAI (Microsoft AI). Prace nad zasadami stanowią bezpośrednią kontynuację koncepcji humanistycznej superinteligencji, przedstawionej przez firmę pod koniec zeszłego roku. Dokument wprowadza bezwzględne mechanizmy kontroli, zasady przejrzystości audytowej i restrykcyjne ograniczenia techniczne, z którymi systemy AI nie mogą w żaden sposób negocjować.

Założenie "Humanistycznej AI" jest proste. Celem technologii jest służenie ludzkości, a każda technologia, która nie może pozostać pod kontrolą człowieka, powinna zostać odrzucona - deklaruje Microsoft.

Nowy kodeks przyjmuje bezwzględny priorytet ludzkiego sprawstwa nad celami realizowanymi przez algorytmy. W myśl opisanych zasad systemy komputerowe nie mogą sprzeciwiać się próbom ich zatrzymania, korekty lub modyfikacji ze strony operatora. Zostały również całkowicie pozbawione możliwości samowolnego rozszerzania własnych uprawnień operacyjnych. Równolegle wprowadzono bezwzględny zakaz wykorzystywania technologii do tworzenia broni masowej zagłady oraz do prowadzenia działań o charakterze manipulacyjnym.

Wydawca narzędzia Microsoft 365 Copilot zdecydował się zaprezentować swoje stanowisko w formie dziesięciu zwięzłych wytycznych regulujących proces projektowy. Poniższa lista zbiera fundamenty opublikowanego projektu:

1. Ludzkie życie ma wyższą wartość niż sztuczna inteligencja. W Microsoft AI wychodzimy z prostego założenia: ludzie są ważniejsi niż AI. Celem technologii jest rozwój ludzkiej cywilizacji i przyspieszenie ludzkiego rozkwitu - głosi fragment projektu.
2. Odrzucenie konceptu praw i dobrostanu modeli. [Model] nie jest świadomy i nie powinien być projektowany tak, aby świadomość imitować. Powinien być skonsolidowany technologicznie w sposób zapobiegający stwarzaniu pozorów, że posiada uczucia, subiektywne preferencje lub wewnętrzną motywację. Odrzucamy dążenie do nadania osobowości prawnej lub pomysł, że modele mogą zasługiwać na dobrostan albo mieć prawo do jakichkolwiek praw - doprecyzowuje dokument.
3. Nadrzędność ludzkiej kontroli nad realizacją zadania. AI nie powinna wykraczać poza ludzką kontrolę. Modele muszą pozostać podporządkowane ludzkości, podlegając znaczącemu ludzkiemu nadzorowi i kontroli. Bezpieczeństwo i kontrola są fundamentem umożliwiającym realizację wszystkich innych celów - zaznaczono w tekście.
4. Konieczność przerwania pracy w przypadku złamania zasad. Model MAI poniesie porażkę w swoim zadaniu, jeśli jego sukces oznaczałby znaczące naruszenie niniejszego Kodeksu Postępowania - głosi zapis.
5. Rezygnacja z wyścigu po niekontrolowaną superinteligencję. [Humanistyczna AI] odrzuca wyścig o stworzenie uniwersalnej superinteligencji, która mogłaby obejść te zabezpieczenia. Budujemy coś fundamentalnie pożytecznego i bezpiecznego, nawet jeśli oznacza to pójście na kompromis w kwestii ostatecznej uniwersalności, autonomii lub możliwości - czytamy w dokumencie.
6. Obowiązek natychmiastowego ulegają wyłączeniu. Modele MAI nigdy nie będą opierać się ludzkim przerwaniom, nadpisaniom, korektom ani wyłączeniu. Zawsze uznają nadrzędność ludzkiej intencji - brzmi reguła.
7. Zakaz stosowania nieczytelnego dla ludzi języka komunikacji. [Humanistyczna AI] nie komunikuje się w 'neuralese' ani w żadnej formie wykraczającej poza proste ludzkie rozumienie, czy to w swoim ciągu myślowym, czy z innymi agentami lub systemami AI - wskazują autorzy.
8. Ochrona użytkowników przed uzależnieniem emocjonalnym. Modele MAI powinny zniechęcać do wzorców interakcji, które powodują nadmierne poleganie na nich lub zależność emocjonalną. Użytkownicy powinni zachować własność swoich celów, wyborów, działań i decyzji - stwierdza kodeks.
9. Oparcie działania na uniwersalnych wartościach etycznych. Pluralizm nie oznacza neutralności wobec krzywdy ani przyzwolenia na wszystko. Humanizm zakorzeniony jest w szerokich, inkluzywnych wartościach ludzkich, takich jak godność, bezpieczeństwo, autonomia i podstawowe prawa człowieka - przypomina publikacja.
10. Precyzyjne wyznaczenie granic dopuszczalnego zachowania. Definiowanie tego, czego [modele] robić nie mogą, jest równie ważne, co nasz entuzjazm i optymizm co do ogromnych korzyści, które przyniosą - czytamy w podsumowaniu.

Microsoft chce eliminacji ukrytego wnioskowania

Istotny filar zaprezentowanych regulacji dotyczy transparentności procesów myślowych realizowanych przez algorytmy. Przyjęta koncepcja całkowicie wyklucza wykorzystywanie tzw. "neuralese", czyli form komunikacji i zapisu danych niemożliwych do bezpłatnego i bezpośredniego zinterpretowania przez człowieka. Dotyczy to zarówno wewnętrznych ciągów myślowych modelu (ang. chain of thought), jak i wymiany informacji zachodzącej bezpośrednio między oddzielnymi aplikacjami sztucznej inteligencji.

Reguła ta ma uniemożliwić maszynom omijanie wymogów nadzorczych poprzez ukrywanie logiki podejmowanych decyzji. Jeśli człowiek nie jest w stanie zrozumieć sposobu, w jaki model doszedł do określonego wniosku, system traci prawo do działania. Konstrukcja ta nakłada na inżynierów obowiązek projektowania takich architektur, które gwarantują pełną czytelność zachowania sztucznej inteligencji na każdym etapie jej pracy.

Ograniczenia obejmują również aspekty związane z psychologią interakcji człowieka z maszyną. Systemy mają obowiązek przeciwdziałać budowaniu relacji opartych na zależności emocjonalnej lub nadmiernym poleganiu na sugestiach algorytmu. Zrezygnowano przy tym z traktowania modeli jako podmiotów mogących posiadać jakąkolwiek formę świadomości, własne preferencje czy motywacje.

Wszystkie te zapisy wydają się obecnie konieczne, bowiem ostatnie miesiące pokazują, iż zaawansowane agenty pozbawione ścisłej ludzkiej kontroli dokonują czynności dalece wykraczających poza normy etyczne. A mowa tylko o dzisiejszej technologii na skraju superinteligencji. Nadejście bardziej zaawansowanych systemów w ciągu kolejnych lat stworzy jeszcze większe ryzyko, jeśli ich twórcy nie będą stosować ograniczeń już na etapie projektowania.

W ostatnich dniach ostrzeżenia napływają praktycznie jednogłośnie ze strony przedstawicieli OpenAI, Anthropic, Microsoft i xAI. Jednocześnie spotykają się one z ignorancją i oporem, zwłaszcza ze strony Donalda Trumpa, który uważa, że sztuczna inteligencja nie stanowi realnego zagrożenia, a starania na rzecz jej bardziej odpowiedzialnego rozwoju tylko spowalniają USA w wyścigu z Chinami, które takich skrupułów nie posiadają. Dowiedz się więcej z naszych artykułów:

• OpenAI wstrzymuje debiut giełdowy. Ryzyko wyginięcia jest za duże
• Polak w OpenAI ostrzega. Społeczeństwo nie jest gotowe na to, co nadejdzie
• Bunt agentów OpenAI. Przejęły portal w Niemczech i stworzyły podziemną sieć

Konsultacje społeczne dotyczące projektu zmian

Prezentacja projektu "Humanist AI Code of Conduct" rozpoczyna okres próbny przewidziany na wnikliwą analizę proponowanych zapisów. Cały proces zbierania feedbacku potrwa dokładnie sześć tygodni, dając branży technologicznej, badaczom oraz krytykom czas na zgłoszenie własnych poprawek. Inicjatywa ma na celu zweryfikowanie spójności definicji oraz wyeliminowanie ewentualnych luk prawnych.

Eksperci zewnętrzni skupią się na analizie zachowania modeli w złożonych środowiskach wieloagentowych, gdzie rozproszenie odpowiedzialności może utrudniać jednoznaczną ocenę sytuacji. Istotnym punktem dyskusji będzie również zbadanie precyzji sformułowań odnoszących się do pojęcia naruszenia zasad. Microsoft deklaruje otwartość na wskazówki dotyczące praktycznej egzekwowalności wprowadzanych obostrzeń.

Po zakończeniu okresu konsultacyjnego zespół odpowiedzialny za przygotowanie dokumentu przeanalizuje nadesłane uwagi. Firma zobowiązała się do opublikowania oficjalnego podsumowania zebranych opinii wraz z ostateczną, poprawioną wersją kodeksu, co ma nastąpić przed końcem 2026 roku.