W obliczu narastających obaw o bezpieczeństwo danych i wycieki z narzędzi sztucznej inteligencji giganci technologiczni łączą siły, aby stworzyć nową inicjatywę ochronną. Nvidia wraz z partnerami powołała Open Secure AI Alliance, mający na celu wykorzystanie otwartych modeli AI do wykrywania i usuwania luk w zabezpieczeniach.
Sojusz promuje podejście oparte na przejrzystości oraz wspólnej obronie cyfrowej, apelując do ustawodawców o niewprowadzanie ograniczeń dla otwartych technologii. Mimo szerokiego wsparcia ze strony liderów rynku w projekcie brakuje niektórych kluczowych graczy takich jak OpenAI.
Nowa koalicja na rzecz bezpieczeństwa sztucznej inteligencji
Bezpieczeństwo i ochrona sztucznej inteligencji stanowią obecnie niezwykle istotny temat, co jest zrozumiałe w kontekście regularnie odkrywanych przypadków nieświadomego wycieku danych klientów przez narzędzia AI, a także zupełnie świadomej inwigilacji i kontroli obywateli np. przez Chiny. Firmy w tym sektorze prowadzą nieustanne dyskusje, spierając się między sobą w kwestiach sięgających od wdrażania cyfrowych wyłączników bezpieczeństwa (ang. kill switches), które mogłyby natychmiast "wyciągnąć wtyczkę", gdy model się zagalopuje, po całkowite blokowanie ingerencji rządowej w tzw. modele o otwartych wagach (ang. open-weight models). W tak burzliwym okresie szereg firm technologicznych postanowił połączyć siły i utworzyć sojusz na rzecz bezpieczeństwa AI.
Nvidia ogłosiła partnerstwo z gigantami technologicznymi w celu powołania Open Secure AI Alliance. Grupa ta stawia sobie za cel wykorzystanie "otwartych technologii", w tym modeli o otwartych wagach, do wykrywania, usuwania oraz ujawniania luk w zabezpieczeniach. Przedstawiciele sojuszu wierzą, że podejście to przyczyni się do demokratyzacji społecznościowych zdolności obronnych. Choć istnieje potencjał do nadużywania otwartych modeli, ryzyko to występuje również w przypadku modeli zamkniętych i wymaga odpowiedniego zarządzania. W tym kontekście zwrócono uwagę na niedawny incydent z udziałem platformy Hugging Face, wskazując jednocześnie:
Właściwą odpowiedzią nie jest odbieranie obrońcom dostępu do zaawansowanych otwartych systemów. Jest nią połączenie otwartości z silnymi zabezpieczeniami, jasnymi zasadami przeciwdziałającymi złośliwemu użyciu, rzetelną ewaluacją oraz szybkim usuwaniem usterek. W cyberbezpieczeństwie bezpieczniejszą ścieżką jest ta, która daje większej liczbie obrońców możliwość testowania, weryfikowania i wzmacniania systemów, na których polega społeczeństwo. (...)
Obrońcy potrzebują zarówno najnowocześniejszych modeli zamkniętych, jak i najnowocześniejszych modeli otwartych, pracujących ramię w ramię. Dzięki temu mogą wybrać odpowiedni system do danego zadania oraz zagwarantować, że przejrzystość, elastyczność adaptacyjna i suwerenna kontrola będą dostępne wszędzie tam, gdzie wymaga tego bezpieczeństwo.
Wkład partnerów i skład założycielski
Nvidia zobowiązała się do przekazania otwartych modeli, wag modeli, danych oraz wyników nowych badań nad agentami, co ma umożliwić partnerom tworzenie skuteczniejszych narzędzi z zakresu cyberbezpieczeństwa. Inni członkowie również wnoszą własny wkład, jak na przykład Microsoft ze swoim projektem MDASH.
W skład grupy założycielskiej Open Secure AI Alliance weszły następujące przedsiębiorstwa oraz organizacje: Adobe, Cadence, Capital One, Cisco, Cloudera, Cloudflare, Cognition, CrowdStrike, Databricks, Dell Technologies, DoorDash, Elastic, HPE, Hugging Face, IBM, LangChain, The Linux Foundation, Microsoft, Naver, NetApp, Nous Research, Nvidia, OpenClaw, Palantir [sic!], Palo Alto Networks, Red Hat Software, Reflection, Salesforce, SAP, ServiceNow, Siemens, SK Telecom, Snowflake, SpaceXAI, Synopsys, Thinking Machines Lab oraz TrendAI.
Uwagę zwraca fakt, że o ile do inicjatywy dołączyło studio Thinking Machines Lab, założone przez byłą dyrektor technologiczną OpenAI - Mirę Murati, o tyle kluczowi gracze, tacy jak OpenAI czy Anthropic, są zauważalnie nieobecni. Na chwilę obecną nie wyjaśniono, czy firmy te zrezygnowały z udziału, czy też nie zaoferowano im możliwości przystąpienia do sojuszu.
Nvidia wezwała globalnych prawodawców i polityków do traktowania otwartych modeli jako narzędzi służących obronie, a nie jako obciążenia, apelując o niewdrażanie regulacji osłabiających ich potencjał.
