Gdy narzędzia oparte na sztucznej inteligencji stają się coraz bardziej wyrafinowane, coraz trudniej jest odróżnić ich prace od wykonanych przez człowieka. Wystarczy choćby porównać dzisiejsze obrazy generowane przez AI z tymi sprzed kilku lat. Jak rozpoznać fejka? Czołowi twórcy AI pracują nad tym, by można było nie tylko tworzyć, ale i rozpoznawać tego typu treści (np. aby uniknąć dezinformacji). Jednym ze starych sposobów jest dodawanie znaku wodnego w postaci metadanych.
OpenAI przyjęło standard C2PA, który pozwala wydawcom, firmom i innym osobom/organizacjom umieszczać metadane w plikach multimedialnych, aby umożliwiać weryfikację ich pochodzenia oraz innych informacji. C2PA to nie tylko standard obrazów generowanych przez AI – ten sam standard jest także adaptowany przez producentów aparatów, organizacje zajmujące się wiadomościami i innych – aby certyfikować źródło historii (lub pochodzenie) treści multimedialnych.
— OpenAI
Metadane C2PA będą teraz dołączane do obrazów generowanych w ChatGPT w przeglądarce oraz innych usługach korzystających z API modelu DALL-E 3. Załapie się więc na nie także Kreator obrazów z Projektanta (dawniej Kreator obrazów Bing). Użytkownicy mogą korzystać ze stron, takich jak Content Credentials Verify, aby sprawdzić, czy obraz został wygenerowany za pomocą modelu DALL-E 3 poprzez narzędzia OpenAI. Będzie to jednak działać tylko wówczas, jeśli metadane nie zostały usunięte (a jest to możliwe).
Wierzymy, że przyjęcie tych metod ustalania pochodzenia i zachęcania użytkowników do rozpoznawania tych sygnałów jest kluczem do zwiększenia wiarygodności informacji cyfrowych – twierdzi OpenAI. Naszym zdaniem jest to jakieś rozwiązanie, tyle że nadal nie chroni ono przed nadużyciami oraz nie jest w stanie udowodnić ani obalić autentyczności obrazu – metadane można wszak po prostu usunąć albo dodać je samemu, z pominięciem oficjalnych narzędzi.
O sprawie pisaliśmy już wcześniej w artykułach:
- Microsoft Designer i Bing Image Creator będą tagować obrazy metadanymi
- Koniec fake newsów? Microsoft, Adobe, BBC i inni chcą położyć kres dezinformacji
Źródło: https://help.openai.com/en/articles/8912793-c2pa-in-dall-e-3
