Inteligentne czatboty czasem wykonują działania sprzeczne z ich zasadami, jeśli użytkownik odpowiednio je zmanipuluje. Przykłady to ChatGPT generujący działające klucze licencyjne Windows albo Czat Bing podający linki do pirackich stron. Są też działania wątpliwe, które wprawdzie nie zostały odgórnie zakazane, ale ich twórcy uznali je za niepożądane.
Jednym z takich działań jest omijanie paywalli, czyli blokad treści na stronach internetowych, które żądają opłaty za dostęp do nich. Paywall może przyjmować różne formy. Czasem tekst jest całkowicie niedostępny, a czasem tylko ukryty lub zamazany i drobna manipulacja pozwala go odczytać. W pewnym stopniu radził z tym sobie ostatnio ChatGPT Plus dzięki integracji z Bing. Odpowiednio poproszony, ujawniał za darmo płatne treści. Twórcom czatbota z OpenAI to się nie spodobało.
OpenAI wylało dziecko z kąpielą i zawiesiło integrację z Bing, aby uniemożliwić omijanie paywallów. Twórcy powiadomili o tym na Twitterze i zapewnili, że pracują nad poprawką:
Dowiedzieliśmy się, że "Browse" beta w ChatGPT może okazjonalnie wyświetlać treści w sposoby, których nie chcemy, np. jeżeli użytkownik konkretnie poprosi o pełen tekst z URL-a, może on nieumyślnie spełnić to żądanie. Wyłączamy "Browse" i naprawiamy to — chcemy postępować właściwie z właścicielami treści.
— OpenAI
Decyzję twórców bota skrytykował i wyśmiał Jeff Kirdeikis z Team Finance, który pisze:
> nieumyślnie spełnić to żądanie
Wygląda to na ficzer, nie na bug.
Inne LLM-y (Duże modele językowe) będą to dostarczać niezależnie od tego. (...) Strony za paywallami upadną. Są inne miejsca, gdzie można zdobyć to samo info za darmo. (...)
> Zbierz 11,7 miliarda
> Ups! Nie wiedzieliśmy, że nasz program, który przegląda sieć, potrafi czytać strony! Zabieramy tę funkcję teraz, po kilku tygodniach na produkcji, nasz błąd!
Świetny dział testowania 🤡
OpenSource zje lunch OpenAI
— Jeff Kirdeikis, CEO Team Finance
OpenAI raczej się tym nie przejmie, ale nie przejmą się tym także inni dostawcy czatbotów, zwłaszcza tych otwartych. Fakt jednak, że w obliczu ChatGPT i Bing Chat konkurencja jest raczej niewielka. Opartą na tym samym silniku GPT towarzyszącą sztuczną inteligencję umieściła niedawno Opera w swojej nowej przeglądarce Opera One. Jak postąpią inni twórcy? To się jeszcze okaże.
