Czat AI w Google i Bing kosztuje 10x więcej niż zwykłe wyszukiwanie

Wyszukiwarki internetowe są od dawna wspomagane przez sztuczną inteligencję, ale prawdziwy przełom nastąpił dopiero w ostatnich tygodniach, gdy do Bing trafił Prometheus oparty na ChatGPT, a Google planuje włączyć usługę Bard. Obsługa każdego zapytania do wyszukiwarki wymaga pewnej mocy obliczeniowej i generuje koszty. W przypadku wyszukiwania AI są one dużo większe.

Kiedy zadajemy pytania, prowadzimy konwersację, prosimy o wygenerowanie tekstu albo szukamy czegoś w Internecie, wyszukiwarki Bing i Google z włączoną funkcjonalnością AI muszą wykonać o wiele więcej pracy niż przy tradycyjnym wyszukiwaniu. Wykorzystywanych jest wtedy o wiele więcej zasobów obliczeniowych, a to wiąże się m.in. z większym zużyciem energii. Nowy raport od Reuters rzuca więcej światła na tę kwestię. Jak powiedział John Hennessy, chairman w Alphabet, użycie czatbota podpiętego do dużego modelu językowego kosztuje nawet 10 razy więcej niż normalne wyszukiwanie.

Póki co koszta utrzymania AI w wyszukiwarkach pokrywają ich twórcy i inwestorzy. Ten sposób prezentacji treści sprawia, że trudno jest skomercjalizować wyszukania, np. umieszczając w odpowiedziach reklamy tak jak na tradycyjnej liście wyników. Sam Altman z OpenAI mówi wprost, że w pewnym momencie firma będzie musiała jakoś to zmonetyzować, gdyż "koszty obliczeniowe są oszałamiające". Prawdopodobnie z tego też względu Microsoft nałożył dzienne ograniczenia co do liczby kolejek (pytanie + odpowiedź) i sesji — odpowiednio do 6 i 60 (wcześniejszy limit to 5 i 50).

Innym sposobem na pokrycie sporych kosztów operacyjnych jest integracja technologii konwersacyjnej AI z produktami komercyjnymi, takimi jak Microsoft 365. Co jednak w przypadku wyszukiwarek internetowych? Czy dostawcy znajdą inny niż reklamy sposób na monetyzację? A jeśli nie, to gdzie je umieścić, aby nie zakłócały konwersacji ani nie zniekształcały odpowiedzi? Według założeń AI ma być bezstronna i rzetelna, dlatego jest to spore wyzwanie.