GPT-4 Turbo wkrótce w Bing

Użytkownicy Czatu Bing/Copilota czekają na implementację GPT-4 Turbo, ostatniej iteracji modelu GPT (Generative Pre-trained Transformer) od OpenAI. W niedawnym tweecie Mikhail Parakhin z Microsoftu potwierdził, że firma już nad tym pracuje. W czym ta nowa wersja jest lepsza od obecnej?

Podczas gdy GPT-4 Turbo nadal nie jest dostępny w Bing ani Copilot, Mikhail Parakhin, CEO działu Search and Advertising w Microsoft, zapewnia, że jego zespół usuwa pozostałe niedociągnięcia i pracuje nad płynnym wdrożeniem. Gdy już do niego dojdzie, oczekuje się, że ulepszony silnik poprawi możliwości czatbota oraz obniży koszt jego pracy.

Co to jest GPT-4 Turbo? Jest to najnowsza generacja dużego modelu językowego GPT-4 autorstwa OpenAI, zdolnego do przetwarzania zarówno tekstu, jak i obrazów (model multimodalny), która cechuje się wzrostem możliwości, wydajności i opłacalności. Wersja Turbo posiada okno kontekstu ze 128 tys. tokenów (w porównaniu do 64 tys. w GPT-4 i 8 tys. w GPT-3.5). Oznacza to, że może uwzględniać znacznie dłuższą historię tekstu podczas generowania odpowiedzi, co prowadzi do bardziej spójnych i trafnych wyników.

GPT-4 Turbo jest 3x tańszy w działaniu w przypadku tokenów wejściowych (0,01 USD) i 2x tańszy w przypadku tokenów wyjściowych (0,03 USD) w porównaniu do GPT-4. Wspiera on tryb wyjścia JSON, co pozwala deweloperom łatwo integrować go z innymi usługami. Wersja ta została ogłoszona 6 listopada.

Źródło: https://mspoweruser.com/microsoft-still-need-to-iron-out-a-few-kinks-to-implement-gpt-4-turbo-for-bing/