Podczas tegorocznej konferencji Microsoft Ignite firma z Redmond zaskoczyła wszystkich, prezentując autorski układ FPGA. Idzie on w parze z istniejącymi już jednostkami CPU i GPU, które napędzają centra danych, jednak FPGA charakteryzuje się dużo wyższą wydajnością, szczególnie jeśli chodzi o obliczenia związane ze sztuczną inteligencją. Okazuje się, że prace z alternatywną jednostką obliczeniową zaczęły się w Microsoft już na początku dekady, a teraz usługi firmy czerpią z niej korzyści.
FPGA charakteryzuje minimalny czas reakcji, wielka skala i równie wielka wydajność, których w przypadku usług AI nie są w stanie zapewnić w takim stopniu tradycyjne układy CPU. FPGA to programowalne układy sprzętowe, które łączą wydajność sprzętu z elastycznością, która umożliwia zmianę ich funkcjonalności w locie. Właśnie w architekturze FPGA powstał pierwszy superkomputer AI, który został niejako wbudowany w globalną hiperskalowalną chmurę. Innymi słowy, na ów superkomputer składają się zasoby Azure. Z możliwości, o których Satya Nadella mówił podczas Microsoft Ignite 2016, mogą korzystać także użytkownicy chmury. Firma oczywiście sama korzysta z istniejących możliwości, o czym teraz możemy przeczytać więcej.
Okazuje się, że prace nad chipem FPGA rozpoczęły się w Microsoft w 2011 r., wówczas pod nazwą Project Catapult. Jak mówi Derek Chiou, były lider zespołu, inżynierowie skupiali się głównie na zadaniach wysyłanych do układu zamiast w pierwszej kolejności na serwerze. FPGA po otrzymaniu danych wybiera sposób, w jaki mają zostać one przetworzone, nie zajmując tym nawet procesora: "To, co zrobiliśmy, to zrobienie z FPGA drzwi frontowych". Powiązanie FPGA ze sztuczną inteligencją pozwoliło na szybszy rozwój głębokich sieci neuronowych. Jako że wielordzeniowe procesory mogą obliczać wiele zadań jednocześnie, sieci neuronowe mogą to jeszcze przyspieszyć. Brzmi trochę abstrakcyjnie, jednak przekłada się na codzienne praktyki, o których nawet nie myślimy - jak choćby maszynowe tłumaczenie tekstów.
Czas na konkrety - układy FPGA są już umieszczane we wszystkich centrach danych Microsoft i są wykorzystywane przez Bing i Azure. Microsoft spodziewa się, że niebawem serwery osiągną znaczący wzrost wydajności. Konieczne też będą aktualizacje silnika wyszukiwania Bing. Jako że FPGA to układy programowalne, inżynierowie mogą na nich umieszczać algorytmy bez dodatkowej warstwy oprogramowania. Co istotne, układy te mogą być aktualizowane praktycznie natychmiastowo, by przygotować je na dalsze działania. To znaczący krok naprzód w porównaniu do tradycyjnego hardware'u, w którym nieraz trzeba czekać latami na inną konfigurację.
