Wiele wskazuje na to, że ogromne zapotrzebowanie na karty graficzne związane z rozwojem sztucznej inteligencji w wielu przypadkach zostało wygenerowane sztucznie i w niepotrzebnym nadmiarze. Tak wynika z najnowszego raportu serwisu The Information.
I tak oto w przypadku xAI — firmy, które opowiada m.in. za rozwój chatbota Grok — aktualne wykorzystanie układów graficznych wynosi zaledwie 11 proc. spośród zapasu aż 550 tysięcy układów graficznych od Nvidii. Cała reszta jest obecnie nieużywana i — jak nietrudno sobie to wyobrazić — sytuacja w najbliższych miesiącach raczej nie ulegnie zasadniczej zmianie.
To efekt zauważalnego wzrostu skali posiadanych serwerów, przez co zastosowanie tysięcy procesorów graficznych przekłada się na spadający stopień wykorzystania GPU. To także kwestia nie do końca zoptymalizowanego oprogramowania AI, które nie jest w stanie zagwarantować odpowiedniej wydajności na tak dużą skalę sprzętową.
Co ciekawe, również i inne koncerny nie wykorzystują całości lub nawet znakomitej większości zdolności sprzętowych serwerowni. W przypadku koncernów Meta i Google ten współczynnik jest obecnie na poziomie 43 oraz 46 proc.
komputerswiat.pl