Model językowy ChatGPT będzie potrzebował więcej mocy obliczeniowej, a co za tym idzie, lepszego sprzętu. W tym przypadku OpenAI prawdopodobnie zakupi akceleratory A100, jedne z najdroższych urządzeń Nvidii.
Źródło fot. Zac Wolff / Unsplash
i
Bot oparty o sztuczną inteligencję, ChatGPT, może zapewnić Nvidii całkiem spore zyski. Jego proces uczenia się wymaga sporej mocy obliczeniowej. Wykorzystywane są tutaj specjalne akceleratory produkowane przez Nvidię – A100. Ciągły rozwój i nowe inwestycje sprawiają, że ChatGPT będzie potrzebował sprzętowej rozbudowy, łącznie może działać nawet na 30 tys. urządzeń. A każde z nich kosztuje około 15 tys. dolarów (w Polsce ok. 54 tys. zł).
ChatGPT na akceleratorach A100
Według serwisu TrendForce, obecnie ta AI wymaga już 20 tys. jednostek Nvidia A100. Microsoft „zatrudnił” model językowy ChatGPT w swojej wyszukiwarce Bing, przeglądarce Edge i systemie Windows 11. Stale też rośnie popularność rozmów ze sztuczną inteligencją. Nawet standardowe boty na Discordzie wykorzystują jej API i funkcje. Dalszy wzrost zainteresowania będzie wymagał odpowiedniej skali rozwoju, a to z kolei pociągnie za sobą rozbudowę technicznego zaplecza. OpenAI prawdopodobnie zakupi urządzenia A100 i ułoży je w klastry. Finalnie może ich być nawet 30 tys. To może oznaczać miliony dolarów przychodu dla Nvidii, choć zapewne przy tak masowych transakcjach, OpenAI może liczyć na dobry rabat.
Akcelerator Nvidia A100. Źródło: Nvidia
Nvidia A100 to specjalistyczne „karty graficzne” przeznaczone do obliczeń w centrach danych. Posiadają 40 GB lub 80 GB pamięci HBM2e o przepustowości 1,55 TB/s (dla porównania pamięć w RTX 4090 – ok. 1 TB/s). Mimo sporej mocy ich układ chłodzenia jest pasywny, a TDP wynosi 250 W. Nvidia oferuje także nowsze urządzenie H100, które ma zastąpić A100. Według producenta posiada ono nawet trzykrotnie większą wydajność od poprzednika. Niestety za znacznie większą cenę, która wynosi około 32 tys. dolarów.
Karty graficzne Nvidii kupisz na Allegro
Może Cię zainteresować:
Zapraszamy Was na nasz nowy kanał na YouTube – tvtech, który jest poświęcony zagadnieniom związanym z nowymi technologiami. Znajdziecie tam liczne porady dotyczące problemów z komputerami, konsolami, smartfonami i sprzętem dla graczy.
Ten materiał nie jest artykułem sponsorowanym. Jego treść jest autorska i powstała bez wpływów z zewnątrz. Część odnośników w materiale to linki afiliacyjne. Klikając w nie, nie ponosisz żadnych dodatkowych kosztów, a jednocześnie wspierasz pracę naszej redakcji. Dziękujemy!
Zgłoś naruszenie/Błąd
Pozytywnie
Neutralnie 
Negatywnie
Lubię to!
Super
Ekscytujący 
Ciekawy
Smieszny
Smutny
Wściekły
Przerażony
Szokujący
Wzruszający
Rozczarowany
Zaskoczony
Prawda
Manipulacja
Fake news
Oryginalne źródło ZOBACZ
Dodaj kanał RSS
Musisz być zalogowanym aby zaproponować nowy kanal RSS