Nvidia ogłosiła w poniedziałek (19.05) nową platformę oprogramowania, która stworzy rynek dla opartych na chmurze układów sztucznej inteligencji. Procesory graficzne Nvidii, czyli GPU, dominują na rynku modeli szkoleniowych AI, a szereg nowych graczy w chmurze zwanych „neoclouds”, takich jak CoreWeave i Nebius Group, pojawiło się, aby specjalizować się w wynajmowaniu układów Nvidia programistom oprogramowania.
W skrócie:
-
Nvidia ogłosiła nową platformę oprogramowania, która umożliwi sprzedaż i zakup mocy obliczeniowej AI w chmurze.
-
Platforma o nazwie Lepton ma na celu usprawnienie dostępu do zasobów GPU dla firm zajmujących się sztuczną inteligencją.
-
Lepton umożliwi programistom wyszukiwanie chipów Nvidia według lokalizacji, co ułatwi spełnianie wymogów dotyczących przechowywania danych.
Firma z siedzibą w Santa Clara w Kalifornii ogłosiła nowe narzędzie o nazwie Lepton, które umożliwia firmom zajmującym się przetwarzaniem w chmurze sprzedaż mocy GPU w jednym miejscu. Oprócz CoreWeave i Nebius, inne firmy dołączające do platformy Lepton to Crusoe, Firmus, Foxconn, GMI Cloud, Lambda, Nscale, SoftBank Corp i Yotta Data Services. Wiceprezes ds. chmury obliczeniowej Nvidia Alexis Bjorlin uważa, że pomimo rosnącego popytu na chipy w startupach i dużych firmach, proces znajdowania dostępnych chipów był „bardzo ręczny”.
„To prawie tak, jakby każdy dzwonił do każdego, aby dowiedzieć się, jaka moc obliczeniowa jest dostępna” — mówił Bjorlin w wywiadzie dla agencji Reuters. – „Po prostu staramy się, aby było to płynne, ponieważ umożliwia to wzrost i rozwój ekosystemu oraz umożliwia wszystkim chmurom — globalnym chmurom i nowym dostawcom chmury — dostęp do całego ekosystemu programistów Nvidii”.
Na liście partnerów Lepton firmy Nvidia nie ma jak dotąd głównych dostawców chmury, takich jak Microsoft, Amazon Web Services lub Alphabet’s Google. Bjorlin uważa, że system jest zaprojektowany tak, aby mogli sprzedawać swoją moc na rynku, jeśli zechcą.
Lepton ostatecznie pozwoli programistom wyszukiwać chipy Nvidia zlokalizowane w określonych krajach, aby spełnić wymagania dotyczące przechowywania danych — deklaruje Bjorlin. Pozwoli to również firmom, które już posiadają chipy Nvidia, na płynniejsze wyszukiwanie kolejnych do wynajęcia.
Nvidia nie ujawniła, jaki będzie model biznesowy nowej platformy oprogramowania ani czy będzie pobierać prowizje lub opłaty od deweloperów lub chmur. Jednak Bjorlin zapewnia, że deweloperzy „nadal będą utrzymywać własne relacje z dostawcami podstawowych obliczeń, więc zawarli z nimi umowy bezpośrednio”.