Hugging Face udostępnia zasoby obliczeniowe warte 10 milionów dolarów
The Verge: Hugging Face zobowiązuje się do udostępnienia bezpłatnych GPU o wartości 10 milionów dolarów, aby pomóc programistom tworzyć nowe technologie AI. Celem jest pomoc małym deweloperom, naukowcom i startupom w przeciwstawieniu się scentralizowaniu postępu w dziedzinie sztucznej inteligencji. Delangue martwi się zdolnością startupów AI do konkurowania z gigantami technologicznymi. Większość znaczących postępów w sztucznej inteligencji - jak np. GPT-4, algorytmy stojące za Google Search i system Full Self-Driving firmy Tesla - pozostaje ukryta w obrębie głównych firm technologicznych. Korporacje te nie tylko mają zachęty finansowe do utrzymywania swoich modeli jako własnościowych, ale dzięki miliardom dolarów do swojej dyspozycji na zasoby obliczeniowe, mogą pomnożyć te zyski i wyprzedzić konkurentów, co sprawia, że dla startupów jest to niemożliwe do nadrobienia. Hugging Face ma na celu uczynienie najnowocześniejszych technologii AI dostępnymi dla wszystkich, a nie tylko dla gigantów technologicznych.
Dostęp do zasobów obliczeniowych stanowi istotne wyzwanie w konstruowaniu dużych modeli językowych, często faworyzując firmy takie jak OpenAI i Anthropic, które zawierają umowy ze świadczeniodawcami chmur na znaczne zasoby obliczeniowe. Hugging Face ma na celu wyrównanie szans poprzez przekazywanie GPU społeczności poprzez nowy program o nazwie ZeroGPU. Współdzielone GPU są dostępne dla wielu użytkowników lub aplikacji jednocześnie, eliminując konieczność posiadania dedykowanego GPU przez każdego użytkownika lub aplikację. ZeroGPU będzie dostępne poprzez platformę hostingu Hugging Face o nazwie Spaces, na której firma stworzyła już ponad 300 000 dem AI działających dotychczas na CPU lub płatnym GPU, według firmy.
Dostęp do współdzielonych GPU jest określany przez użytkowanie, więc jeśli część mocy GPU nie jest aktywnie wykorzystywana, ta moc staje się dostępna do wykorzystania przez kogoś innego. Sprawia to, że są one opłacalne, energooszczędne i idealne do wykorzystania na szeroką skalę w społeczności. ZeroGPU wykorzystuje urządzenia GPU Nvidia A100 do zasilania tej operacji -- oferują one około połowę prędkości obliczeniowej popularnych i droższych H100s.
„Bardzo trudno zdobyć wystarczającą liczbę GPU od głównych świadczeniodawców chmur, a sposób na ich pozyskanie - który stwarza wysoką barierę wejścia - polega na zobowiązaniu się do bardzo dużych ilości na długi czas,” powiedział Delangue. Zazwyczaj firma zobowiązywałaby się świadczeniodawcy chmury takiemu jak Amazon Web Services na jeden lub więcej lat, aby zapewnić zasoby GPU. Taka umowa jest niekorzystna dla małych firm, deweloperów niezależnych i naukowców, którzy działają na małą skalę i nie są w stanie przewidzieć, czy ich projekty odniosą sukces. Bez względu na użytkowanie, muszą oni wciąż płacić za GPU. „To także koszmar przewidywania, aby wiedzieć, ile GPU i jakiego budżetu potrzebujesz” dodał Delangue.
ELI5: Firma Hugging Face obiecuje udostępnienie darmowych GPU o wartości 10 milionów dolarów, aby pomóc programistom w tworzeniu nowych technologii sztucznej inteligencji. Chcą oni zapobiec monopolowi dużych firm technologicznych w tej dziedzinie i umożliwić małym firmom i badaczom konkurowanie z nimi. Przez program ZeroGPU, Hugging Face udostępni współdzielone GPU, które będą dostępne dla wielu użytkowników jednocześnie, eliminując konieczność posiadania własnego. Dzięki temu będą one oszczędne, efektywne energetycznie i łatwe w użyciu dla całej społeczności.
Źródła: