OpenAI nie spodziewało się aż takiego zainteresowania swoim najnowszym modelem AI. Zaledwie tydzień po premierze Astry firma zdecydowała się tymczasowo wstrzymać możliwość kupowania najdroższego abonamentu ChatGPT Pro. Powód jest dość niezwykły: nowi użytkownicy generują tak duże obciążenie infrastruktury, że OpenAI musi ograniczyć napływ kolejnych klientów.
Astra zadebiutowała 3 września i od początku była przedstawiana przez OpenAI jako przełomowy model nowej generacji. Firma podkreślała jego możliwości w zakresie rozumowania, programowania oraz korzystania z komputera. Skala zainteresowania okazała się jednak tak duża, że problem przestał dotyczyć wyłącznie mocy samego modelu.
Chodzi o moc obliczeniową potrzebną do obsłużenia wszystkich użytkowników.
200 dolarów miesięcznie i… nie można się zapisać
OpenAI tymczasowo wyłączyło możliwość zakupu planu Pro kosztującego 200 dolarów miesięcznie. To właśnie ten poziom abonamentu ma najbardziej obciążać infrastrukturę firmy.
Informację przekazał Thibault „Tibo” Sottiaux, odpowiedzialny w OpenAI za produkty związane m.in. z ChatGPT i Codexem. Wyjaśnił, że Pro jest obecnie planem powodującym największe obciążenie systemów, dlatego firma zdecydowała się na wstrzymanie nowych rejestracji.
Co ważne, nie oznacza to zamknięcia planu Pro dla obecnych klientów. Problem dotyczy przede wszystkim pozyskiwania nowych subskrybentów.
OpenAI nadal pozwala korzystać z pozostałych planów, w tym tańszych Go i Plus, a także z API.
„Bezprecedensowy” popyt na Astrę
Skala zainteresowania Astrą była widoczna już kilka dni przed decyzją o wstrzymaniu abonamentów Pro.
Sottiaux określił popyt na nowy model jako bezprecedensowy. Przyznał, że OpenAI próbuje wykorzystywać wszystkie dostępne możliwości, aby zwiększyć przepustowość infrastruktury, ale firma nie spotkała się wcześniej z podobnym tempem wzrostu.
To szczególnie interesujące, ponieważ OpenAI ma już doświadczenie z gwałtownie rosnącym zainteresowaniem swoimi modelami.
Tym razem sytuacja wygląda jednak na wyjątkową.
Firma nie podała, ilu użytkowników próbuje obecnie korzystać z Astry ani ile nowych osób dziennie chciało wykupić plan Pro. Nie wiadomo więc, jak duża jest skala problemu. Wiadomo natomiast, że OpenAI uznało ograniczenie nowych subskrypcji za lepsze rozwiązanie niż pogorszenie jakości usług dla obecnych klientów.
To dość wymowny sygnał.
Najmocniejszy model OpenAI okazał się również najdroższy w obsłudze
Astra nie jest kolejnym kosmetycznym ulepszeniem ChatGPT. OpenAI pozycjonuje ją jako model zdolny do znacznie bardziej zaawansowanego rozumowania, programowania oraz wykonywania zadań z wykorzystaniem komputera.
I właśnie te możliwości mają znaczenie dla infrastruktury.
Im bardziej zaawansowane zadanie, tym więcej mocy obliczeniowej może być potrzebne do jego wykonania. Jeżeli użytkownicy masowo wykorzystują Astrę do programowania, analizowania danych czy wykonywania wieloetapowych zadań, zapotrzebowanie na zasoby rośnie znacznie szybciej niż w przypadku prostego generowania odpowiedzi tekstowych.
Można więc powiedzieć, że OpenAI znalazło się w dość paradoksalnej sytuacji: sukces nowego modelu jest jednocześnie problemem dla firmy.
OpenAI woli ograniczyć sprzedaż niż przeciążyć ChatGPT
Decyzja o wstrzymaniu nowych abonamentów Pro pokazuje również zmianę podejścia do skalowania usług AI.
W przypadku tradycyjnych usług internetowych pozyskanie większej liczby płacących klientów jest niemal zawsze dobrą wiadomością. W przypadku najbardziej zaawansowanych modeli AI sytuacja wygląda inaczej.
Każdy nowy użytkownik może oznaczać realne, znaczące koszty infrastruktury.
A użytkownik płacący 200 dolarów miesięcznie prawdopodobnie nie korzysta z Astry okazjonalnie. Plan Pro jest skierowany właśnie do osób, które chcą wykorzystywać najbardziej zaawansowane możliwości ChatGPT intensywnie — między innymi do programowania i pracy z wymagającymi zadaniami.
Jeżeli takich użytkowników pojawi się nagle bardzo dużo, samo zwiększanie liczby serwerów może nie wystarczyć.
Co ciekawe, jeszcze niedawno OpenAI zwiększało limity
Problem jest tym bardziej interesujący, że jeszcze w ubiegłym miesiącu OpenAI zwiększało limity użytkowania Codexa dla płatnych klientów.
Wskazuje to, że obecne przeciążenie nie jest efektem wielomiesięcznego kryzysu infrastrukturalnego, lecz raczej gwałtownego wzrostu zapotrzebowania po premierze Astry.
Firma musi więc teraz szybko zwiększać dostępną moc obliczeniową.
Nie wiadomo, jak długo potrwa ograniczenie nowych subskrypcji Pro. OpenAI nie podało również konkretnego terminu powrotu sprzedaży tego planu.
To może być ważniejsza wiadomość, niż się wydaje
Na pierwszy rzut oka wstrzymanie sprzedaży abonamentu za 200 dolarów może wyglądać jak ciekawostka. W rzeczywistości pokazuje jednak jeden z największych problemów stojących przed generatywną AI.
Najlepsze modele są coraz bardziej użyteczne, ale jednocześnie coraz droższe w uruchomieniu i obsłudze.
To oznacza, że wyścig między OpenAI, Google, Anthropic i innymi firmami nie będzie dotyczył wyłącznie tego, kto stworzy najmądrzejszy model.
Równie ważne będzie to, kto będzie w stanie zapewnić wystarczającą moc obliczeniową, aby miliony ludzi mogły korzystać z niego jednocześnie.
Astra może więc być dla OpenAI nie tylko demonstracją możliwości nowej generacji AI. Jest również testem tego, czy infrastruktura firmy jest gotowa na epokę, w której użytkownicy zaczną delegować sztucznej inteligencji znacznie bardziej złożone zadania.
Na razie odpowiedź brzmi: jeszcze nie do końca.
I dlatego OpenAI… zamknęło drzwi przed kolejnymi klientami.
Foto: DepositPhotos.