Nowa wersja ChatGPT jeszcze w tym miesiącu. OpenAI szykuje się do premiery
OpenAI pracuje nad nową usługą o nazwie kodowej Strawberry, która ma zostać zintegrowana z ChatGPT. Jej największy atut? Bardzo wolne działanie. Serio.
Nie od dziś wiadomo, że duże modele językowe są bardzo zasobożerne, a przy tym kosztowne w utrzymaniu. Sam ChatGPT ma pochłaniać tyle energii, co 17 tys. domów. Dlatego w ostatnim czasie rozwój AI sprowadzał się w dużej mierze nie tyle do poprawy jakości odpowiedzi, co zmniejszania zasobożerności i zwiększania prędkości działania.
OpenAI przyznaje wprost, że najnowszy model GPT-4o mini jest - pod względem możliwości rozumowania - trochę gorszy niż GPT-4o, ale ponad 30 razy tańszy w działaniu i wyjątkowo szybki. A co w sytuacjach, gdy szybkość i niska cena nie są najważniejsze?
ChatGPT Strawberry ma być wolny i drogi, ale za to wyjątkowo inteligentny
Jak donosi The Information, Strawberry będzie usługą "samodzielną, ale zintegrowaną z ChatGPT". Od dotychczasowych modeli ma ją odróżniać zdolność do "zastanowienia się" przed udzieleniem odpowiedzi.
Informatorzy serwisu - którzy mieli już ponoć okazję testować ChatGPT Strawberry - twierdzą, że nowa usługa potrzebuje od 10 do nawet 20 sekund na odpowiedź. Pod względem szybkości działania należy się więc spodziewać regresu, ale nie w każdych warunkach prędkość gra pierwsze skrzypce.
Zdolność do głębszego rozumowania ma poprawić jakość udzielanych odpowiedzi i zniwelować ryzyko halucynowania. Strawberry ma lepiej radzić sobie z programowaniem i rozwiązywaniem problemów matematycznych. Podobno pierwsza wersja zdolna będzie jedynie do pracy z tekstem.
Spekuluje się, że nowa usługa - z uwagi na potencjalnie większy apetyt na moc obliczeniową - będzie płatna ekstra i kierowana raczej do klientów korporacyjnych.
Według ostatnich przecieków, prezentacja ChatGPT Strawberry odbędzie się jeszcze w tym miesiącu.
Komentarze
2