OVH ogłasza Olala, pierwszą własną rodzinę modeli LLM. Jej pierwszym przedstawicielem jest Olala mini 7A1B – kompaktowy model oparty na nowatorskiej architekturze. Stanowi on dowód na to, że europejskie przedsiębiorstwa potrafią tworzyć i trenować agentowe modele LLM od podstaw. Oficjalna premiera odbędzie się podczas OVHcloud AI Summit 19 listopada, gdzie OVHcloud szczegółowo zaprezentuje wszystkie swoje innowacje w obszarze chmury i sztucznej inteligencji przeznaczone dla klientów.
Olala mini zbudowano na architekturze o 7 miliardach parametrów (7B), z których miliard jest aktywnych i rozdzielonych pomiędzy 256 ekspertów w każdej warstwie. Model wykorzystuje mechanizm hybrydowej uwagi łączący rozwiązania Differential-TPA i Mamba-3 i pracuje w formacie BF16.
Do obsługi każdego zapytania angażowana jest tylko część modelu, co przekłada się na większą szybkość działania i mniejsze zapotrzebowanie na pamięć. W praktyce oznacza to, że model może działać na procesorze graficznym (GPU) wyposażonym w zaledwie 8 GB pamięci – na karcie RTX A4500 osiąga prędkość 160 tokenów na sekundę, a nawet bez GPU, na standardowym procesorze, uzyskuje wynik 50 tokenów na sekundę. Obecnie jego okno kontekstowe wynosi 32 000 tokenów. Olala mini będzie dostępny w modelu open source na platformie Hugging Face, na licencji Apache 2.0.
Model wytrenowany przy wsparciu europejskich środków publicznych i już wykorzystywany przez Qwant
Model Olala mini wytrenowano na trzech europejskich superkomputerach publicznych: Jupiter, MeluXina i Jean Zay, wyposażonych odpowiednio w układy GPU typu GH200, A100 i H100.
Wsparcie o wartości odpowiadającej 7 mln euro kosztów czasu obliczeniowego, miało kluczowe znaczenie dla projektu, za co OVHcloud pragnie podziękować instytucjom publicznym.
Inicjatywa okazała się sukcesem na wielu poziomach: pozwoliła zgromadzić wyjątkowy zespół ekspertów ds. AI, umożliwiła powstanie w ramach OVH jednostki Argentic Lab oraz modelu językowego OVHai LLM.
Olala mini jest udostępniony wraz z wagami modelu, wstępnie wytrenowanym modelem bazowym, raportem technicznym oraz dokumentacją potwierdzającą zgodność z AI Act – unijnym rozporządzeniem o sztucznej inteligencji.
Wyszukiwarka Qwant już wdrożyła rozwiązanie w funkcji szybkich odpowiedzi (flash answer), osiągając wymierne korzyści: czas generowania odpowiedzi skrócił się o 20%, a koszty operacyjne spadły trzykrotnie w porównaniu z modelem wykorzystywanym wcześniej.
W drodze do wersji 1.1, a następnie 2.0
Wersja 1.1, której premiera jest planowana na koniec roku, rozszerzy okno kontekstowe do 128 000 tokenów i udoskonali skuteczność modelu w zakresie rozumowania matematycznego. Wraz z wersją 2.0 OVHai LLM zamierza rozwijać modele wyspecjalizowane w trzech obszarach.
Po pierwsze, sztuczna inteligencja typu „agent” (agentic AI) dla przedsiębiorstw. System Olala stanie się fundamentem platformy OVHai Workspace, której szyfrowana wersja będzie wymagała modeli zdolnych do pracy lokalnie, bezpośrednio na stacji roboczej użytkownika. Drugim obszarem będą rozwiązania typu cloud DevOps – z wersjami dostosowanymi do potrzeb programistów, architektów oraz zespołów operacyjnych odpowiedzialnych za zapewnienie ciągłości działania usług przez całą dobę. Trzecim obszarem jest cyberbezpieczeństwo, obejmujące zarówno aspekty ochrony, jak i działań ofensywnych. Olala w wersji 2.0 będzie dysponować ponad 100 miliardami parametrów.
Octave Klaba, CEO OVHcloud, stwierdził:
Sztuczna inteligencja ma dla OVH strategiczne znaczenie. Oprócz oferowania naszym klientom usług opartych na AI, musimy być również w stanie tworzyć modele odpowiadające na potrzeby wewnętrzne oraz potrzeby naszych klientów. W nadchodzących latach nie możemy polegać wyłącznie na tym, że niektóre laboratoria będą udostępniać swoje duże modele językowe (LLM) na zasadach open source. Wiedza specjalistyczna w dziedzinie trenowania modeli stała się powszechnie dostępna, a koszt samego procesu trenowania spadł w ciągu trzech lat dwudziestokrotnie. Obecnie tworzenie modeli LLM może być przedsięwzięciem przynoszącym zyski.































































