Zuzanna Stamirowska

Pathway, neolab AI, który rozwija architekturę post-transformer i oparte na niej modele, pozyskał dodatkowe finansowanie na etapie seed. Wycena spółki osiągnęła 500 mln dolarów. Pierwsze publiczne wyniki modelu Pathway są już dostępne: w benchmarku ARC-AGI 1 ustanowił nowy rekord „inteligencji za dolara”, osiągając wynik zbliżony do GPT 5.6 Luna przy ponad 11-krotnie niższym koszcie.

Pathway to neolab AI, który rozwija architekturę i modele mające otworzyć kolejny etap rozwoju sztucznej inteligencji. Firma pracuje nad systemami zdolnymi do samodzielnego i ciągłego rozumowania, uczenia się oraz doskonalenia wraz z kolejnymi interakcjami.

Współzałożycielką i CEO Pathway jest Zuzanna Stamirowska, polska naukowiec zajmująca się systemami złożonymi. Wraz z nią firmą kierują Jan Chorowski (CTO), były researcher Google Brain, oraz Adrian Kosowski (CSO), naukowiec, który uzyskał tytuł doktora w wieku 20 lat.

Pamięć i rozumowanie w jednej architekturze

Pathway rozwija BDH, architekturę post-transformer zbudowaną wokół założenia, że inteligencja nie powinna być zmuszona do wyboru między pamięcią a rozumowaniem. Zamiast dodawać pamięć do modelu językowego jako osobny, zewnętrzny element, BDH łączy pamięć, adaptację i wnioskowanie w ramach jednej architektury. Projekt jest inspirowany mózgiem, ale nie próbuje go naśladować. Czerpie z rozwiązań wypracowanych przez biologię – lokalnych interakcji, rzadkiej aktywności, trwałego stanu i ciągłego dostosowywania – i przenosi je do nowoczesnego modelu sekwencyjnego.

W rezultacie BDH otwiera nową drogę rozwoju AI. Zachowuje możliwości modeli językowych, ale wychodzi poza przetwarzanie token po tokenie, prowadząc równoległe rozumowanie w przestrzeni ukrytej (abstrakcyjnej). Model nie musi przekładać kolejnych etapów rozumowania na język. Dzięki temu nie tylko generuje odpowiedzi, ale także rozwiązuje problemy.

Nowe finansowanie i wzmocnienie zespołu

Jeszcze przed publikacją pierwszych publicznych benchmarków swoich modeli Pathway pozyskał dodatkowe finansowanie, przy wycenie 500 mln dolarów. W efekcie łączna wartość kapitału zebranego przez firmę na etapie seed wzrosła do 30 mln dolarów.  Finansowanie zapewniły m.in. fundusze Id4 Ventures, TQ Ventures, Red Bridge Ventures, Kadmos Capital i WS Investment Co. (inwestycyjne ramię kancelarii Wilson Sonsini). Do grona inwestorów jako anioł biznesu dołączył również Jonathan Frankle, Chief AI Scientist w Databricks.

Środki są przeznaczone przede wszystkim na zwiększenie dostępnej mocy obliczeniowej, w tym nowe układy Nvidia GB300, oraz trening większych, wielozadaniowych modeli opartych na BDH.

Pathway wzmacnia także zespół. Do firmy jako Chief Product Officer dołączył Adam Kurzrok, były Group Product Manager odpowiedzialny za Gemini w Google DeepMind. Pokieruje rozwojem produktów Pathway – od przekształcania modeli opartych na BDH w gotowe rozwiązania, przez ich ewaluację, po wykorzystanie na dużą skalę.

Pathway sformalizował również grupę doradców. Łukasz Kaiser to współtwórca architektury transformer i współautor TensorFlow. Był researcherem w Google Brain, a następnie w OpenAI współtworzył modele o1 i o3 oraz pracował nad ChatGPT, GPT-4 i GPT-5. W Pathway doradza przy wyznaczaniu kierunku prac badawczo-rozwojowych. Do grupy dołączyli także Jonathan Frankle, Chief AI Scientist w Databricks, profesor Martín Farach-Colton z NYU Tandon oraz ekonomista Jacques Attali. Wspierają firmę w skalowaniu modeli, rozwijaniu jej wizji naukowej, strategii finansowania oraz analizie gospodarczych i społecznych konsekwencji BDH.

Pierwszy publiczny sprawdzian BDH

Finansowanie i wzmocnienie zespołu przygotowały Pathway do publicznej weryfikacji modeli opartych na BDH. Pierwszym takim sprawdzianem był benchmark ARC-AGI-1, w którym Pathway przetestował BDH-CQ – model rozumowania liczący 150 mln parametrów.

ARC-AGI-1 to publiczny benchmark sprawdzający, czy system potrafi nauczyć się nieznanego wcześniej zadania na podstawie zaledwie kilku przykładów. Model otrzymuje kilka par niewielkich plansz z kolorowymi polami, na podstawie których musi odkryć regułę transformacji. Następnie stosuje ją do nowego przykładu. Odpowiedź musi zgadzać się dokładnie – pole po polu.

BDH-CQ uzyskał wynik 29,5% w publicznym zbiorze obejmującym 400 zadań, przy obliczonym koszcie 0,0007 dolara za zadanie, czyli poniżej jednej dziesiątej centa. To nowy rekord efektywności kosztowej w ARC-AGI-1. Żaden z systemów uwzględnionych na publicznej tablicy wyników nie osiągnął co najmniej takiej samej skuteczności przy równym lub niższym koszcie.

Dla porównania GPT 5.6 Luna w wariancie Low osiąga w tym samym benchmarku 34,2%, ale wykonanie jednego zadania kosztuje około 11 razy więcej – nawet po uwzględnieniu 80-procentowej obniżki cen OpenAI z końca lipca. BDH-CQ nie jest modelem ogólnego przeznaczenia, a jego wynik jest niższy. Pokazuje jednak, że model oparty na innej architekturze może zbliżyć się do skuteczności znacznie większych systemów, wykorzystując ułamek ich zasobów.

Wynik BDH-CQ samodzielnie odtworzył Łukasz Kaiser, współtwórca architektury Transformer i doradca Pathway. Rezultaty powtórzył również Richard Zhong, badacz z New York University zajmujący się ewaluacją modeli i odpornością benchmarków. Współautorem publikacji technicznej opisującej BDH-CQ jest także Remigiusz Kinas z Bielik AI.

Przewaga kosztowa wynika ze sposobu, w jaki BDH-CQ rozumuje. Model uczy się reguły na podstawie podanych przykładów, a następnie pracuje nad rozwiązaniem w przestrzeni ukrytej, bez generowania pośredniego toku rozumowania w formie tekstu. Nie musi więc tworzyć i ponownie przetwarzać kolejnych tokenów językowego brudnopisu.

AI jest dziś droga, ale ten koszt wynika z architektury, a nie żadnego ogólnego „prawa inteligencji”. W przypadku powszechnie dostępnych modeli każdy kolejny krok zajmuje część dostępnego okna kontekstowego, zwiększa opóźnienie i zużywa moc obliczeniową. My pokazujemy, że zmiana architektury może radykalnie poprawić relację między zdolnością do rozumowania a kosztem. W ten sposób otwieramy nową, bardziej wydajną ścieżkę rozwoju AI – mówi Zuzanna Stamirowska, współzałożycielka i CEO Pathway.

Kolejny krok: skalowanie BDH

Pathway planuje teraz skalować architekturę BDH i sprawdzić ją w bardziej wymagających obszarach rozumowania, w tym w matematyce oraz benchmarkach ARC-AGI-2 i ARC-AGI-3. Firma pracuje również nad dużym modelem językowym, który będzie prowadził rozumowanie w przestrzeni ukrytej.

Wstępne eksperymenty Pathway wskazują, że podczas treningu modele BDH podlegają podobnym prawom skalowania jak modele oparte na transformerach. Firma sprawdziła to dla modeli liczących od 1 mld do 600 mld parametrów, przy zachowaniu charakterystycznego dla BDH-CQ rozumowania w przestrzeni ukrytej.

Przez ostatnie lata branża AI sprawdzała, jak daleko można dojść, zwiększając skalę modeli. Warto było to ustalić. Ale przed nami jeszcze trudniejsze pytanie. Co, gdy skala przestanie wystarczać? Czy kolejny etap rozwoju AI będzie należeć do tego, kto zgromadzi najwięcej mocy obliczeniowej, czy do kogoś gotowego, by przemyśleć architekturę od nowa? Jasno pokazaliśmy, na co stawiamy. Najbliższe miesiące przyniosą rozstrzygnięcie – kwituje Zuzanna Stamirowska.

epoint
Subskrybuj
Powiadom o
guest
0 komentarzy
Najstarsze
Najnowsze Najwięcej głosów
Opinie w linii
Zobacz wszystkie komentarze