Google: Cyberataki przyspieszają do 'machine speed’, a moc obliczeniowa AI staje się celem cyberprzestępców

Sztuczna inteligencja tworzy nowe warstwy ataku, zmienia sposób przeprowadzania cyberataków i pozwala cyberprzestępcom działać z szybkością nieosiągalną wcześniej dla człowieka. Google obserwuje m.in. rozwój zjawiska „LLM jacking”, w którym przestępcy przejmują infrastrukturę AI ofiary i wykorzystują jej moc obliczeniową na jej koszt. W pojedynczych przypadkach rachunki obciążające zaatakowane organizacje sięgały nawet 1 mln USD. Jednocześnie autonomiczne narzędzia potrafią w ciągu kilku sekund poprawić nieskuteczny złośliwy kod i ponowić atak. Zdaniem Jamiego Colliera, Lead Advisora w Google Threat Intelligence Group, odpowiedzią będzie przejście cyberbezpieczeństwa w kierunku operacji wykonywanych z „machine speed”, przy czym AI ma przede wszystkim zwiększać możliwości ludzi, a nie ich eliminować.

Google identyfikuje obecnie kilka obszarów, w których AI fundamentalnie zmienia krajobraz cyberbezpieczeństwa. Pierwszym jest sposób tworzenia oprogramowania. Narzędzia AI pozwalają produkować znacznie więcej kodu i przyspieszać development, ale ten sam mechanizm tworzy nowe możliwości dla atakujących.

Współczesne aplikacje – niezależnie od tego, czy kod tworzy człowiek, czy wspomagający go system AI – korzystają z gotowych komponentów open source. Według Google cyberprzestępcy coraz częściej próbują ingerować właśnie w te elementy, aby poprzez popularne narzędzia dostać się do organizacji korzystających z nich na dalszych etapach łańcucha dostaw.

Zmienia to charakter klasycznego ataku supply chain. Zamiast próbować przejąć dużego producenta oprogramowania, napastnik może zainteresować się niewielkim projektem open source, utrzymywanym nawet przez kilku wolontariuszy, który jednocześnie jest wykorzystywany na dużą skalę przez firmy i narzędzia wspomagające programowanie.

„Obserwujemy, że cyberprzestępcy coraz częściej próbują zatruwać narzędzia open source, aby w ten sposób wywoływać skutki w organizacjach znajdujących się dalej w łańcuchu dostaw” – wskazał Collier podczas briefingu w ramach konferencji Google Cloud.

Google obserwuje również ataki typu prompt injection skierowane przeciwko procesom wykorzystującym asystentów programistycznych AI. Złośliwe instrukcje mogą nakłaniać system AI m.in. do zainstalowania malware’u lub wykonania złośliwego skryptu.

Odpowiedzią ma być wykorzystanie AI również po stronie obronnej. Google pracuje nad rozwiązaniami przypominającymi „spell check” dla kodu: potencjalna podatność pojawiająca się podczas programowania może zostać wykryta w czasie zbliżonym do rzeczywistego, a AI może jednocześnie zaproponować sposób jej usunięcia.

LLM jacking. Nowe kopanie kryptowalut

Drugim zjawiskiem wskazywanym przez Google jest powstanie zupełnie nowej powierzchni ataku związanej bezpośrednio z infrastrukturą sztucznej inteligencji. Firma określa jeden z takich modeli ataku jako LLM jacking. Cyberprzestępcy przejmują infrastrukturę chmurową organizacji, dostają się do jej zasobów przeznaczonych do obsługi AI, a następnie wykorzystują cudzą moc obliczeniową do uruchamiania własnych obciążeń. Ekonomika ataku jest prosta: koszt wykorzystania modeli i infrastruktury AI ponosi ofiara.

„Coraz częściej przestępcy dochodzą do wniosku, że nie ma powodu, aby sami płacili za moc obliczeniową AI, skoro może za nią zapłacić ofiara” – wskazał ekspert.

Google obserwował przypadki, w których nieuprawnione obciążenia przekraczały 100 tys. USD w ciągu jednego dnia, a koszty poniesione przez pojedynczą organizację w związku z tego rodzaju działalnością sięgały nawet 1 mln USD.

Skala i dojrzałość procederu rosną. Na początku roku Google obserwował jedynie pojedyncze przypadki, obecnie wokół kradzionej infrastruktury AI zaczyna powstawać cały ekosystem. Z jednej strony działają grupy uzyskujące dostęp do organizacji, przejmujące ich środowiska chmurowe i docierające do zasobów AI. Z drugiej pojawiają się podmioty określane przez Google jako LLM mixers, które odsprzedają z dużym rabatem dostęp do modeli AI uzyskany za pomocą kradzionych kluczy API. Ekspert Google porównuje rozwój tego procederu do wcześniejszej fali nielegalnego cryptominingu.

W przeszłości przestępcy włamywali się do środowisk chmurowych przedsiębiorstw, aby na koszt ofiar wydobywać kryptowaluty. Teraz wartością, którą można ukraść i monetyzować, staje się moc obliczeniowa przeznaczona dla dużych modeli językowych.

Modele AI stają się „klejnotami koronnymi” przedsiębiorstw

Problem nie ogranicza się do kradzieży mocy obliczeniowej. Wraz ze wzrostem znaczenia AI zmienia się również to, co dla cyberprzestępców i grup szpiegowskich stanowi najbardziej wartościowe aktywa przedsiębiorstwa. Google obserwuje rosnące zainteresowanie grup szpiegowskich badaniami nad AI, modelami, promptami, umiejętnościami modeli oraz innymi własnościowymi zasobami związanymi ze sztuczną inteligencją.

Według eksperta takie zasoby stają się nowymi „crown jewels”, czyli jednymi z najcenniejszych informacji posiadanych przez przedsiębiorstwo. Zmianę widać również na czarnym rynku kont. Google odnotował podwojenie stawek za przejęte korporacyjne konta AI pomiędzy 2025 i 2026 r. Konta przedsiębiorstw są dla przestępców znacznie bardziej atrakcyjne niż indywidualne subskrypcje użytkowników.

Cyberatak zaczyna działać z prędkością maszyny

Trzecią fundamentalną zmianą jest ewolucja sposobu wykorzystywania AI przez samych napastników.

Google obserwuje przejście od stosunkowo prostego wykorzystania chatbotów do autonomicznych frameworków, które mogą realizować kolejne etapy ataku i łączyć różne exploity podczas przemieszczania się przez zaatakowaną sieć. Najważniejszą zmianą nie musi być przy tym powstanie zupełnie nowych technik ataku. AI dramatycznie zwiększa tempo działania. Jeżeli autonomiczne narzędzie uruchomi złośliwy skrypt i otrzyma informację, że kod nie działa, potrafi go zmodyfikować i ponowić próbę w ciągu nawet kilku  sekund.

„Dostajemy natychmiastową możliwość naprawienia kodu i odpowiedzi na otrzymywany feedback” – wskazał Collier.

Podczas jednej z obserwowanych operacji wykorzystanie wieloagentowych frameworków umożliwiło zebranie tysięcy danych uwierzytelniających w czasie około sześciu godzin. To ma poważne konsekwencje dla tradycyjnych systemów cyberbezpieczeństwa. Dotychczas obrona mogła polegać m.in. na rozpoznawaniu konkretnego złośliwego pliku na podstawie jego hasha. Jeżeli jednak AI jest w stanie błyskawicznie zmieniać kod, takie podejście traci skuteczność.

Cyberbezpieczeństwo będzie więc musiało przesuwać się w kierunku wykrywania zachowania, zamiast identyfikowania wyłącznie konkretnych plików czy wcześniej rozpoznanych sygnatur. Jednym z podejrzanych wzorców może być na przykład niezwykle szybkie modyfikowanie kodu wewnątrz sieci.

AI nie daje jednak wszystkim atakującym tych samych korzyści

Google przestrzega jednocześnie przed traktowaniem wpływu AI na cyberbezpieczeństwo jako jednego, uniwersalnego zjawiska. Autonomiczne narzędzia pozwalają atakującym osiągnąć ogromną skalę i bardzo szybko próbować atakować wielu potencjalnych poszkodowanych. Ceną za szybkość jest jednak „hałaśliwość” takich operacji – agresywne działania powodują generowanie dużej liczby alertów i zwiększają prawdopodobieństwo wykrycia.

Taki model może szczególnie odpowiadać cyberprzestępcom nastawionym na szybkie przejęcie i wyprowadzenie danych. Nie muszą oni osiągać sukcesu w każdym przypadku – mogą jednocześnie atakować bardzo wiele organizacji.

Inaczej wygląda sytuacja grup prowadzących cyberszpiegostwo. Dla nich priorytetem pozostaje niewykrywalność i możliwość długotrwałego utrzymania dostępu. Według specjalisty Google może to prowadzić do powstawania zmodyfikowanych, bardziej wyspecjalizowanych wersji autonomicznych frameworków przeznaczonych dla operacji szpiegowskich.

W najbardziej zaawansowanych operacjach bardziej prawdopodobny jest więc model człowiek + AI niż całkowicie autonomiczny cyberatak. Google obserwował już m.in. wykorzystanie AI przez rosyjskie grupy do ulepszania malware’u, ale człowiek nadal decydował o jego użyciu.

Polska przed zagrożeniem dla infrastruktury krytycznej

Z perspektywy Polski szczególne znaczenie mają działania grup powiązanych ze wschodnimi wywiadami. Ekspert Google określił wcześniejszy incydent dotyczący polskiego sektora energetycznego jako poważny sygnał ostrzegawczy. Firma obserwuje utrzymujące się zainteresowanie „rosyjskich aktorów” europejską infrastrukturą krytyczną.

Szczególne znaczenie ma przy tym zmiana charakteru działań części wschodnich grup. Operacje destrukcyjne prowadzone przez te struktury nie są nowym zjawiskiem. Google obserwował je wcześniej m.in. na Ukrainie. Nowym elementem jest jednak gotowość do prowadzenia bardziej destrukcyjnych działań przez grupy, które historycznie charakteryzowały się większą dyscypliną operacyjną i koncentracją na skrytym działaniu.

„W miarę zbliżania się zimy zagrożenie dla infrastruktury krytycznej w całej Europie jest naszym głównym obszarem zainteresowania” – wskazał specjalista Google.

Firma zwraca również uwagę, że zagrożeń dotyczących Polski nie można analizować wyłącznie poprzez obserwację incydentów występujących już w kraju. Działania obserwowane wcześniej w Ukrainie lub innych częściach świata mogą następnie pojawiać się w kolejnych państwach.

Chmura i AI stają się jednym problemem bezpieczeństwa

Rosnące wykorzystanie AI oznacza również, że coraz trudniej rozpatrywać bezpieczeństwo sztucznej inteligencji niezależnie od bezpieczeństwa chmury. Wiele ataków prowadzących do LLM jackingu, kradzieży modeli, badań nad AI czy dostępu do firmowych kont AI zaczyna się właśnie od kompromitacji środowiska chmurowego.

„Jeżeli utrudnimy dostęp do naszej chmury, utrudnimy również atakującym uzyskanie dostępu do naszych zasobów AI” – wskazał ekspert.

Google zwraca uwagę, że szczególnie niebezpieczne nie muszą być pojedyncze podatności, lecz ich kombinacje. Niesprawdzony model AI działający w odizolowanym środowisku testowym bez dostępu do danych klientów może nie generować dużego ryzyka. Ten sam model umieszczony w źle skonfigurowanym środowisku chmurowym, z nadmiernymi uprawnieniami i dostępem do danych osobowych może już stworzyć poważne zagrożenie.

Google określa takie przypadki jako „toxic combinations” – toksyczne kombinacje słabych poświadczeń, błędnej konfiguracji, nadmiernych uprawnień i dostępu do wrażliwych informacji. Jednocześnie wraz z rozwojem AI środowiska chmurowe stają się coraz bardziej dynamiczne. Statyczny arkusz zawierający listę aktywów przestaje wystarczać, ponieważ konfiguracja infrastruktury, modeli i usług może szybko się zmieniać.

Google: obrońcy również dostają AI

Rosnąca automatyzacja cyberataków nie oznacza jednak, że technologiczna przewaga automatycznie przechodzi na stronę przestępców. Według specjalisty Google obrońcy mają istotną przewagę: kontrolują własne środowisko. Mogą ustalać zasady dostępu i zabezpieczenia oraz dysponować znacznie większą widocznością tego, co dzieje się w ich sieci.

Google zakłada rozwój machine-speed security operations, czyli operacji bezpieczeństwa wykorzystujących AI do radykalnego przyspieszenia wykrywania i reagowania na zagrożenia. Nie chodzi przy tym o eliminację analityków. Automatyzacja ma przejąć analizę dużej liczby fałszywych alarmów i powtarzalnych czynności, a człowiek ma zostać przesunięty „wyżej w łańcuchu wartości” – w kierunku aktywnego poszukiwania zagrożeń i analizowania najbardziej zaawansowanych przeciwników.

„Nie chodzi o pozbywanie się ludzi, ale o przesunięcie ich do zadań, w których mogą mieć większy wpływ” – wskazał Collier.

Drugim kierunkiem jest eliminowanie podatności już podczas powstawania oprogramowania. Zamiast wykrywać po latach narastający „security debt”, system może sygnalizować problem w momencie napisania kodu – na przykład natychmiast wykryć przypadkowe ujawnienie danych uwierzytelniających.

Trzecim elementem ma być dynamiczne rozumienie całego środowiska chmurowego i zależności pomiędzy jego elementami, tak aby system potrafił identyfikować właśnie najbardziej niebezpieczne kombinacje ryzyka.

Największym błędem może być przekonanie, że atakujący musi wygrać tylko raz

Ekspert Google zakwestionował również jedno z najczęściej powtarzanych twierdzeń dotyczących cyberbezpieczeństwa – że atakujący musi odnieść sukces tylko raz, podczas gdy obrońca musi być skuteczny zawsze. W praktyce skuteczny cyberatak wymaga pokonania szeregu kolejnych barier. Atakujący musi najpierw dostać się do środowiska organizacji, następnie przemieszczać się wewnątrz infrastruktury, podnieść swoje uprawnienia, znaleźć wrażliwe informacje, a następnie skutecznie je wyprowadzić. Każdy z tych etapów jest kolejną możliwością wykrycia ataku i postawienia napastnikowi następnej bariery.

AI przyspiesza działania po obu stronach. Dlatego jednym z kluczowych wyścigów najbliższych lat może być nie tyle rywalizacja człowieka z autonomicznym cyberatakiem, ile starcie atakującej automatyzacji z obroną działającą z podobną, maszynową szybkością.

epoint
Subskrybuj
Powiadom o
guest
0 komentarzy
Najstarsze
Najnowsze Najwięcej głosów