Polski inwestor  przyczynił się do bezpieczeństwa Europy

AIAktualnościCheck PointcyberatakicyberbezpieczeństwoWiadomości

Asystenci AI po cichu przemycają komendy hakerów? Mamy nowy scenariusz cyberataków

Asystenci AI wyposażeni w funkcję przeglądania internetu mogą w przyszłości stać się ukrytym kanałem komunikacji dla złośliwego oprogramowania – swego rodzaju „kurierem”, który przenosi polecenia od cyberprzestępców do zainfekowanych urządzeń, a przy tym nie przypomina klasycznego ataku – to wnioski z najnowszego badania przeprowadzonego przez ekspertów Check Point Research.

W wielu firmach korzystanie z narzędzi AI stało się codziennością i jest traktowane jako normalny, zaufany ruch w sieci. Jednak badacze cyberbezpieczeństwa ostrzegają, że w takim środowisku złośliwa komunikacja może „zlać się z tłem”, wyglądać jak typowe pytania do czata, podsumowania stron czy „sprawdzenie linku”, a nie jak kontakt z podejrzanym serwerem. 

Hipotezę tą przebadali specjaliści Check Point Research. W kontrolowanych testach potwierdzili oni, że platformy AI oferujące pobieranie treści z internetu mogą działać jak pośrednik: zamiast łączyć się bezpośrednio z „serwerem dowodzenia” (typowym dla cyberataków), złośliwe oprogramowanie mogłoby ukrywać tę łączność w interakcjach z AI. Test dotyczył m.in. Groka oraz Microsoft Copilot. 

To przesunięcie w stronę ataków napędzanych przez AI, w których złośliwe oprogramowanie może zachowywać się bardziej jak „adaptujący się operator” niż prosty skrypt. Oznacza to, że mogłoby zbierać informacje o środowisku i na ich podstawie dobierać kolejne działania – trudniejsze do przewidzenia i wykrycia. 

Ostatecznie nie jest to kolejna „dziura” w programie, tylko problem rosnącej zależności od zaufanych usług AI. Eksperci niemal jednoznacznie wskazują, że organizacje powinny przestać traktować ruch do usług AI jako automatycznie bezpieczny i zacząć go monitorować tak samo jak inne newralgiczne kanały komunikacji.  

– W miarę jak AI coraz mocniej wchodzi do codziennych procesów biznesowych, zaczyna też być wykorzystywana w działaniach atakujących. Dziś cyberprzestępcy nie muszą budować skomplikowanej infrastruktury – często wystarczy im dostęp do powszechnie zaufanych usług AI. Żeby zachować bezpieczeństwo, organizacje powinny monitorować ruch związany z AI z taką samą uwagą jak każdy inny kanał wysokiego ryzyka, wprowadzać bardziej rygorystyczne zasady korzystania z funkcji opartych na AI oraz wdrażać zabezpieczenia, które rozumieją nie tylko co robi AI, ale też dlaczego. – uważa Eli Smadja, szef działu badań w Check Point Research.

Badacze podkreślają jednak ważny szczegół – nie zaobserwowano jeszcze, by cyberprzestępcy używali tej metody w realnych kampaniach. Wynik analiz jest ostrzeżeniem wyprzedzającym, zanim trend ten się spopularyzuje. Eksperci Check Pointa poinformowali o swoich badaniach zainteresowane strony. Zareagował już Microsoft, który potwierdził te ustalenia i wdrożył zmiany w sposobie działania pobierania treści z sieci w Copilocie. 

 

Polecane artykuły
AIAktualnościataki cyberCheck PointcyberatakiFinanseWiadomości

Awaria bankowości w USA pokazuje słabość cyfrowej gospodarki. Czy banki są gotowe na technologiczny kryzys?

AktualnościITWiadomości

Polski inwestor przyciągnął światowych fachowców i wspólnie zbudują bezpieczeństwo Europy

AIAktualnościWiadomości

Stany Zjednoczone zaostrzają ograniczenia eksportowe na układy scalone AI

AktualnościITWiadomości

Zarząd Nvidii odrzuca powrót Jensena Huanga

Zapisz się do Newslettera
Bądź na bieżąco i otrzymuj najnowsze artykuły

Dodaj komentarz

Twój adres email nie zostanie opublikowany. Wymagane pola są oznaczone *