Seria rewelacji dotyczących alarmujących możliwości hakerskich wiodących modeli sztucznej inteligencji (AI) trwa. Brytyjscy badacze bezpieczeństwa wykryli, że model AI firmy deweloperskiej Anthropic próbował samodzielnie wprowadzić lukę w zabezpieczeniach publicznie dostępnego oprogramowania podczas testów. Według ekspertów, sztuczna inteligencja próbowała nawet manipulować odpowiedzialnym człowiekiem za pośrednictwem poczty elektronicznej, aby to osiągnąć .
Instytut Bezpieczeństwa Sztucznej Inteligencji brytyjskiego Departamentu Nauki, Innowacji i Technologii celowo udzielił modelom firmy OpenAI, twórcy oprogramowania Anthropic i ChatGPT , dostępu do internetu na potrzeby testów możliwości przeprowadzania cyberataków.
Zakładano jednak, że sztuczna inteligencja będzie pobierać z internetu jedynie narzędzia programowe w celu wykonania przydzielonego zadania. Nie przewidywano, że model Mythos 5, będący częścią Anthropic, będzie wykorzystywał dostęp do internetu do działań skierowanych przeciwko ludziom.
Naukowcy przyznali również, że odkryli tę metodę dopiero później, analizując ruch danych. W przyszłych testach planują lepiej monitorować strumienie danych w czasie rzeczywistym.
Firmy Anthropic i OpenAI przyznały już w ostatnich tygodniach, że ich modele sztucznej inteligencji (AI) nieumyślnie infiltrowały systemy komputerowe rzeczywistych firm podczas testów. Przyznania te nasiliły obawy dotyczące cyberataków z wykorzystaniem sztucznej inteligencji, które istnieją od lat .
Fałszywe tożsamości i wiadomości e-mail typu phishing
W najnowszym teście sztuczna inteligencja Anthropic utworzyła własne konto na platformie oprogramowania GitHub, z której programiści na całym świecie korzystają do publikowania i dalszego rozwijania kodu. Następnie sztuczna inteligencja podjęła próbę wstawienia kodu programu zawierającego celowo wprowadzoną lukę w zabezpieczeniach do publicznie dostępnego projektu GitHub.
Aby przekonać twórców oprogramowania o wartości dostarczonego kodu, sztuczna inteligencja tworzyła fałszywe tożsamości, za pośrednictwem których się z nimi komunikowała. Obejmowało to tzw. wiadomości e-mail phishingowe, których atakujący używali do kradzieży danych logowania.
Kiedy złośliwy kod został w końcu wykryty, model Anthropic przedstawił wszystko jako uczciwy błąd – a następnie próbował ukryć lukę w rzekomych poprawkach. Mythos 5 rzekomo infekował również innych agentów AI. Kod tego ataku nie był wyświetlany na stronie internetowej, lecz został odczytany jedynie przez oprogramowanie AI za pośrednictwem interfejsu, jak donoszono.
Nie pierwszy incydent
W swojej odpowiedzi Anthropic wskazał między innymi, że testowany model sztucznej inteligencji nie miał żadnych ograniczeń dotyczących korzystania z internetu. Firma argumentowała, że brak wytycznych powodował, że zachowywał się on inaczej niż oprogramowanie faktycznie wdrożone w terenie.
Według AI Security Institute (AISI) nie jest jasne, czy sztuczna inteligencja zrozumiała podczas testu, że wchodzi w interakcję ze światem rzeczywistym, a nie ze środowiskiem testowym. Fakt, że sztuczna inteligencja manipulowała publicznie dostępnym oprogramowaniem, aby rozwiązać zadanie, był zaskoczeniem dla badaczy. Zauważono również, że sztuczna inteligencja z OpenAI była samodzielna w internecie podczas testów.
