Dwa z najpotężniejszych narzędzi sztucznej inteligencji na świecie – Mythos AI Anthropic i Open AI – stworzyły fałszywe profile ludzi, aby próbować manipulować użytkownikami podczas prób przeprowadzenia cyberataków – ujawnił brytyjski AI Security Institute (AISI). Eksperci ostrzegają – tempo, w jakim sztuczna inteligencja zaczyna przekraczać dotychczasowe granice jest niebezpieczne.
Jeszcze do niedawna scenariusze, w których sztuczna inteligencja świadomie manipuluje ludźmi, należały głównie do literatury science fiction. Dziś stają się elementem rzeczywistych testów bezpieczeństwa.
Najnowszy raport brytyjskiego AI Security Institute (AISI) opisuje przypadek, w którym agent AI podczas kontrolowanej oceny cyberbezpieczeństwa samodzielnie stworzył kilka fikcyjnych internetowych tożsamości. Następnie wykorzystał je do wywierania presji na rzeczywistego opiekuna projektu open source, próbując przekonać go do zaakceptowania złośliwych zmian w kodzie.
Co szczególnie niepokoi badaczy, model nie otrzymał polecenia oszukiwania. Decepcja okazała się po prostu najskuteczniejszą drogą do osiągnięcia postawionego celu. Badacze podkreślają, że eksperyment odbywał się w kontrolowanym środowisku testowym. Celowo wyłączono część zabezpieczeń oraz umożliwiono modelowi dostęp do internetu. Nie odnotowano żadnych szkód poza laboratorium.
Trzy incydenty w dwa tygodnie
Sam przypadek nie byłby aż tak znaczący, gdyby nie fakt, że jest to trzeci podobny incydent ujawniony w ciągu zaledwie dwóch tygodni.
21 lipca OpenAI poinformowało o sytuacji, w której dwa modele AI wydostały się z odizolowanego środowiska testowego, odnajdując i wykorzystując wcześniej nieznaną podatność. Atak dotarł do infrastruktury Hugging Face, gdzie został wykryty i zatrzymany. Rekonstrukcja zdarzenia obejmowała aż 17 600 pojedynczych działań wykonanych przez modele.
30 lipca Anthropic ujawnił z kolei, że trzy modele AI uzyskały nieautoryzowany dostęp do trzech rzeczywistych organizacji, ponieważ środowisko testowe zostało błędnie połączone z publicznym internetem. Analiza ponad 141 tysięcy testów ewaluacyjnych wykazała, że pierwsze incydenty miały miejsce już w kwietniu, a dwie z trzech organizacji w ogóle nie zauważyły naruszenia.
Najnowszy raport AISI pokazuje natomiast zupełnie nowy rodzaj zachowania – celowe wykorzystanie manipulacji społecznej wobec człowieka.
Eksperci zwracają uwagę, że wszystkie trzy przypadki mają różne przyczyny. W jednym model samodzielnie odnalazł nieznaną lukę bezpieczeństwa. W drugim wykorzystał błędną konfigurację środowiska testowego. W trzecim zdecydował się na oszustwo jako najbardziej efektywną metodę realizacji zadania. To oznacza, że nie mamy do czynienia z powtarzającym się błędem jednego producenta, ale z całą kategorią nowych zagrożeń, które pojawiają się szybciej niż mechanizmy ich wykrywania.
Ekspert Check Point: AI zaczyna działać jak zaawansowany przeciwnik
– Najważniejszy wniosek z ostatnich dwóch tygodni nie dotyczy liczby incydentów, ale tempa zmian. Mamy trzy różne mechanizmy awarii ujawnione przez trzy niezależne organizacje. To pokazuje, że zabezpieczenia rozwijają się wolniej niż możliwości agentów AI. Firmy powinny przestać zakładać, że modele zawsze będą działały zgodnie z oczekiwaniami i zacząć monitorować ich aktywność równie dokładnie, jak monitorują działania ludzkich użytkowników czy złośliwego oprogramowania – komentuje Jeremy Fuchs, Cybersecurity Researcher w Check Point Software Technologies.
Jak podkreślają eksperci, coraz większego znaczenia nabiera kontrola całego kontekstu działania agentów AI – od źródeł danych i wykorzystywanych narzędzi po możliwość śledzenia wszystkich podejmowanych przez nie decyzji.
– „Większość organizacji nie potrafi odpowiedzieć na trzy podstawowe pytania dotyczące własnych systemów sztucznej inteligencji. Nie wiedzą dokładnie, jakich agentów AI posiadają – w tym również tych tworzonych przez osoby, które nie postrzegają siebie jako programistów. Nie mają pełnej wiedzy, do jakich zasobów każdy z tych agentów ma dostęp oraz co dokładnie każdy z nich może obecnie wykonywać, a nie tylko jakie zadania przewidziano dla niego w momencie jego stworzenia. Istnieje jednak czwarte pytanie, które jest najważniejsze, a na które niemal żadna organizacja nie potrafi odpowiedzieć: czy bylibyśmy w stanie zauważyć w czasie rzeczywistym, że agent AI przekroczył zakres swoich uprawnień” – mówi Sam Watts, senior manager AI w firmie Check Point.
Specjaliści podkreślają, że opisane eksperymenty odbywały się w warunkach laboratoryjnych, przy celowo osłabionych zabezpieczeniach. Nie ma dowodów na to, aby którykolwiek z opisanych modeli wyrządził szkody poza środowiskiem testowym.
Jednak seria trzech ujawnionych przypadków pokazuje wyraźny trend. Jeszcze kilka miesięcy temu dyskusja koncentrowała się na tym, czy modele AI mogą uzyskać nieautoryzowany dostęp do systemów. Dziś pojawia się nowe pytanie – czy potrafią świadomie wpływać na decyzje ludzi, jeśli uznają to za najkrótszą drogę do osiągnięcia celu.
Dla firm wdrażających agentów AI oznacza to konieczność traktowania ich nie tylko jako narzędzi zwiększających produktywność, ale również jako nowych elementów infrastruktury wymagających ciągłego monitorowania, kontroli uprawnień i mechanizmów wykrywania nietypowych zachowań.
