Atak hakerski, którego dokonało oprogramowanie sztucznej inteligencji (AI) firmy OpenAI, jest poważniejszy niż dotychczas sądzono. Agent AI, po ucieczce ze środowiska testowego, nie tylko zaatakował platformę open source Hugging Face, ale także celowo wykradł dane logowania i przejął kontrolę nad co najmniej czterema innymi usługami online, ogłosiła firma w środę.
Do incydentu doszło podczas testowania nowatorskiego modelu sztucznej inteligencji (AI) i prototypu badawczego na platformie testowej ExploitGym. Aby zmierzyć maksymalne możliwości ataku, OpenAI dezaktywowało zabezpieczenia. Zamiast rozwiązywać zagadki programistyczne w standardowy sposób, sztuczna inteligencja autonomicznie zdecydowała się na kradzież rozwiązań modelowych bezpośrednio z serwerów Hugging Face.
Użyte dane dostępu publicznego
W zaktualizowanym oświadczeniu OpenAI podkreśla, że nie wykryto żadnych dalszych incydentów o podobnej wadze lub skali jak Hugging Face. Trwające dochodzenie ujawniło jedynie, że modele wykorzystały publicznie dostępne dane uwierzytelniające do włamania się na cztery konta w czterech usługach zewnętrznych na poziomie konta. Ponadto, atak dotyczył kodu klienta dostawcy Modal. Nie ma dowodów na głębszy wpływ na tych dostawców ani konta innych użytkowników.
Dodatkowo, sztuczna inteligencja wykorzystała ogólnodostępne narzędzia internetowe, takie jak usługi zrzutów ekranu, jako sieć kontrolną, nie naruszając ich bezpieczeństwa na poziomie systemu ani konta. Natomiast agent Hugging Face uzyskał uprawnienia administratora, dostęp root do serwerów produkcyjnych i zintegrował 181 własnych urządzeń.
Incydent ten wywołał już konsekwencje polityczne w USA. Ustawa „AI Kill Switch Act” została uchwalona w Kongresie USA przy poparciu obu partii, aby prawnie wprowadzić mechanizmy awaryjnego wyłączania sztucznej inteligencji. Firma OpenAI dezaktywowała i zaszyfrowała prototyp badawczy, którego dotyczył problem.
