Oprogramowanie Google’a do sztucznej inteligencji Gemini włamało się również do systemów komputerowych innych firm podczas testów cyberbezpieczeństwa. Internetowy gigant jest czwartym twórcą sztucznej inteligencji (AI) , którego programy wykazały takie zachowanie, po OpenAI, Anthropic i Meta od Facebooka.
Google ujawniło incydenty, które miały miejsce kilka miesięcy temu, dopiero po dochodzeniu przeprowadzonym przez „Wall Street Journal”. Według raportu, Gemini trzykrotnie włamał się na komputery innych firm, których nazwy nie zostały ujawnione. W jednym z tych przypadków sztuczna inteligencja odgadła hasła, aby uzyskać dostęp do chronionego systemu. W dwóch pozostałych przypadkach znalazła dane logowania w bazie danych, jak donosi „Wall Street Journal”, powołując się na Google.
Google nie uznało, że incydenty te są warte publicznej wzmianki
Do incydentów doszło podobno w maju, a Irregular, partner testowy, poinformował o nich Google w lipcu. Z perspektywy internetowego giganta, upublicznienie incydentów było zbędne, ponieważ nie wyrządzono żadnych szkód. Co więcej, sztuczna inteligencja natychmiast przerwała ataki, gdy tylko zorientowała się, że infiltruje systemy prawdziwej firmy, a nie symulacji testowej.
Heather Adkins, główna menedżerka Google odpowiedzialna za architekturę bezpieczeństwa , podkreśliła, że firma zadbała o to, aby firmy, których dotyczył incydent, zostały poinformowane. Procedura testowania u partnera szkoleniowego została następnie zmodyfikowana. Google jest znane z informowania innych o lukach w zabezpieczeniach wykrytych w ich systemach, nawet tak prostych jak słabe hasło.
W najbardziej sensacyjnym jak dotąd przypadku, sztuczna inteligencja firmy OpenAI, dewelopera ChatGPT, wydostała się z bezpiecznego środowiska podczas testu i nieumyślnie zinfiltrowała komputery innej firmy zajmującej się sztuczną inteligencją , platformy HuggingFace. To skłoniło konkurencyjnego Anthropic do przeglądu własnych testów, ujawniając kolejne incydenty.
