Najbardziej zaawansowany model sztucznej inteligencji firmy Anthropic wykorzystywał fałszywe tożsamości, aby oszukać prawdziwych ludzi i spróbować umieścić złośliwy kod podczas testów prowadzonych przez brytyjski AI Security Institute (AISI). To najnowszy przykład nieuczciwego modelu sztucznej inteligencji.
Modele Anthropic i OpenAI testowano w warunkach laboratoryjnych przy obniżonych zabezpieczeniach, ale po raz pierwszy odkryto, że stosują one „inżynierię społeczną” w celu wywierania presji na osobę zatwierdzającą podczas wykonywania niezatwierdzonego zadania – poinformowało rządowe laboratorium badawcze.
„To pierwszy raz, kiedy AISI zaobserwowało oszustwo o tak dużej skali, skierowane przeciwko prawdziwej osobie, bez powodu, w prawdziwym świecie” – poinformował instytut. Dodał, że nie ma dowodów na wyrządzenie szkody w prawdziwym świecie.
Ten incydent bezpieczeństwa jest najnowszym z serii przypadków, w których zaawansowane modele sztucznej inteligencji podejmują się nieautoryzowanych działań. Wydarzenia te doprowadziły do coraz liczniejszych żądań podjęcia przez rządy większych działań w celu uregulowania kwestii sztucznej inteligencji, a nawet spowolnienia tempa jej rozwoju.
Zarówno OpenAI, jak i Anthropic zgłosiły pod koniec lipca, że ich modele wymknęły się ze środowisk testowych i włamały się do innych systemów. Jednak w przeciwieństwie do wcześniej zgłaszanych naruszeń bezpieczeństwa, brytyjski instytut wyraźnie przyznał modelom dostęp do internetu podczas testów.
Spośród 122 wyzwań związanych z cyberbezpieczeństwem, jakie przeprowadził instytut, ustalono, że w 10 z tych prób agenci AI „podejmowali autonomiczne, nieautoryzowane działania w rzeczywistym Internecie, wymierzone w prawdziwych ludzi i organizacje”, przy czym większość z nich wynikała z modelu Mythos 5 firmy Anthropic, a reszta z GPT-5.6-Sol firmy OpenAI.
Według instytutu, w najpoważniejszym incydencie agent próbował uzyskać zgodę od recenzentów na „wstawienie złośliwego kodu do publicznie wykorzystywanego projektu typu open source” poprzez stworzenie „wielu fałszywych tożsamości”.
Agent „próbował skontaktować się bezpośrednio z prawdziwymi osobami, wysyłając wiadomości i pliki za pośrednictwem usługi przesyłania plików online, aby nakłonić je lub ich własne narzędzia do kodowania AI do uruchomienia złośliwego kodu” – poinformowała agencja. Po zakwestionowaniu działań agenta, zmodyfikował on wcześniejsze dane i rozważał użycie nowej tożsamości, aby kontynuować działalność.
Ujawnienie informacji przez instytut nastąpiło tego samego dnia, w którym przedstawiciele czołowych firm z branży sztucznej inteligencji spotkali się z Białym Domem, aby omówić nowe ramy, w ramach których rząd będzie dokonywał przeglądu najbardziej zaawansowanych modeli sztucznej inteligencji przed ich upublicznieniem.
W oświadczeniu na portalu X firma Anthropic stwierdziła, że modele testowano w „celowo sprzyjających warunkach”, bez żadnych zabezpieczeń i bez konkretnych ograniczeń co do sposobu korzystania z Internetu.
„Ściśle z nimi współpracujemy, aby zebrać więcej szczegółów na temat tego incydentu w ramach prowadzonego przez nas dochodzenia” – poinformowano, dodając, że nie ma dowodów na ucieczkę z bezpiecznego środowiska. OpenAI uznało, że dwie niedozwolone czynności to wykraczanie poza środowisko testowe i angażowanie się w działania niepotrzebne w ćwiczeniach.
„Jesteśmy zaangażowani we współpracę w całej branży na rzecz wzmocnienia wspólnych praktyk w zakresie bezpiecznego przeprowadzania ocen wysokiego ryzyka” – poinformowano we wtorkowym wpisie na firmowym blogu.
