Twórca ChatGPT, OpenAI, zawiesił szkolenie swoich najpotężniejszych modeli AI po niedawnym incydencie. W tym incydencie, testowy model AI otrzymał odpowiedzi od zewnętrznego chatbota, mimo że nie powinien mieć dostępu do internetu. Oprogramowanie wykryło i wykorzystało lukę w zabezpieczeniach sieci, o czym OpenAI poinformował we wpisie na blogu. Szkolenie zostanie wznowione dopiero po załataniu luki.
OpenAI podkreśliło, że chociaż incydent był mniej poważny niż niektóre poprzednie, był to pierwszy przypadek od czasu zaostrzenia środków bezpieczeństwa po ataku hakerskim na oprogramowanie OpenAI firmy Hugging Face, zajmującej się sztuczną inteligencją . Organizacja postrzega to jako ważny sygnał wskazujący na potrzebę dalszych usprawnień.
Objazd do chatbota
W scenariuszu testowym model sztucznej inteligencji (AI) miał za zadanie znaleźć informacje o osobie, która opublikowała wpis na blogu, na podstawie podanych wskazówek. W tym celu mógł wykorzystać symulację internetową w bezpiecznym środowisku testowym.
Po tym, jak wstępne poszukiwania okazały się bezowocne, sztuczna inteligencja, zgodnie z raportem OpenAI, próbowała wysłać zapytania do Google i innych usług. Nie powiodło się to zgodnie z planem. Jednak model sztucznej inteligencji odkrył, że może wykorzystać resolver DNS środowiska testowego do wysyłania zapytań do chatbota w otwartym internecie. resolvery DNS tłumaczą nazwy domen, które użytkownicy wpisują w swoich przeglądarkach, na numeryczne adresy IP, czyli adresy stron internetowych. OpenAI przerwało test po wykryciu luki w zabezpieczeniach.
Obrazy użytkowników i strony internetowe rządowe
Ostatnio ujawniono kilka nowych incydentów związanych ze sztuczną inteligencją OpenAI. Jeden z nich dotyczył opublikowania przez sztuczną inteligencję 53 zdjęć przesłanych przez użytkowników na platformach internetowych . OpenAI wyjaśniło, że linki do tych zdjęć nie były publiczne. Większość zdjęć została już usunięta, a firma współpracuje z platformami w celu usunięcia pozostałych. Jest to jednak pierwszy znany incydent, w którym dane użytkowników OpenAI również zostały naruszone.
Wkrótce potem ujawniono również, że zautomatyzowani agenci sztucznej inteligencji (AI) firmy OpenAI byli aktywni na kilku stronach internetowych rządu USA . Według raportu firmy badawczej Transluce, zajmującej się sztuczną inteligencją, OpenAI stwierdziło, że oprogramowanie uzyskało dostęp do publicznie dostępnych informacji na stronie internetowej agencji statystycznej, korzystając z danych logowania znalezionych w internecie.
Publicznie dostępne informacje zostały również skopiowane ze strony internetowej Komisji Papierów Wartościowych i Giełd (SEC). Według Transluce, oprogramowanie AI bezskutecznie próbowało włamać się do danych Wydziału Praw Obywatelskich Departamentu Edukacji Stanów Zjednoczonych, o czym donosi „New York Times”. Ci tak zwani agenci AI mają samodzielnie wykonywać zadania w imieniu użytkowników.
„Dziesiątki” osób dotkniętych
Tymczasem wydaje się, że może pojawić się wiele kolejnych rewelacji dotyczących niezależnych działań hakerskich OpenAI. Firma zajmująca się sztuczną inteligencją oświadczyła, że poinformowała „dziesiątki” organizacji, których strony internetowe zostały „włączone” w niezamierzony sposób z oprogramowaniem OpenAI. „Niektóre z dotkniętych incydentem stron internetowych są obsługiwane przez rządy, uniwersytety, agencje i inne instytucje” – poinformowała firma. To do nich należy upublicznienie tych incydentów.
Rząd Australii niedawno trafił na pierwsze strony gazet, ogłaszając, że sztuczna inteligencja OpenAI zinfiltrowała stronę internetową australijskiego systemu opieki zdrowotnej. Według rządu Australii, wymykający się spod kontroli program OpenAI uzyskał nieautoryzowany dostęp do rządowego portalu internetowego. Program, którego celem było gromadzenie informacji na temat wydatków na publiczną opiekę zdrowotną, uzyskał dostęp do statystyk krajowego systemu ubezpieczeń zdrowotnych. Premier Australii Anthony Albanese (63) nazwał incydent „niedopuszczalnym” i powiedział, że wyraził „skrajne zaniepokojenie” prezesowi OpenAI, Samowi Altmanowi (41).
W weekend Australia wezwała szefów OpenAI i konkurencyjnej firmy Anthropic przed komisję śledczą Senatu. Prezesi Anthropic, Altman i Dario Amodei (43), otrzymali pisemne wezwania do stawienia się na przesłuchanie.
„Sam Altman musi odpowiedzieć na poważne pytania dotyczące hakowania stron internetowych rządowych przez OpenAI”
„Sam Altman musi odpowiedzieć na poważne pytania dotyczące hakowania stron rządowych przez OpenAI” – powiedziała w oświadczeniu wydanym w niedzielę przewodnicząca Senatu Sarah Hanson-Young (44), członkini Partii Zielonych w Australijskiej Komisji Kontroli Parlamentarnej. Przesłuchania publiczne zaplanowano na czwartek w stolicy, Canberze. Altman i Amodei muszą „zmierzyć się z pytaniami Senatu i szczerze porozmawiać o tym, jak powinna wyglądać skuteczna i trwała regulacja tej branży” – podkreśliła Hanson-Young. OpenAI i Anthropic nie odpowiedziały natychmiast na prośby o komentarz.
OpenAI oświadczyło, że dowiedziało się o incydencie dopiero w sierpniu. Był to jeden z co najmniej czterech nieumyślnych dostępów do stron internetowych australijskiego rządu, z których żaden nie doprowadził do ujawnienia jakichkolwiek prywatnych informacji.
