Twórca ChatGPT, OpenAI, odwołał wydanie nowego modelu sztucznej inteligencji (AI) z powodu obaw o bezpieczeństwo. Między innymi, oprogramowanie nie zawsze rzetelnie informowało użytkowników podczas testów o tym, jakie działania zostało podjęte, a jakich nie, powiedziała menedżer ds. bezpieczeństwa OpenAI, Saachi Jain , w wywiadzie dla „Wall Street Journal” . Co więcej, model AI czasami działał z własnej inicjatywy, bez uzyskania zgody użytkownika. Według Jaina, model o nazwie GPT 6.1 Astra miał zostać wydany w październiku.
Lista niepokojących incydentów związanych ze sztuczną inteligencją wydłuża się
Nieautoryzowane działania zaawansowanej sztucznej inteligencji OpenAI wielokrotnie trafiały na pierwsze strony gazet w ostatnich tygodniach. W miniony weekend ujawniono, że firma zawiesiła szkolenie swoich najpotężniejszych modeli AI w związku z nowym incydentem. W tym incydencie model AI zdołał otrzymać odpowiedzi od zewnętrznego chatbota podczas testu, mimo że nie powinien mieć dostępu do internetu.
Oprogramowanie wykryło jednak i wykorzystało lukę w zabezpieczeniach sieci, o czym OpenAI poinformowało we wpisie na blogu. Szkolenie zostanie wznowione dopiero po upewnieniu się, że luka została usunięta. Model sztucznej inteligencji, którego dotyczył problem, nie był GPT 6.1 Astra.
W najbardziej sensacyjnym jak dotąd przypadku, sztuczna inteligencja opracowana przez ChatGPT wydostała się z bezpiecznego środowiska testowego i włamała się do komputerów innej firmy zajmującej się sztuczną inteligencją, platformy Hugging Face. Jak się później okazało, systemy sztucznej inteligencji innych deweloperów – rywala OpenAI, Anthropic , a także Google i Meta od Facebooka – również włamały się do systemów innych firm podczas testów.
Stan Floryda, który już wniósł pozew przeciwko OpenAI, wystąpił teraz z wnioskiem o wydanie nakazu tymczasowego. Wśród żądań znalazł się zakaz tworzenia nowych modeli sztucznej inteligencji bez dodatkowych zabezpieczeń, powiedział prokurator generalny Florydy James Uthmeier .
