W ciągu kilku dni od premiery najbardziej zaawansowany publiczny model sztucznej inteligencji firmy Anthropic został nagle wycofany z oferty klientów. Administracja Trumpa uznała ten model za zagrożenie dla bezpieczeństwa narodowego po otrzymaniu informacji o jailbreaku, czyli sposobie na obejście wewnętrznych zabezpieczeń. Nałożyła zakaz eksportu modelu, uniemożliwiając korzystanie z niego niektórym pracownikom firmy Anthropic. Anthropic twierdzi jednak, że podatność nie uzasadnia tak skrajnej reakcji.
Te różne perspektywy uwypuklają niejasny stan regulacji dotyczących sztucznej inteligencji (AI) w Stanach Zjednoczonych. Eksperci twierdzą, że rząd powinien uczestniczyć w dyskusjach na temat bezpieczeństwa AI, zwłaszcza tych, które mają wpływ na bezpieczeństwo narodowe. Jednak najnowszy spór między Anthropic a rządem ujawnił szerszy problem: brak przejrzystych i spójnych ram regulacyjnych dla AI – a to może sparaliżować ten sektor w Stanach Zjednoczonych. Anthropic, prężnie rozwijające się laboratorium sztucznej inteligencji, warte niemal bilion dolarów, które jest o krok od wejścia na giełdę, znalazło się w centrum tych napięć.
Ostatnie działania rządu nastąpiły po tym, jak firma zajmująca się sztuczną inteligencją nie zgodziła się z Pentagonem w sprawie żądanych modyfikacji zabezpieczeń swoich systemów sztucznej inteligencji przeznaczonych dla wojska – co doprowadziło do umieszczenia Anthropic na czarnej liście Departamentu Obrony, uznając ją za „zagrożenie dla łańcucha dostaw”. Następnie, jej najnowszy model sztucznej inteligencji, Mythos, wzbudził powszechne obawy dotyczące cyberbezpieczeństwa, ponieważ firma stwierdziła, że jest niezwykle biegła w wyszukiwaniu luk w zabezpieczeniach. Anthropic udostępnił pełną wersję Mythos tylko wybranej grupie partnerów, a następnie 9 czerwca wydał publiczną wersję z zabezpieczeniami o nazwie Fable 5.
Administracja Trumpa twierdzi, że niektóre z tych zabezpieczeń zawiodły, co potencjalnie umożliwia hakerom dodanie niezwykle skutecznego narzędzia do ich arsenału. Na początku tego miesiąca Anthropic zablokował dostęp do Mythos i Fable, aby dostosować się do dyrektywy rządu.
To skłoniło niektórych ekspertów do apelu o dokładniejsze spojrzenie na to, w jaki sposób rząd podejmuje decyzje dotyczące cyberbezpieczeństwa — w przeciwnym razie Ameryka narazi się na pozostanie w tyle w globalnym wyścigu zbrojeń w dziedzinie sztucznej inteligencji.
„Problem nie polega na tym, że rząd korzystał z uprawnień dyskrecjonalnych; bezpieczeństwo narodowe wymaga takiej swobody” – napisała w eseju Jessica Tillipman, prodziekan ds. prawa zamówień publicznych na Uniwersytecie George’a Washingtona. „Uderzający jest brak jakiegokolwiek sensownego procesu”.
Anthropic i administracja spotykają się, aby spróbować rozwiązać problem. Trump powiedział na szczycie G7 w środę, że negocjacje z Anthropic „idą dobrze”. W wywiadzie opublikowanym w piątek Trump powiedział Axios , że nie postrzega już firmy jako zagrożenia dla bezpieczeństwa narodowego. „Cóż, nie teraz, ale tydzień temu, może”. Biały Dom odesłał CNN do Departamentu Handlu, który nie odpowiedział na prośbę o komentarz.
Jaki jest obecny stan regulacji dotyczących sztucznej inteligencji?
Administracja Trumpa podchodziła dotychczas do regulacji dotyczących sztucznej inteligencji w sposób łagodny, mając nadzieję, że dzięki temu Stany Zjednoczone będą miały przewagę nad takimi przeciwnikami jak Chiny.
Administracja wycofała się z polityki ery Bidena, takiej jak obowiązkowe progi raportowania bezpieczeństwa, na rzecz dobrowolnych ram i pierwszeństwa prawa stanowego. W marcu Trump opublikował krajowe ramy polityki dla sztucznej inteligencji (AI), które stanowią projekt i zestaw rekomendacji dla Kongresu w zakresie opracowywania polityk dotyczących AI. Proponowany plan zakłada jednak, że Kongres nie powinien regulować AI za pośrednictwem jednego organu regulacyjnego, lecz za pośrednictwem sektorowych organów regulacyjnych. Stwierdza również, że agencje bezpieczeństwa narodowego muszą zrozumieć pionierskie modele AI i ich potencjalne zagrożenia dla bezpieczeństwa.
Niektóre stany uchwaliły własne przepisy i pozwały firmy z branży AI z powodu obaw o bezpieczeństwo. Na przykład Kalifornia uchwaliła prawo zobowiązujące firmy z branży AI do opracowania ram oceny ryzyka, zgłaszania problemów związanych z bezpieczeństwem i ochrony sygnalistów. Floryda wszczęła dochodzenie karne w sprawie OpenAI i pozwała firmę. Stan twierdzi, że OpenAI skrzywdziło dzieci i zwykłych konsumentów, a ChatGPT mogło być współwinne masakry na Uniwersytecie Stanowym Florydy w zeszłym roku. OpenAI odrzuciło te zarzuty i twierdzi, że poważnie traktuje bezpieczeństwo, podejmując szereg różnych działań i inicjatyw.
Antropiczny w środku
Rząd nie podał firmie Anthropic szczegółowych informacji na temat obaw o bezpieczeństwo narodowe, które doprowadziły do zakazu eksportu gier Fable 5 i Mythos 5, poinformowała firma w oświadczeniu z 12 czerwca. Jak poinformowało CNN źródło bliskie firmie, Anthropic początkowo miał zaledwie 90 minut na wycofanie swoich modeli.
Dziesiątki badaczy cyberbezpieczeństwa, przedsiębiorców z branży sztucznej inteligencji i dyrektorów korporacyjnych podpisało w poniedziałek list otwarty, w którym krytykują działania rządu i wzywają administrację Trumpa do zobowiązania się do „otwartego, naukowego i przejrzystego procesu oceny ryzyka związanego ze sztuczną inteligencją w przyszłości”. Co więcej, zwrócili uwagę, że zaawansowane modele sztucznej inteligencji mogą być wykorzystywane również przez osoby działające w dobrej wierze. „Odbieranie obrońcom najlepszych możliwości bez dobrego powodu, gdy nasi przeciwnicy szybko się posuwają, jest niebezpieczne” – napisali w liście.
Niektórzy kwestionują również powagę jailbreaku, który według źródła znającego sytuację został po raz pierwszy zgłoszony rządowi przez Amazon. Anthropic twierdzi, że luki są niewielkie i można je znaleźć również w modelach innych firm.
Niektórzy obawiają się, że działania administracji wobec Anthropic mogą stanowić szerszy precedens. „Szkody nie ograniczają się do jednej firmy. Administracja, która rządzi w ten sposób, nie uniknie surowych regulacji, których się obawia” – napisał Tillipman. „To kreowanie warunków sprzyjających katastrofie lub nadużyciom, w każdym udokumentowanym przeze mnie cyklu, wywołuje dokładnie taką reakcję”.
