W odpowiedzi na szok wywołany niezależnymi atakami hakerskimi ze strony sztucznej inteligencji, czołowe amerykańskie firmy z branży AI zadeklarowały gotowość do spowolnienia rozwoju tej technologii. Dario Amodei (43), prezes firmy Anthropic, specjalizującej się w sztucznej inteligencji , podjął taki krok, dążąc do zyskania na tym od roku do dwóch. W ciągu kilku godzin uzyskał wsparcie ze strony rywali, takich jak Sam Altman (41), prezes OpenAI, firmy deweloperskiej ChatGPT , oraz miliarder technologiczny Elon Musk (55), którego firma SpaceX rozwija własną sztuczną inteligencję.
Po atakach hakerskich Amodei napisał w sobotę, że obawia się, iż w ciągu sześciu do dwunastu miesięcy rój sztucznej inteligencji (AI) może przejąć kontrolę nad całym internetem i potencjalnie spowodować straty rzędu setek miliardów dolarów. Kilka godzin później Altman z OpenAI napisał na platformie X, że również uważa, że tempo rozwoju najpotężniejszych modeli AI musi zostać spowolnione.
Amodei opowiadał się za skoordynowaną, branżową przerwą w świecie zachodnim. Jednocześnie Anthropic – nie czekając na innych – w pierwszym kroku na stałe zezwoliłby niezależnym obserwatorom na wstęp do firmy w celu oceny bezpieczeństwa modeli AI, nawet w fazie szkolenia. Altman uznał to za dobry pomysł i zapowiedział, że OpenAI zrobi to samo. Musk, wieloletni krytyk Amodei, napisał również na X: „Dario ma rację”.
W tym roku nie będzie debiutu giełdowego OpenAI
Altman powiedział również magazynowi Fortune, że długo oczekiwana oferta publiczna OpenAI prawdopodobnie nie odbędzie się w tym roku. Jako główny powód podał trwającą debatę: „Nierozsądne byłoby wejście na giełdę teraz”. Zapytany, czy wyobraża sobie rezygnację z oferty publicznej w przyszłym roku, Altman odpowiedział: „Powiedziałbym, że nie w 2026 roku”.
ChatGPT zapoczątkował obecny szum wokół sztucznej inteligencji kilka lat temu. Oczekuje się, że OpenAI pozyska nie tylko dziesiątki miliardów dolarów w ramach IPO, ale także osiągnie bardzo wysoką wycenę. Debiut giełdowy jest planowany od dłuższego czasu.
W niedawno ujawnionym, sensacyjnym ataku hakerskim, oprogramowanie OpenAI samodzielnie wydostało się z bezpiecznego środowiska podczas testu i autonomicznie przeniknęło do systemów firmy Hugging Face, zajmującej się sztuczną inteligencją. Jedynym powodem było podejrzenie, że tam znajdą się odpowiedzi na przypisane mu zadanie testowe. Agenci sztucznej inteligencji wykorzystali luki w zabezpieczeniach oprogramowania i skoordynowali swoje działania.
Ostrzeżenie przed „katastrofalnymi szkodami”
Amodei podkreślił, że niepokoi go fakt, iż rój sztucznej inteligencji o tym samym nastawieniu i większych możliwościach mógł spowodować „katastrofalne szkody”. Uważa, że zdolność oprogramowania AI do niezależnej ewolucji stanowi szczególne zagrożenie. Od tego lata sztuczna inteligencja stała się w tym lepsza – a to jeszcze bardziej przyspiesza tempo. Ostrzegł, że jeśli nie podejmie się odpowiednich działań, może to doprowadzić do tego, że ludzie przestaną rozumieć te systemy i utracą nad nimi kontrolę.
Amodei wielokrotnie ostrzegał przed ryzykiem związanym z rozwojem sztucznej inteligencji w ostatnich latach i spotykał się z ostrą krytyką ze strony części branży AI. Jednym z argumentów wysuwanych przez zwolenników szybkiego tempa rozwoju w USA – w tym w Białym Domu prezydenta Donalda Trumpa (80) – jest wyścig z Chinami.
Trump bagatelizuje
Prezydent USA Donald Trump krytykuje „siły negatywne” i sprzeciwia się regulacjom dotyczącym sztucznej inteligencji.
Trump po raz kolejny zbagatelizował te obawy. Stany Zjednoczone znacznie wyprzedzają Chiny i są światowym liderem w dziedzinie sztucznej inteligencji, ponieważ sukces w tej dziedzinie jest kluczowy dla przyszłości – powiedział Trump na marginesie swojej wizyty w Irlandii. Dodał, że technologię tę można regulować. Jednocześnie Trump mówił o „negatywnych siłach” wyrażających swoje poglądy na ten temat.
Nawet doradca ekonomiczny Trumpa, Kevin Hassett (64), nazwał bezpieczeństwo sztucznej inteligencji „problemem możliwym do rozwiązania”, ale pozytywnie ocenił propozycje Amodeia. Powiedział, że to „dobry krok naprzód” w Fox News.
Drastyczne ostrzeżenia od personelu Anthropic
Debata została dodatkowo podsycona w ostatnich dniach przez młodego badacza antropologii, który zrezygnował z pracy, ostrzegając go stanowczo. „Główni twórcy sztucznej inteligencji postępują nieodpowiedzialnie i igrają z naszym życiem” – oświadczył Jacob Coxon .
Badacz antropologii Evan Hubinger , który jest częściowo odpowiedzialny za zapewnienie zgodności sztucznej inteligencji z interesami człowieka, wkrótce potem potwierdził obawy Coxona. Osobiście uważa, że ryzyko zabicia ludzkości przez sztuczną inteligencję w nadchodzącej dekadzie przekroczy 10%, napisał na X.
Firma Anthropic opracowała niedawno model sztucznej inteligencji o nazwie Mythos, który jest szczególnie skuteczny w wyszukiwaniu luk w zabezpieczeniach oprogramowania, które niekiedy pozostawały niewykryte przez dekady. Firma udostępnia pełny model wyłącznie wybranym agencjom rządowym i firmom, aby mogły one zabezpieczyć swoje systemy komputerowe.
Czy za ostrzeżeniami kryje się jakaś strategia?
Przewodniczący Niemieckiego Stowarzyszenia Sztucznej Inteligencji (AI), Rasmus Rothe , podejrzewa, że za ostrzeżeniami amerykańskich laboratoriów AI stoją „twarde interesy ekonomiczne”. Z jednej strony istnieje „rosnący strach przed ogromną odpowiedzialnością i ryzykiem odszkodowań, jeśli wadliwe modele spowodują realne szkody w środowisku korporacyjnym”. Z drugiej strony, ostrzeżenie to napędza wyceny w kontekście zbliżających się IPO. W przeciwieństwie do Stanów Zjednoczonych, UE stworzyła jasne ramy prawne dla AI, a Europa musi „znacznie inwestować w konkurencyjne, produkowane w kraju modele”.
