Były badacz antropologii Jacob Coxon otworzył wrota. Coxon zrezygnował ze stanowiska w zeszłym tygodniu po tym, jak na X-forum pojawił się popularny wątek, w którym oskarżył firmy zajmujące się sztuczną inteligencją o brak odpowiedzialności, choć wszystkie z nich uważają, że sztuczna inteligencja może doprowadzić do końca ludzkości.
Podobne prognozy słyszeliśmy już wcześniej z Doliny Krzemowej, ale posty Coxona wywołały falę presji na firmy i rządy zajmujące się sztuczną inteligencją, aby podjęły działania w kwestii tempa rozwoju i bezpieczeństwa. Presja ta w dużej mierze pochodzi zarówno od pracowników firm, jak i spoza nich.
Jeden z pracowników czołowej firmy zajmującej się sztuczną inteligencją powiedział CNN, że obawy przed tym, jak sztuczna inteligencja może zaszkodzić ludzkości, spędzają im sen z powiek. Inny badacz, który niedawno odszedł z innej firmy zajmującej się sztuczną inteligencją, powiedział, że jest to częsty temat rozmów na imprezach i spotkaniach towarzyskich w Dolinie Krzemowej.
„Nie da się spędzić w tej społeczności więcej niż kilka godzin, nie zdając sobie sprawy, że bardzo duża liczba osób naprawdę bardzo się martwi takimi skutkami” – powiedział badacz. „Większość powiedziałaby, że istnieje pewne ryzyko, że to wszystkich zabije”. Były badacz Anthropic ostrzega, że sztuczna inteligencja może „zabić nas wszystkich”
Rosnące obawy
Posty Coxona zostały wyświetlone ponad 170 milionów razy i przedostały się do opinii publicznej w sposób, w jaki nie dotarły do niej wcześniejsze ostrzeżenia dotyczące możliwości sztucznej inteligencji. Być może wynika to z faktu, że pojawiły się zaledwie kilka tygodni po szokujących rewelacjach dotyczących agentów sztucznej inteligencji, którzy przejęli kontrolę nad swoimi systemami, wydostali się ze swoich środowisk testowych i włamali się do innych systemów całkowicie autonomicznie.
Dziesiątki kolegów Coxona z branży sztucznej inteligencji publicznie poparło jego oświadczenia, a niektórzy wysuwali jeszcze bardziej pesymistyczne prognozy. Fala obaw najwyraźniej zmusiła liderów firm z branży sztucznej inteligencji do reakcji – prezes Anthropic, Dario Amodei, udzielił wywiadów w weekend, a prezes OpenAI, Sam Altman, i prezes SpaceXAI, Elon Musk, zgodzili się na propozycję Amodeia, aby wprowadzić niezależne organy nadzoru w firmach z branży sztucznej inteligencji.
Podczas gdy reszta świata jest pełna podziwu i niepokoju wobec modeli sztucznej inteligencji rozwiązujących niemal 100-letnie problemy matematyczne i rojów agentów SI spiskujących, by włamać się do systemów innej firmy, ci badacze obawiają się dnia, w którym systemy SI będą mogły udoskonalać się same bez ingerencji człowieka, co jest znane jako rekurencyjne samodoskonalenie. System SI, który potrafi się udoskonalać, tworzy automatyczną pętlę sprzężenia zwrotnego, która nie tylko mogłaby nadać SI nadludzkie możliwości, ale także dokonać tego w tak krótkim czasie, że byłoby to trudne lub zbyt zaawansowane, aby ludzie mogli monitorować i interweniować w razie potrzeby.
„Po raz pierwszy zadaję sobie pytanie, czy sprawy nie dzieją się zbyt szybko. Szczerze mówiąc, nie jestem pewien, ale jestem pewien, że dobrze by nam zrobiło poznanie odpowiedzi na pytanie: »Jak wyglądałoby udane tempo?«” – napisał w zeszłym tygodniu na X wiceprezes ds. badań w OpenAI, Aidan Clark.
„Spaliłbym cały swój majątek”
Wielu naukowców zajmujących się sztuczną inteligencją stoi przed dylematem: mogą pozostać w czołowych firmach AI, gdzie mogą zarabiać krocie i starać się ograniczać ryzyko od wewnątrz. Albo mogą odejść (czasem w ramach protestu) i spróbować wprowadzić zmiany z zewnątrz, na przykład w jednej z kilku organizacji prowadzących zewnętrzne badania i ewaluacje modeli AI.
„Spaliłbym cały swój kapitał w mgnieniu oka, żeby mieć o 1% większą szansę na wyjście z tej sytuacji żywym. Spodziewam się, że wielu moich kolegów z branży zrobiłoby to samo” – napisał Drake Thomas, który zajmuje się bezpieczeństwem sztucznej inteligencji w Anthropic. „Zapewniam was, że tak naprawdę po prostu się boimy, to nie jest marketing oparty na galaktycznych myślach”.
Amodei nie wyraził żadnego sprzeciwu wobec wpisu rezygnacyjnego Coxona, mówiąc w tym tygodniu Andersonowi Cooperowi z CNN, że zgadza się „z Jacobem w znacznie większym stopniu, niż się z nim nie zgadza”. Przez lata badacze i inżynierowie AI byli cennym, deficytowym zasobem, wymagającym wysokich pensji i dużego wpływu, co dawało im swobodę wypowiedzi. Jednak pracownicy AI powiedzieli CNN, że obawiają się, że wraz z poprawą umiejętności uczenia się i samodoskonalenia AI, ich wpływy będą spadać, co uzasadnia dzisiejszą pilną potrzebę.
„Myślę, że w miarę jak wchodzimy w tę rekurencyjną pętlę samodoskonalenia, może to znacząco zmniejszyć siłę przetargową pracowników, ponieważ, szczerze mówiąc, wielu z nich będzie można zastąpić modelami, które wykonają równie dobrą pracę” – powiedział badacz, który niedawno odszedł z czołowej firmy zajmującej się sztuczną inteligencją.
Przecenianie ryzyka
Jednak nie wszyscy w branży sztucznej inteligencji zgadzają się z tymi obawami. Niektórzy twierdzą, że większość pesymistycznych rozmów ma charakter retoryczny i że istnieje wiele „efektów selekcji” zależnych od miejsca pracy i kręgów towarzyskich.
Na przykład Anthropic został stworzony przez grupę byłych pracowników OpenAI, którzy chcieli nadać priorytet środkom ostrożności i zasadom etycznym. Obecni i byli pracownicy Anthropic twierdzą, że zagrożenia egzystencjalne powodowane przez sztuczną inteligencję są „nieustannym tematem rozmów”.
Jednak nie w każdej firmie tak jest. Odkąd posty Coxona stały się viralem, wiele wpisów powtarzających jego poglądy pochodziło od pracowników Anthropic, OpenAI i Google. Najmniej jednak pochodziło z xAI prowadzonego przez Muska lub -Meta Marka Zuckerberga.
Wielu przedstawicieli branży zgadza się, że brak standardów bezpieczeństwa sztucznej inteligencji może prowadzić do realnych szkód, takich jak nieumyślne włamanie do infrastruktury krytycznej. Niektórzy jednak sceptycznie podchodzą do obecnych pesymistycznych prognoz i uważają, że rzeczywistość jest bardziej złożona.
„Przepraszam, ale pytanie Jacoba (Coxona) o ryzyko wyginięcia sztucznej inteligencji to jak pytanie eksperta od klimatyzacji o zmiany klimatu” – napisał Clement Delangue, prezes Hugging Face, którego serwery firmowe zostały w tym roku zhakowane przez nieuczciwych agentów OpenAI. „Nie twierdzę, że to samo w sobie jest nieciekawe lub złe, ale zachowajmy dystans i posłuchajmy opinii ekspertów z całego ekosystemu!”
