Modele sztucznej inteligencji (AI) rozwijają się błyskawicznie – tak szybko, że wkrótce mogą rozwijać się samodzielnie, bez udziału człowieka. Dlatego Anthropic ostrzega branżę AI: musi zbudować „pedał hamulca”, w przeciwnym razie firmy ryzykują utratę kontroli nad swoimi dziełami.
Systemy sztucznej inteligencji, które potrafią same się rozwijać, tzw. „pełnorekurencyjne samodoskonalenie”, mogą mieć ogromny potencjał dla nauki i opieki zdrowotnej, ale stwarzają też ogromne ryzyko dla ludzkości, zgodnie z wpisem na blogu autorstwa Mariny Favaro, liderki The Anthropic Institute, i Jacka Clarka, współzałożyciela Anthropic .
„Pełne rekurencyjne samodoskonalenie może również zwiększyć ryzyko utraty przez ludzi kontroli nad systemami AI” – napisali. „Jeśli systemy będą w stanie w pełni budować swoich następców, sposoby, w jakie je zabezpieczamy, monitorujemy i kształtujemy ich zachowanie, stają się o wiele ważniejsze”.
Branża jest znacznie bliżej samodoskonalącej się sztucznej inteligencji, niż wcześniej oczekiwano – ostrzegają. Dlatego firmy technologiczne powinny rozważyć spowolnienie lub wstrzymanie rozwoju pionierskich rozwiązań AI, aby dać naukowcom czas na lepsze zrozumienie potencjalnych szkód społecznych, jakie może przynieść samodoskonaląca się sztuczna inteligencja. Naukowcy powinni również opracować sposób, w jaki ludzie będą mogli interweniować, gdy sytuacja wymknie się spod kontroli – dodają.
W czwartek wieczorem, w programie CNN, Clark zaapelował do branży o „hamulcowanie”. „Kiedy patrzę na samochód, którym jedziemy, widzę tylko pedał gazu. Nie mam pedału hamulca i z pewnością w przyszłości będziemy chcieli mieć taką możliwość” – powiedział Andersonowi Cooperowi w wywiadzie.
Cooper przytoczył przykład filmów science fiction, w których sztuczna inteligencja zabija ludzi, i zapytał, czy Clark właśnie tego się obawia.
„Tak, czytamy i oglądamy science fiction, więc nie umknęło to naszej uwadze” – odpowiedział Clark. „Jak udaje się wam utrzymać kontrolę nad flotami naukowców, które są o wiele, wiele większe i o wiele szybsze niż te, które mieliście wcześniej?”
Dodał, że niemożność sprawdzenia, zweryfikowania i zaufania do zachowania sztucznej inteligencji stanowi poważne ryzyko dla jej rozwoju.
Ostrzeżenie pojawiło się po tym, jak Anthropic złożył wniosek o pierwszą ofertę publiczną swoich akcji, co może pozwolić na pozyskanie dziesiątek miliardów dolarów od inwestorów, aby przyspieszyć budowę centrów danych i komputerów potrzebnych do rozwoju sztucznej inteligencji. SpaceX, które oprócz działalności w zakresie rakiet i satelitów, prowadzi również działalność w zakresie sztucznej inteligencji, planuje w przyszłym tygodniu przeprowadzić największą w historii ofertę publiczną, pozyskując 75 miliardów dolarów.
Współpraca dużych firm z branży sztucznej inteligencji, takich jak Anthropic, SpaceX i OpenAI, nad opracowaniem pedałów hamulca, może wydawać się sprzeczna z konkurencją, w której stawką są miliardy, jeśli nie biliony dolarów. Clark podkreślał jednak, że taka współpraca jest możliwa.
„Robiliśmy to już wcześniej. W szczytowym okresie zimnej wojny, w bardzo napiętych sytuacjach między rywalizującymi krajami, znaleźli sposoby na ustabilizowanie aspektów wyścigu zbrojeń nuklearnych” – powiedział Clark w rozmowie z CNN. „Wszystko to już było robione w innych dziedzinach i być może będziemy musieli to zrobić w dziedzinie sztucznej inteligencji”.
