David Robinson, wieloletni pracownik działu bezpieczeństwa w OpenAI, opuścił firmę i w artykule w magazynie „The Atlantic” wysunął poważne oskarżenia pod adresem firmy w kwestii bezpieczeństwa sztucznej inteligencji. Robinson zarzucił firmie zajmującej się sztuczną inteligencją zbyt szybkie tempo rozwoju coraz bardziej zaawansowanych systemów. „Czas prób i błędów minął” – pisze w artykule.
Jego zdaniem zaawansowane systemy sztucznej inteligencji wymagają środków ostrożności porównywalnych z tymi stosowanymi w takich dziedzinach jak energetyka jądrowa czy lotnictwo.
„Wdrażanie iteracyjne”
Według Robinsona, pracował on w OpenAI przez trzy i pół roku. Brał udział w opracowaniu tzw. Preparedness Framework i nadzorował raporty bezpieczeństwa dla dwunastu wdrożeń tzw. modeli Frontier.
OpenAI stosuje podejście nazywane „wdrażaniem iteracyjnym” podczas tworzenia swoich modeli. Polega ono na udostępnianiu systemów i dostosowywaniu środków bezpieczeństwa w miarę pojawiania się problemów w praktyce.
Robinson krytykuje to podejście. Jego zdaniem jest ono niewystarczające, biorąc pod uwagę szybki rozwój sztucznej inteligencji. Możliwości systemów rozwijają się szybciej niż wiedza badaczy na temat tego, jak rzetelnie dostosować je do ludzkich celów i wartości.
Liderzy sztucznej inteligencji mają również obawy dotyczące bezpieczeństwa
OpenAI odrzuca krytykę. Rzecznik firmy wyjaśnił, że OpenAI dba o to, aby jego modele nie stały się bardziej wydajne niż pozwalają na bezpieczną obsługę i kontrolę. W razie potrzeby szkolenie jest wstrzymywane lub wydanie modelu jest opóźnione.
Dario Amodei (43), szef firmy Anthropic, rywala OpenAI, zaapelował niedawno do społeczności AI o spowolnienie tempa udostępniania nowych funkcji. Sam Altman (41) i Elon Musk (55) również poparli tę propozycję.
