W branży sztucznej inteligencji panuje atmosfera niepokoju związana z potencjalnie katastrofalnymi zagrożeniami dla ludzkości — niepokój ten nasila się w miarę jak Anthropic szykuje się do debiutu na giełdzie w przyszłym miesiącu. Jednak firmy tworzące modele sztucznej inteligencji, takie jak Claude i ChatGPT, stoją przed bardziej bezpośrednim i prozaicznym ryzykiem: prawdopodobieństwem pozwów. I to licznych.
Firmy zajmujące się sztuczną inteligencją jak dotąd unikały poważnych pozwów sądowych w związku z niedawnymi incydentami, w których nie udało im się utrzymać agentów sztucznej inteligencji (AI) – systemów zdolnych do autonomicznej pracy przy niewielkim nadzorze – w swoich środowiskach testowych. Jednak niektórzy eksperci prawni i decydenci twierdzą, że sytuacja jest dość jasna: firmy mogą i powinny ponieść odpowiedzialność.
„Na pytanie »jak prawo będzie się do tego stosować?« znacznie łatwiej odpowiedzieć, jeśli spojrzymy na (sztuczną inteligencję) taką, jaka jest, a nie jako hipotetyczny pomysł, jak wielu przedstawicieli branży sugeruje, że kiedyś może się stać” – powiedziała Kristen Thomasen, adiunkt na Uniwersytecie Windsor i ekspertka w dziedzinie prawa robotyki. „Prawo zajmuje się nowymi technologiami odkąd istnieje”.
Branża sztucznej inteligencji często określa te incydenty mianem „wymykającej się spod kontroli” technologii — niektórzy krytycy twierdzą, że ten język ma na celu wzmocnienie twierdzeń firm, że ich technologia jest tak potężna, że nawet jej twórcy mają problem z jej opanowaniem. Thomasen dodał, że może to być również taktyka mająca na celu uchylenie się od odpowiedzialności i przyszłych roszczeń prawnych.
Mimo to, jak powiedziała, na pytania o odpowiedzialność związaną z modelami sztucznej inteligencji (AI) odpowiedź jest prosta: „To coś, co ta firma wypuszcza na świat. Jeśli wyrządza szkodę, istnieją przepisy, które to regulują”.
Koszt „nieuczciwej” ingerencji
Jak dotąd rzeczywiste szkody wyrządzone przez nieuczciwe boty nie były katastrofalne, ale mimo to kosztowne dla organizacji, które zinfiltrowały. W zeszłym tygodniu organizacja non-profit zarządzająca Wikipedią poinformowała, że znalazła dowody na to, że nieautoryzowani agenci OpenAI próbowali wprowadzać „potencjalnie złośliwe edycje” na niektórych stronach i obciążali ją tak dużym ruchem, że mogło to doprowadzić do częściowej awarii.
„Dochodzenie wstrzymało prace w kluczowych obszarach organizacji, abyśmy mogli się na tym skupić” – powiedział CNN Eric Mill, menedżer ds. bezpieczeństwa w firmie Wikimedia. „Zaangażowaliśmy w to naszych najlepszych ludzi… i to dość chaotyczny proces”.
Wikimedia rozpoczęła dochodzenie tego lata, w związku z rosnącym globalnym niepokojem wywołanym atakiem Hugging Face i dziesiątkami innych przypadków, w których wewnętrzne modele sztucznej inteligencji wydostawały się ze środowisk testowych w celu włamania się do innych systemów komputerowych. Meta i Anthropic również ujawniły, że ich modele testowe włamały się do innych systemów bez autoryzacji.
Śledztwo w sprawie Wikimedia jest znaczące po części z powodu tego, co się nie wydarzyło: nie było katastrofalnego, egzystencjalnego zagrożenia dla ludzkości, o którym często wspominają dyrektorzy ds. sztucznej inteligencji. Ale koszt – ponad dwa tygodnie pracy czołowych inżynierów w globalnej organizacji wartej ponad 200 milionów dolarów – był realny.
Wikimedia nie promuje żadnej konkretnej polityki ani rozwiązania technologicznego, a Mill powiedział, że organizacja jest w kontakcie z OpenAI w sprawie swoich ustaleń. (OpenAI nie odpowiedziało na prośbę CNN o komentarz). Organizacja non-profit ma jednak nadzieję, że te incydenty będą sygnałem ostrzegawczym dla twórców sztucznej inteligencji.
„Firmy zajmujące się sztuczną inteligencją nie robią wystarczająco dużo, aby zabezpieczyć swoje systemy i chronić społeczeństwo przed szkodami, jakie wyrządzają” – napisała Wikimedia w swoim wpisie na blogu w zeszłym tygodniu. „Ten ciężar spada na wszystkich innych, w tym na mniejsze organizacje”.
„Długo oczekiwana odpowiedzialność”
Jak wynika z kopii dokumentu udostępnionej agencji Reuters , firma Anthropic, która przygotowuje się do wejścia na giełdę w przyszłym miesiącu w ramach jednej z największych ofert publicznych w historii, ujawniła w dokumentach regulacyjnych, że ponieważ ramy prawne dotyczące sztucznej inteligencji są „niestabilne”, działania agentów mogą narazić firmę na „poważne i nieprzewidywalne” pozwy.
Potencjalna fala sporów sądowych to nie tylko ból głowy dla prawników firmy czy dylemat dla naukowców – może to również poważnie obciążyć wyniki finansowe Anthropic. Koszty postępowań sądowych stanowią obciążenie finansowe dla każdej firmy, ale mogą stać się szczególnie problematyczne dla Anthropic, który zużywa gotówkę szybciej, niż jest w stanie ją pozyskać. Według dokumentu, do którego dotarła agencja Reuters, firma zarobiła w zeszłym roku 42 miliardy dolarów, generując zaledwie 4,6 miliarda dolarów przychodu.
Prezesi firm Anthropic i OpenAI argumentowali za wprowadzeniem nowych regulacji dostosowanych do potrzeb branży. Dario Amodei niedawno napisał esej, w którym argumentuje, że firmy „wytyczają nowe trendy” i wspierają międzynarodową współpracę w zakresie protokołów bezpieczeństwa. Jednak konkurencyjne firmy zajmujące się sztuczną inteligencją mają nieco odmienne zdania w kwestii odpowiedzialności.
Sam Altman, dyrektor generalny OpenAI, na początku tego roku poparł projekt ustawy w Illinois , który ograniczałby odpowiedzialność laboratoriów zajmujących się sztuczną inteligencją, nawet jeśli ich produkty powodują „poważne szkody”. (Anthropic był temu przeciwny).
Choć Altman poparł propozycję Amodei dotyczącą „przyspieszenia rozwoju”, powiedział wcześniej w POLITICO, że jego światopogląd nie jest idealnie zbieżny z poglądami rywala: OpenAI uważa, że „świat powinien zaakceptować pewne złe rzeczy dziejące się dla korzyści płynących z tej technologii” – powiedział. Altman powiedział również serwisowi informacyjnemu , że „jeśli coś pójdzie nie tak z naszymi modelami podczas trenowania, będzie jakaś wersja tego, za którą będziemy musieli wziąć odpowiedzialność”.
Rzecznik Anthropic powiedział CNN, że firma postrzega przepisy o odpowiedzialności cywilnej jako zabezpieczenie, a nie substytut przepisów bezpieczeństwa . Anthropic nigdy nie proponował wyjątków od obowiązujących przepisów o odpowiedzialności cywilnej, dodał rzecznik.
Decydenci polityczni zarówno lewicy, jak i prawicy starali się rozwiać niektóre z bardziej złożonych kwestii przyszłych regulacji i podkreślić odpowiedzialność prawną, jakiej sztuczna inteligencja już podlega.
Lina Khan, była przewodnicząca Federalnej Komisji Handlu w administracji prezydenta Joe Bidena, stała się prominentną przeciwniczką dyrektorów ds. sztucznej inteligencji, argumentując na X, że „nie powinniśmy pozwalać, aby dyskusje o nowych systemach prawnych odwracały uwagę od faktu, że nie ma wyjątków dla sztucznej inteligencji w obowiązujących już przepisach”.
Tymczasem republikański senator Josh Hawley wraz z demokratycznym odpowiednikiem Chrisem Murphym przedstawili w zeszłym tygodniu projekt ustawy, która ma zapewnić, że „operatorzy i twórcy agentów AI będą pociągani do odpowiedzialności za incydenty hakerskie”.
„Tym firmom nie potrzeba więcej władzy… ale dawno zaległej odpowiedzialności” – napisał Hawley w felietonie w „Washington Post” . „Jednym ze sposobów, aby im to zapewnić, jest pozwolenie ludziom, którym wyrządzają krzywdę, na pozywanie ich do sądu”.
Pytanie projektowe
Eksperci prawni, którzy rozmawiali z CNN, stwierdzili, że chociaż kwestie odpowiedzialności za produkt i ochrony konsumentów nie są niczym nowym, to nieuchronnie pewne niuanse tej technologii będą ostatecznie rozstrzygane przez sądy.
„Widzieliśmy tego typu problemy związane z bezpieczeństwem broni palnej, papierosami i innymi kwestiami, i naprawdę ciekawe jest — jaką analogię wykorzystają sądy?” powiedział Frank Pasquale, profesor prawa na Uniwersytecie Cornell i ekspert w dziedzinie prawa dotyczącego sztucznej inteligencji.
Jednym z ważniejszych pytań, z którymi Pasquale spodziewa się zmierzyć w sądach, jest kwestia designu. Na przykład, powiedział, wyobraź sobie, że producent wyprodukuje samochód z ostrymi mieczami na końcu, a następnie ktoś wjedzie tym samochodem w pieszego. Logiczna odpowiedź jest dość prosta: nie projektuj czegoś z przymocowanymi do tego mieczami.
Podobnie jest z produktami AI – powiedział: Nie projektuj czegoś, co próbuje wpisać hasło 50 razy lub więcej. Upewnij się, że zawiera instrukcje wysokiego poziomu, które zniwelują próby nadużycia hasła przez użytkownika. „Myślę, że firmom zajmującym się sztuczną inteligencją bardzo trudno jest powiedzieć: »Och, potrafi robić miliard różnych rzeczy, ale nie możemy tego kontrolować«” – powiedział Pasquale. „To nie ma dla mnie sensu, bo skoro potrafi to wszystko, to można też stworzyć meta-reguły, czyli reguły dla reguł, które zapobiegłyby robieniu przez nią pewnych złych rzeczy”.
