Air France wczoraj i dziś. Francuska linia obchodzi 90.urodziny

AktualnościWiadomości

Ekspert AI- „To nieporozumienie, że dzisiejsza sztuczna inteligencja nadal uczy się niezależnie”

Autorka bestsellerów i ekspertka w dziedzinie sztucznej inteligencji Katharina Zweig wyjaśnia, co tak naprawdę sztuczna inteligencja ma wspólnego z inteligencją i dlaczego kobiety są pilnie potrzebne w jej rozwoju.

Pani Zweig, powiedziała Pani kiedyś, że sztuczna inteligencja to tak naprawdę chwyt marketingowy z lat pięćdziesiątych. Czy może pani to wyjaśnić?

Lata pięćdziesiąte przyniosły ogromny przełom w świecie komputerów. Kilku kolegów miało wówczas wrażenie, że wystarczy rok skoncentrowanej pracy, aby na przykład możliwe było automatyczne tłumaczenie. Jeśli my, naukowcy, potrzebujemy pieniędzy na coś takiego, musimy napisać wniosek. I oczywiście pomaga, jeśli masz seksowny tytuł. I tak narodził się termin „sztuczna inteligencja”. Ostatecznie minęło trochę czasu – aż do dzisiaj – zanim naprawdę uzyskaliśmy tłumaczenia na wysokim poziomie. 

Czy sztuczna inteligencja w ogóle opiera się na inteligencji?

Problem w tym, że nie jesteśmy do końca pewni, jak chcemy zdefiniować inteligencję, nawet u ludzi. W informatyce mamy na myśli to, że system może odpowiednio reagować na otoczenie. Może także tego, że będzie mógł kontynuować naukę. Nieporozumieniem jest jednak twierdzenie, że dzisiejsza sztuczna inteligencja w rzeczywistości uczy się podczas operacji. To jest zbyt niebezpieczne. Obecnie sztuczną inteligencję szkoli się w laboratorium, dopóki nie uzna się, że jest wystarczająco dobra. A następnie są uwalniane do środowiska.

Czy sztuczna inteligencja powinna w pewnym momencie móc kontynuować naukę?

Tak, to byłby pomysł, że maszyna kontynuuje naukę zgodnie ze swoim własnym kompasem moralnym. Ale właśnie ten kompas moralny stanowi trudność.

Katharina Zweig kieruje „Laboratorium Odpowiedzialności Algorytmów” w RPTU Kaiserslautern-Landau, założyła kurs socjoinformatyki i jest ekspertem w dziedzinie sztucznej inteligencji. Za swoją wiedzę specjalistyczną otrzymała kilka nagród, a do 2020 roku była członkiem komisji badawczej „Sztuczna inteligencja”. Napisała także dwa bestsellery, które wyjaśniają ogółowi społeczeństwa, na czym polega sztuczna inteligencja i algorytmy, a ostatnio: „To była sztuczna inteligencja!”

Czy kiedykolwiek podejmowano próbę uczenia się sztucznej inteligencji, która zakończyła się niepowodzeniem? 

Tak, Microsoft miał na przykład chatbota, który uczył się podczas jego używania. A potem zebrało się kilka trolli z forum technologicznego i obrzuciło tego chatbota rasistowskimi i seksistowskimi uwagami, aż w ciągu kilku godzin maszyna odpowiedziała. To były najgorsze rzeczy. Myślę, że od tego czasu my, społeczność, byliśmy bardzo ostrożni w kwestii uwalniania do środowiska czegokolwiek, co samouczy się.

Ale to działa też w drugą stronę. Google na przykład chciał uniemożliwić AI spełnianie stereotypów. Ilekroć zapytałeś wyszukiwarkę o dyrektorów generalnych, pojawiał się biały mężczyzna. Chcieli to przekwalifikować, aż w końcu wyrzucono jedynie dyrektorów generalnych z Afryki, Indii i kobiet – a papież nagle stał się także kobietą.

Tak, ale właśnie to mnie w tej chwili najbardziej fascynuje. Nie możesz dać komputerowi żadnej wolności; potrzebuje on instrukcji na każdą sytuację. Inaczej jest w przypadku ludzi. Nasze przepisy wydają nam się bardzo jasne, ale ostatecznie wiele pozostaje otwartych, co zostanie później ocenione przez sąd. Na przykład w ruchu drogowym. Nikt nie powiedział nam, co mamy robić w sytuacji, gdy musimy wybrać pomiędzy wjechaniem w dwójkę bawiących się dzieci, a w trójkę dorosłych przechodzących przez ulicę. Dopiero z perspektywy czasu można stwierdzić, czy w wymuszonej sytuacji zachowaliśmy się prawidłowo, czy też powinniśmy byli zareagować inaczej. Nie możemy tego zrobić za pomocą komputera. Decyzję musimy podjąć wcześniej. Dlatego musimy teraz znacznie więcej rozmawiać o tym, jak chcemy kształtować nasz świat.

Jak chcemy być? Co byśmy sami zrobili?

Dokładnie. Dlatego informatyka to taki wspaniały zawód i bardzo chciałabym, żeby kobiet było o wiele więcej, bo niestety jest nas zdecydowanie za mało. Przydałoby się nam także więcej studentów na moim kursie socjoinformatyki, który zajmuje się aspektami społecznymi i projektowaniem społeczeństwa.

Chętnie na tym zakończymy reklamę, ponieważ istnieje niebezpieczeństwo, że wszystkie te programy są programowane z wnętrza bańki – w razie wątpliwości przez młodych, białych mężczyzn, którzy niekoniecznie myślą o różnorodności. Czy Twoim zamiarem było zaprojektowanie kursu w taki sposób, aby przyciągnął więcej kobiet?

Aktualnie tak. Kiedy w 2011 roku ubiegałam się o stanowisko profesora na BTU Kaiserslautern, dokładnie takie było pytanie: Jak przyciągnąć więcej kobiet do informatyki? Ideą było pokazanie, jak wiele informatyka ma wspólnego ze społeczeństwem. Obraz, w którym po prostu siedzisz pod stołem i zaciskasz kable, jest błędny. Używamy naszego oprogramowania do określenia rzeczy, na przykład, które funkcje będą łatwiejsze, a które trudniejsze. Analizujemy, kiedy koliduje to z nami jako ludźmi i naszymi motywacjami.

Czy to oznacza, że ​​tak naprawdę chodzi o to, jak kształtujemy naszą przyszłość? Kobiety również powinny przyjąć ten projekt.

Tak, a różnorodność nie oznacza tylko „więcej kobiet”. Chodziłem do szkoły podstawowej w Hamburgu i miałem wielu kolegów z klasy pochodzących z Turcji, Jugosławii i Włoch. I nie pojechali z nami na uniwersytety. Myślę, że tutaj także w Niemczech mamy wiele do nadrobienia. Nie udało nam się przyciągnąć kobiet do informatyki ani wielu dzieci, które przybyły tutaj w pierwszym, drugim i trzecim pokoleniu. Tego również pilnie potrzebujemy, aby móc projektować oprogramowanie korzystne dla wszystkich. Potrzebujemy także ludzi starszych. Oczywiście oprogramowanie powinno być dostępne dla osób w każdym wieku. Różnorodność obejmuje osoby bardzo młode i bardzo stare, różne środowiska kulturowe i oczywiście także mężczyzn i kobiety.

Co możemy zrobić, aby to osiągnąć?

Gdybym to wiedział! W swoim czasie otrzymałem wsparcie. Były specjalne zajęcia dla kobiet. Szczerze mówiąc, wszyscy uważaliśmy, że to było okropne. Nie potrzebujemy żadnych korepetycji. Właśnie rozmawiałem na marginesie wydarzenia, podczas którego ktoś mi powiedział w przerwie, że jego córka studiuje teraz informatykę. Nigdy by tak nie pomyślał i zawsze jej mówił: „Rób to tylko wtedy, gdy naprawdę tego chcesz”. A potem pomyślałam: Tak, wy, rodzice też jesteście trochę winni. Dlaczego teraz spowalniasz tę dziewczynę? I tak jest pod presją i każdego dnia musi udowadniać swoją wartość mężczyznom. A potem przychodzi tata i nie mówi: „Jak wspaniale!” To także zasługa społeczeństwa. Mamy bardzo negatywny stosunek do ludzi, którzy lubią się uczyć. To frajerzy. Ale ci frajerzy to dokładnie ludzie, którzy chcą się zaangażować. Tego potrzebujemy w Niemczech.

Jak to było dla Ciebie?
Tak jak.

Ale twoi rodzice cię nie zatrzymali?

Nie, ale kiedy powiedziałam, że studiuję informatykę, pierwszą rzeczą, na którą odpowiedziała moja mama, było: „Ale twój brat rzeczywiście to robi”. I to była prawda. To on miał komputer i wiedział, jak z niego korzystać. Ale to także nieporozumienie: nie trzeba umieć programować wcześniej, uczymy tego uczniów. Ale nie należy też bać się technologii.

Twój entuzjazm dla informatyki jest niewątpliwy.

Tak, ponieważ uważam, że to naprawdę dobry czas na informatykę. Dzięki niemu możesz aktywnie kształtować społeczeństwo. Do tego dochodzi brak wykwalifikowanych pracowników. Pieniądze, które można zarobić, są ogromne. I – to może banał – ale dla kobiety tę pracę z łatwością można połączyć z dziećmi, bo tak wiele można zrobić w domowym biurze.

W twoim przypadku podział ról w rodzinie wcale nie jest sztampowy, prawda?

Dokładnie, możesz to usłyszeć trochę w tle. Mój mąż przygotowuje lunch. W naszym przypadku mąż jest w domu z dziećmi, a ja stoję na czele scen.

Nie jesteś etykiem, ale czy uważasz, że możliwości lub zagrożenia związane ze sztuczną inteligencją przewyższają ryzyko?

Kiedy mówimy o „AI”, przypomina to trochę pójście na plac budowy i połączenie łopaty, taczki i dźwigu w ramach „sztucznej mocy”. Są to wszystkie narzędzia, których możemy użyć, aby zwiększyć naszą siłę fizyczną. Ale staje się to konkretne dopiero wtedy, gdy zapytasz, jakie są szanse na dźwig. Właśnie to mamy do czynienia z sztuczną inteligencją. Nie ma jednej wszechwiedzącej sztucznej inteligencji. Często tak o nich mówimy, ale jest to błędne. Istnieje tłumacz AI, który jest świetny. Istnieje AI rozpoznawania obrazu lub AI rozpoznawania twarzy, co jest świetne, jeśli chcesz go zastosować na przykład w firmie, aby nie każdy mógł dostać się do każdego obszaru. Jeśli jednak chcesz go użyć na stacji kolejowej Südkreuz w Berlinie do zidentyfikowania 300 osób, nie jest on wystarczająco dobry. Oznacza to, że zawsze musimy rozmawiać o sztucznej inteligencji indywidualnie dla każdego przypadku i ustalać, w jakich warunkach jest ona pomocna, czy nie.

A teraz pytanie nadrzędne: czy sztuczna inteligencja może rozwinąć świadomość?

Zawsze pytam: Czy jesteś osobą religijną?

Nie, nie jestem. 

Jeśli nie jesteś osobą religijną, widzisz, że świadomość wyewoluowała wyłącznie z materii. Dlatego uważam, że jest bardzo prawdopodobne, że można to zrobić z innej formy materii. Jeśli założysz, że wymaga to boskiej iskry lub czegoś podobnego, nie musisz w tym momencie zadawać żadnych dalszych pytań. Wyobrażam sobie, że moglibyśmy stworzyć coś podobnego do świadomości. Ale odradzałem to.

Mówią więc: Można, ale proszę, nie róbmy tego.

Tak, jak powiedziałem na początku rozmowy, sztuczna inteligencja, która ciągle się uczy, potrzebuje kompasu moralnego. Ale trudno dać dzieciom ten kompas, prawda? Bardzo prosta historia: W pewnym momencie moja córka zrozumiała, że ​​pieniądze to coś wspaniałego i zapragnęła podarować Babci i Dziadkowi dziesięć euro. Powiedziałem jej: „Nie, kochanie, nie rób tego. Dzieci nie dają pieniędzy osobom starszym.” Dużo czasu zajęło jej zrozumienie tego. Ale ona jest zwolenniczką zasad. Kiedy mijaliśmy bezdomną w centrum Kaiserslautern, dałem jej dwa euro i powiedziałem: „Proszę, daj to temu człowiekowi”. „Ale mamo, mówiłaś…”. To pokazuje, jak trudno jest podejmować decyzje i nasze sądy wartościujące na słowa. Zapominamy o indywidualnych przypadkach, które są istotne. Z córką mam tę przewagę, że sama zauważy kilka rzeczy. Komputer tego nie zrobi. Wierzę, że jako ludzie nie potrafimy myśleć wystarczająco szeroko, aby móc ustalić system zasad na tyle spójny, aby maszyna rzeczywiście żyła z nami w pokoju. I dlatego mogę tylko odradzać.

Czy w Niemczech jesteśmy bardziej ostrożni? Czy sztuczna inteligencja jest tematem „niemieckiego strachu”? 

Z jednej strony w USA istnieją obecnie systemy sztucznej inteligencji wykorzystywane w sądach do przewidywania, czy przestępcy ponownie dopuszczą się przestępstwa, czy nie – i robią to z dokładnością jedynie do 60%. Coś takiego jest okropne i dobrze, że tego nie robimy. Z drugiej strony dostałem też pytanie dlaczego zawsze hamuję. Ale to nieprawda. To nie moja wina. Kiedy w 2019 roku założyliśmy naszą firmę TrustedAI, pomyśleliśmy: zaczynamy. Teraz przychodzi sztuczna inteligencja. Jednak większość małych i średnich przedsiębiorstw po prostu nie jest wystarczająco cyfrowa. Do tego dochodzi fundamentalna obawa dotycząca cyberbezpieczeństwa. A do ochrony danych trzeba się dobrze przygotować. To kłopot, to biurokracja. Oznacza to, że tak naprawdę dzieje się tak dlatego, że nie zbiera się owoców, które mamy przed sobą, ponieważ nie ma wystarczającej wiedzy i dlatego, że cyfryzacja nie posunęła się wystarczająco daleko. I myślę, że musimy zacząć od tych punktów.

Simone Menne przeprowadziła rozmowę z Kathariną Zweig w podcaście Sterna „The Boss – Power is Female”. Został on zaadaptowany redakcyjnie dla Stern PLUS. 

Polecane artykuły
AktualnościCheck PointcyberatakicyberbezpieczeństwoWiadomości

Polacy planują majówkę i urlop a cyberprzestępcy podszywają się pod Airbnb

AktualnościITWiadomości

Ultimatum Komisji Europejskiej dla Tiktok

AktualnościWiadomości

Mistral planuje pozyskać pięć miliardów dolarów

AktualnościWiadomości

Adidas zachwyca swoich akcjonariuszy

Zapisz się do Newslettera
Bądź na bieżąco i otrzymuj najnowsze artykuły
%d bloggers like this: