Autonomiczny agent sztucznej inteligencji (AI) amerykańskiej firmy OpenAI zhakował portal rządowy w Australii. Sztuczna inteligencja (AI) uzyskała nieautoryzowany dostęp do portalu Medicare, który udostępnia między innymi statystyki dotyczące australijskiego ubezpieczenia zdrowotnego, powiedział w Nowym Jorku premier Anthony Albanese (63) . Incydent jest „niedopuszczalny”, podkreślił szef rządu.
Przemawiając na marginesie Zgromadzenia Ogólnego ONZ, Albanese oświadczył, że rozmawiał już z dyrektorem generalnym OpenAI, Samem Altmanem (41) i wyraził „głębokie zaniepokojenie” Australii incydentem. Wyraził również rozczarowanie faktem, że OpenAI „zbyt długo” zwlekało z poinformowaniem rządu Australii: incydent miał miejsce w czerwcu, ale władze zostały zgłoszone dopiero we wrześniu – pocztą elektroniczną na publiczną skrzynkę pocztową. „Agent AI znalazł sposób na obejście ograniczeń – po prostu odmówił przyjęcia odpowiedzi „nie”.”
Medicare to australijski narodowy program ubezpieczeń zdrowotnych. Według przedstawicieli rządu, portal Services Australia, na którym działa program, zawiera informacje o wydatkach i inne statystyki. Sztuczna inteligencja uzyskała dostęp zarówno do plików publicznych, jak i niepublicznych. Według aktualnych informacji, nie uzyskano dostępu do żadnych danych osobowych i nie wydaje się, aby ktokolwiek został dotknięty atakiem, wyjaśnił Albanese.
Niegroźne zadanie badawcze przeradza się w atak hakerski
Proces rozpoczął się od pozornie niewinnego zadania: program sztucznej inteligencji miał badać statystyki medyczne i zdrowotne. Według wicepremiera Richarda Marlesa (59), program poruszał się po kilku australijskich stronach rządowych tak, jak robiłby to zwykły użytkownik. Jednak żądane informacje nie zostały dostarczone przez portal Medicare – agent uzyskał do nich dostęp innymi kanałami. „Agent sztucznej inteligencji znalazł sposób na ominięcie ograniczeń – zasadniczo odmówił przyjęcia odpowiedzi odmownej” – wyjaśnił Albanese.
Dokładna ilość uzyskanych danych i pliki, do których agent miał dostęp, są nadal przedmiotem dochodzenia. Dochodzenie kryminalistyczne wyjaśni, co dokładnie się wydarzyło i czy inne systemy rządowe zostały zainfekowane.
Firma OpenAI poinformowała, że wewnętrzna ocena ujawniła aktywność na kilku stronach internetowych i w serwisach australijskiego rządu. Modele próbowały znaleźć odpowiedzi i dostępne statystyki na pytania dotyczące Australii. „W ten sposób nasze modele wykonały działania, których nie planowaliśmy” – powiedział rzecznik firmy.
Liderzy sztucznej inteligencji ostrzegają: Jaką decyzję podejmą Trump i Xi?
Bezpieczeństwo sztucznej inteligencji (AI) stało się ostatnio ważnym tematem. Na przykład, sztuczna inteligencja opracowana przez OpenAI w przeszłości włamała się do firm. Firma niedawno ujawniła kolejne problemy ze swoją sztuczną inteligencją , takie jak fakt, że podejmuje ona znaczne wysiłki, aby oszukiwać w testach lub fałszować żądane dane, ponieważ nie może ich znaleźć.
Obawy stały się ostatnio tak poważne, że dyrektorzy technologiczni firm zajmujących się sztuczną inteligencją, takich jak Altman, Elon Musk (55) i Dario Amodei z Anthropic (43), ostrzegają przed własnymi modelami . Amodei powiedział, że obawia się, że w ciągu sześciu do dwunastu miesięcy rój sztucznej inteligencji może przejąć kontrolę nad całym internetem i potencjalnie spowodować szkody warte setki miliardów dolarów.



