Pewna matka z Kalifornii twierdzi, że w tym miesiącu padła ofiarą oszustwa na tysiące dolarów po tym, jak odebrała telefon, który brzmiał, jakby jej córka była w rozpaczy. Teraz podejrzewa, że to był żart wygenerowany przez sztuczną inteligencję. Jest jedną z wielu osób, które padły ofiarą oszustw polegających na tzw. klonowaniu głosu, ponieważ narzędzia oparte na sztucznej inteligencji pozwalają każdemu na stworzenie przekonującej repliki czyjegoś głosu, wykorzystując zaledwie kilka sekund prawdziwego dźwięku.
Według Federalnego Biura Śledczego (FBI ) Amerykanie stracili w ubiegłym roku ponad 893 miliony dolarów w wyniku oszustw związanych ze sztuczną inteligencją, w tym ataków polegających na klonowaniu głosu, a także wysyłania wiadomości phishingowych za pośrednictwem sztucznej inteligencji, oszustw matrymonialnych i innych oszustw.
Oszuści mogą podszywać się pod każdego, od członków rodziny i przyjaciół, przez współpracowników, po pracowników usług profesjonalnych. Banki, takie jak brytyjski Starling i Commonwealth Bank of Australia, ostrzegają klientów przed oszustwami polegającymi na klonowaniu głosu.
Eksperci twierdzą, że repliki głosu tworzone przez sztuczną inteligencję stały się tak realistyczne, że większość ludzi nie jest już w stanie odróżnić ich od prawdziwego głosu ludzkiego.
„W przypadku przeciętnego człowieka byłoby po prostu niesprawiedliwe oczekiwać, że będzie w stanie to zauważyć” – powiedział Henry Ajder, ekspert ds. mediów generowanych przez sztuczną inteligencję, który doradza rządom i firmom. „Mam z tym problem. Większość ludzi ma”.
Jak działają oszustwa głosowe wykorzystujące sztuczną inteligencję?
Oszuści mogą stworzyć sztuczną replikę głosu danej osoby, wykorzystując krótkie nagranie jej wypowiedzi – często pobrane z mediów społecznościowych lub wcześniejszego, potajemnie nagranego telefonu. Media społecznościowe mogą również dostarczać mnóstwa informacji o członkach rodziny i bliskich przyjaciołach, którzy mogą paść ofiarą oszustwa.
Oszuści zazwyczaj udają, że bliska im osoba jest w niebezpieczeństwie, rzekomo porwana lub uwięziona. Następnie pilnie żądają pieniędzy w zamian za uwolnienie bliskiej osoby.
„Nie było czasu na myślenie” – powiedział CNN w zeszłym roku Gary Schildhorn, prawnik z Filadelfii, który padł ofiarą oszustwa głosowego opartego na sztucznej inteligencji, imitującego jego syna . „Wszystko sprowadzało się do: »Muszę zareagować, żeby pomóc mojemu synowi. Ma kłopoty«”.
W niektórych przypadkach głos sztucznej inteligencji może być czymś więcej niż tylko pojedynczym nagraniem. Zaawansowani atakujący mogą korzystać z narzędzi do przetwarzania tekstu na mowę lub „skórki głosowej”, które manipulują głosem oszusta, tak aby brzmiał jak osoba, którą naśladuje, w czasie rzeczywistym. Techniki te ułatwiają dwustronną rozmowę między ofiarą a głosem klona sztucznej inteligencji, potencjalnie zwiększając przekonywujący charakter oszustwa, powiedział Ajder.
Hakerzy mogą też sprawić, że połączenie będzie wyglądało, jakby pochodziło ze znanego numeru, stosując taktykę znaną jako podszywanie się pod numer dzwoniącego. Nie możesz więc być pewien, że rozmowa, która wydaje się pochodzić od Twojej mamy, rzeczywiście należy do niej.
Jak nie paść ofiarą oszustw głosowych z wykorzystaniem sztucznej inteligencji
Dziwne pauzy lub wahania głosu były wcześniej uważane za sygnały ostrzegawcze, że głos dzwoniącego może być generowany przez sztuczną inteligencję. Jednak teraz, wraz z rozwojem sztucznej inteligencji, sygnały te mogą zniknąć.
Zamiast próbować ustalić, czy głos jest autentyczny, zwróć uwagę na inne ogólne sygnały ostrzegawcze przed oszustwem, powiedział Hany Farid, profesor na Uniwersytecie Kalifornijskim w Berkeley i dyrektor naukowy w GetReal Security, w wywiadzie dla CNN w zeszłym roku.
Czy osoba po drugiej stronie podaje termin lub wprowadza poczucie pilności? Czy namawia Cię, żebyś nikomu nie mówił o tym, co się dzieje? Czy prosi Cię o przelanie dużych sum pieniędzy w nietypowy sposób? Eksperci radzą, aby pamiętać o tych pytaniach.
Osoby odbierające tego typu połączenia powinny spróbować skontaktować się z bliską osobą w inny sposób, np. za pomocą wiadomości tekstowej, zadzwonić do niej z telefonu innej osoby lub skontaktować się z kimś, kto może wiedzieć, gdzie ona przebywa.
Deborah Del Mastro, kalifornijska matka, która niedawno padła ofiarą oszustwa, powiedziała w rozmowie z ABC7 News , że zadzwoniła do córki dopiero po wysłaniu pieniędzy oszustom. Jej córka odebrała natychmiast i była w pracy.
Rodziny lub współpracownicy mogą również ustalić „hasło” zabezpieczające, które będzie służyć do wzajemnej weryfikacji tożsamości. Powinno to być słowo lub fraza, które zna tylko niewielka grupa osób i nie da się znaleźć w internecie.
„Ostatecznie, jeśli podejrzewasz, że coś może być nie tak, o wiele lepiej jest, gdy twoja mama, brat czy przyjaciel śmieją się z ciebie, bo myślisz, że są robotami” – powiedział Ajder – „niż potencjalnie biec do bankomatu”.
