Sztuczna inteligencja zdobywa coraz większą popularność. ChatGPT stał się pierwszym powszechnym narzędziem AI, z którego korzystają miliony ludzi. Odpowiedzią na produkt OpenAI jest z kolei Google Bard, który w zeszłym tygodniu zadebiutował w Polsce. Okazuje się jednak, że korzystanie z tzw. usług Generative AI może wiązać się z zagrożeniami i potencjalnym wyciekiem wrażliwych i poufnych danych. Są na to rozwiązania – zapewniają eksperci firmy Check Point Software Technologies.
Podobnie jak wszystkie nowe technologie, ChatGPT, Google Bard, Microsoft Bing Chat i inne usługi Generative AI wiążą się z klasycznym wyborem pomiędzy wzrostem innowacyjności i produktywności a bezpieczeństwem danych.
Korzystanie z dużych modeli językowych (LLM), takich jak ChatGPT, stało się bardzo popularne wśród pracowników, którzy poszukują szybkich wskazówek lub pomocy przy tworzeniu kodu oprogramowania. Niestety, narzędzia zwiększające produktywność są skonfigurowane w sposób, który pozwala na wyciek poufnych danych biznesowych. Korzystanie z narzędzi takich jak ChatGPT lub Bard sprawia, że nieumyślne przesyłanie poufnych lub chronionych informacji (w ramach zapytań) jest niezwykle łatwe.
W jaki sposób można się zabezpieczyć?
Wiele usług sztucznej inteligencji twierdzi, że nie przechowuje przesłanych informacji w pamięci podręcznej ani nie używa przesłanych danych do trenowania swoich silników sztucznej inteligencji. Jednak wiele incydentów, szczególnie z ChatGPT, ujawniło luki w systemie. Zespół ChatGPT naprawił niedawno kluczową lukę w zabezpieczeniach, która ujawniała dane osobowe, w tym dane karty kredytowej i wiadomości na czacie.
Tymczasem eksperci firmy Check Point Software wskazują, iż istnieją narzędzia i usługi (np. Harmony Connect), które posiadają filtry bezpieczeństwa ChatGPT/Bard, aby zablokować przesyłanie poufnych lub chronionych danych za pośrednictwem tych usług. Check Point umożliwia firmom zapobieganie niewłaściwemu wykorzystaniu generatywnej sztucznej inteligencji za pomocą kontroli aplikacji i filtrowania adresów URL, identyfikując i blokując dostęp do tych aplikacji oraz zapobiegając utracie danych (DLP). Pozwala to organizacjom blokować nieautoryzowane użycie niezatwierdzonych aplikacji Generative AI poprzez szczegółową, bezpieczną kontrolę dostępu do sieci dla użytkowników lokalnych, w chmurze, punktach końcowych, urządzeniach mobilnych i zaporach sieciowych jako usługach.
Dzięki temu administratorzy bezpieczeństwa sieci mogą blokować przesyłanie określonych typów danych (kod oprogramowania, dane osobowe, informacje poufne itp.) podczas korzystania z aplikacji takich jak ChatGPT i Bard. Analitycy Check Point Software ostrzegają, że jeśli organizacje nie posiadają skutecznych zabezpieczeń dla tego typu aplikacji i usług AI, ich prywatne dane mogą stać się nieodłączną częścią dużych modeli językowych i ich odpowiedzi na zapytania.
Od czasu komercyjnego uruchomienia ChatGPT firmy Open AI pod koniec 2022 r. ChatGPT stale analizuje bezpieczeństwo popularnych narzędzi generatywnej sztucznej inteligencji. Jednocześnie branża generatywnej sztucznej inteligencji skupiła się na promowaniu swoich rewolucyjnych korzyści, bagatelizując zagrożenia bezpieczeństwa dla organizacji i systemów IT.
Jedna z analiz ChatGPT ujawniła potencjalne scenariusze przyspieszenia cyberprzestępczości. CPR poracowało raporty na temat tego, w jaki sposób modele sztucznej inteligencji mogą być wykorzystywane do tworzenia pełnego obrazy zagrożeń i ataków – od phishingu typu spear po uruchamianie odwrotnego kodu powłoki, backdoorów, a nawet kodów szyfrujących do ataków ransomware. Chociaż firma OpenAI wdrożyła pewne środki bezpieczeństwa, aby zapobiec generowaniu złośliwych treści na swojej platformie, CPR przedstawiło, w jaki sposób cyberprzestępcy obchodzą takie ograniczenia.
