Analizy ekspertów Sophos wskazują, że cyberprzestępcy pozostają sceptyczni wobec GenAI. Wykorzystują ją głównie do automatyzacji prostych zadań, takich jak projektowanie fałszywych witryn i redagowanie wiadomości do masowej wysyłki czy analiza danych.
Jednocześnie 98 proc. firm wdrożyło już jakieś rozwiązania ochronne oparte na sztucznej inteligencji. Kierownicy działów IT wyrażają jednak obawy dotyczące nadmiernego polegania na AI. 84 proc. jest zaniepokojonych wynikającą z tego presją na redukcję zatrudnienia specjalistów ds. cyberbezpieczeństwa (42 proc. jest bardzo zaniepokojonych). 87 proc. wyraża obawy związane z wynikającym z tego rozmyciem odpowiedzialności za cyberbezpieczeństwo. Aż 89 proc. wskazuje na potencjalne zagrożenia związane z lukami w zabezpieczeniach narzędzi opartych na AI.
– W przypadku narzędzi bazujących na generatywnej sztucznej inteligencji powinniśmy kierować się zasadą „ufaj, ale sprawdzaj”. Potencjał tych narzędzi w usprawnianiu zadań związanych z cyberbezpieczeństwem jest ogromny, jednak by w pełni go wykorzystać, niezbędny jest właściwy nadzór oraz zrozumienie sposobu ich działania – wyjaśnia cytowany w komunikacie Chester Wisniewski, dyrektor ds. technologii w firmie Sophos.
Eksperci Sophos wskazują, że wiele firm może nie posiadać wystarczającej wiedzy do rzetelnej oceny dopuszczalnego poziomu ryzyka. Niemal wszystkie badane przedsiębiorstwa deklarują, że dokonują oceny procesów i kontroli zabezpieczeń wykorzystywanych w rozwoju narzędzi GenAI. Wymaga to jednak zaawansowanego poziomu wiedzy na temat AI oraz przejrzystości ze strony dostawców, ci zaś rzadko udostępniają pełne procesy wdrażania rozwoju GenAI, a zespoły IT mają ograniczony wgląd w najlepsze praktyki w zakresie tworzenia AI.
Korzyści, jakie firmy chcą osiągnąć poprzez wdrożenie AI w obszarach dotyczących cyberbezpieczeństwa, różnią się w zależności od ich wielkości, a więc i odmiennych wyzwań, z którymi się one mierzą. Największe przedsiębiorstwa (zatrudniające ponad 1 tys. osób) skupiają się głównie na zwiększaniu poziomu ochrony. Podmioty zatrudniające od 100 do 249 pracowników – na poprawie wyników biznesowych. Natomiast mniejsze firmy (50-99 pracowników) liczą przede wszystkim na ograniczenie zjawiska wypalenia zawodowego.
– Większość przedsiębiorstw będzie korzystać z AI za pośrednictwem usług hostowanych w chmurze od takich firm jak OpenAI, Anthropic, Perplexity, a teraz DeepSeek. Bardzo ważne jest, aby zapoznać się z warunkami umowy dotyczącymi sposobu i miejsca przetwarzania danych. Ostatecznie dotrzymanie obowiązków wynikających z RODO spoczywa zarówno na firmie zamawiającej usługi, jak i na tych, którzy je świadczą – podkreśla Chester Wisniewski.
Raport „Beyond the Hype: The Businesses Reality of AI for Cybersecurity” bazuje na badaniu przeprowadzonym w listopadzie 2024 r. przez Vanson Bourne na zlecenie firmy Sophos. Ankieta objęła 400 decydentów ds. bezpieczeństwa IT w przedsiębiorstwach zatrudniających od 50 do 3 tys. pracowników.
