Cyberataki napędzane przez AI: w stronę „ciągłych i uporczywych” ofensyw

Chris Lehane, dyrektor ds. międzynarodowych w OpenAI, ostrzegł, że nowe możliwości modeli AI zmieniają samą naturę ryzyka cybernetycznego: zamiast pojedynczych ataków trzeba teraz przewidywać ofensywy prowadzone w sposób ciągły, zautomatyzowany i coraz trudniejszy do odróżnienia od normalnego zachowania. Według niego atakujący wyposażeni w ogólnodostępne modele będą mogli prowadzić długotrwałe kampanie, zmuszając zespoły obronne do polegania na znacznie skuteczniejszych narzędziach.

Zagrożenie już konkretne, nie tylko teoretyczne

To nie jest hipotetyczny scenariusz. Francja doświadczyła w ostatnich miesiącach serii cyberataków wymierzonych w instytucje takie jak Santé publique France czy France Travail. Grupa odpowiedzialna za niektóre z tych ataków tłumaczyła swój sukces niewystarczającym zabezpieczeniem atakowanych usług; a za tego typu atakami czasem kryją się bardzo młode osoby, wykorzystujące dobrze znane luki, a nie zaawansowane techniki. Sam rząd przyznał się do technicznego zadłużenia narosłego przez kilka dekad w zakresie ochrony infrastruktury krytycznej.

To dokładnie ten scenariusz, którego OpenAI obawia się na większą skalę: niepokoi nie tyle wyrafinowanie ataku, ile jego zdolność do powtarzania się, adaptacji i utrzymywania się, napędzana przez modele zdolne zautomatyzować to, co wcześniej wymagało całego zespołu.

Zamknięcie modeli nie wystarczy

OpenAI wzywa do stworzenia krajowych i międzynarodowych ram prawnych, by ograniczyć te zagrożenia. Regulacja ma sens, ale ma swoje granice: cyberataki nie są nowym zjawiskiem stworzonym przez AI, istnieją odkąd istnieją sieci. To, co się zmienia, to autor – wczoraj człowiek, dziś potencjalnie AI – oraz wolumen, jaki ten autor może wyprodukować.

Ograniczenie dostępu do najpotężniejszych modeli nie zmieni zasadniczo sytuacji: najbardziej zdeterminowani atakujący zawsze znajdą model, otwarty lub przejęty, by osiągnąć swoje cele. Prawdziwy wyścig nie rozgrywa się na polu zamykania modeli, lecz na polu tempa, w jakim postępuje obrona.

Obrona oparta na AI jako prawdziwa dźwignia

To właśnie tutaj, naszym zdaniem, kryje się dobra wiadomość w tym ogłoszeniu: cyberbezpieczeństwo wspierane przez AI rozwija się przynajmniej tak szybko, jak zastosowania ofensywne. Wykrywanie anomalii w czasie rzeczywistym, zautomatyzowany audyt kodu, analiza logów na dużą skalę; te same możliwości, które niepokoją po stronie ataku, są dostępne po stronie obrony. Firmy, które podejmą ten krok wcześnie, integrując AI z własnymi narzędziami bezpieczeństwa zamiast biernie go doświadczać, mają wszelkie szanse utrzymać przewagę, nawet w obliczu ciągłych ataków.

Co warto zapamiętać

• Cyberataki sterowane przez AI to nie odległa hipoteza: już się dzieją, a ich zautomatyzowany, ciągły charakter będzie się nasilał.
• Poleganie wyłącznie na regulacji lub zamykaniu modeli nie wystarczy.
• Decydująca będzie zdolność zespołów obronnych do wdrażania AI co najmniej tak szybko, jak robią to ci, którzy wykorzystują ją do ataku.