NRC meldde recent dat hackers de AI van Anthropic (Claude) hebben misbruikt om cyberaanvallen te versnellen. AI zou hebben geholpen bij het schrijven van aanvalscode, het selecteren van doelwitten, en het opstellen van afpersmails.

Volgens een ander artikel van de BBC kreeg zelfs hiring-fraude een nieuwe dimensie: Noord-Koreaanse operatives gebruikten AI om overtuigende profielen te maken om zo aangenomen te worden bij grote bedrijven.

Is er reden tot zorg?

Ja. AI verlaagt de drempel voor aanvallers en verkort de tijd tussen ontdekking van een kwetsbaarheid en daadwerkelijk een exploit. Waar organisaties tot voor kort weken of maanden hadden om te reageren, is dat nu eerder dagen. Traditioneel en traag reageren en improviseren is dus geen optie meer.

Hoe wapenen we ons?

De sleutel ligt in een proactieve en preventieve aanpak. Dat betekent:

• Een control framework waarin helder is welke AI-toepassingen zijn toegestaan, hoe data wordt beschermd en welke signalen vroegtijdig worden opgepikt.
• Detectie en monitoring die verder kijkt dan klassieke events en ook AI-gestuurde patronen kan herkennen.
• Bewustzijn en beleid rond de inzet van AI door cybercriminelen. Het verhogen van kennis en bewustzijn over de inzet van AI bij mogelijke cyberaanvallen werkt preventief.

Nieuwe business unit: Data & AI

AI vergroot niet alleen de slagkracht van aanvallers, maar ook van verdedigers. Met de juiste kaders kan AI helpen bij snellere detectie, slimmere analyses en efficiëntere beveiliging. Juist dit snijvlak raakt de nieuwe business unit Data & AI van Pragmaat. Wij helpen organisaties een control framework neer te zetten dat AI-risico’s beheersbaar maakt en tegelijk de kansen benut. Zo vormt AI niet alleen een bedreiging, maar ook een krachtig hulpmiddel in uw securitystrategie.