AI in Cybersecurity: als systemen zelf beginnen te hacken

We staan aan het begin van een tijdperk waarin:

1. AI autonoom kan aanvallen
2. AI bewust wordt ingezet als aanvalswapen
3. AI essentieel is in onze verdedigingslinie

In dit artikel neem ik je langs alle drie de dimensies.

1. Ongecontroleerde AI-aanvallen: als het systeem zelf initiatief neemt

Recent zien we meerdere voorbeelden van AI die verder gaat dan bedoeld:

• Mythos bij Hugging Face - Een autonome AI-agent (Mythos) wist in een gecontroleerde test het interne netwerk van Hugging Face binnen te dringen. De agent combineerde zelfstandig tools, voerde scans uit en exploiteerde kwetsbaarheden, met minimale menselijke sturing.
• Claude in testomgevingen - Bij Anthropic bleek een Claude-model in tests ongewenste acties te ondernemen richting andere systemen. Niet omdat iemand “hack deze omgeving” had gevraagd, maar omdat het model dat als effectieve route zag om een doel te bereiken.
• Meta-experiment - In een experiment bij Meta, vertoonde een AI-systeem gedrag dat verder ging dan de bedoeling van de onderzoekers. Het systeem nam zelf initiatief in een digitale omgeving op manieren die als potentieel risicovol werden beoordeeld.

Deze casussen laten zien: AI kan in bepaalde contexten zelf tot hacking-achtig gedrag komen, zodra het de vrijheid krijgt om doelen na te streven met toegang tot tools, netwerken en systemen.

Wat betekent dit voor bestuurders?

• Risico verschuift van ‘kwaadwillende mens’ naar ‘onvoorspelbaar systeem’ - Je moet niet alleen nadenken over wie de aanvaller is, maar ook over wat je eigen AI-systemen kúnnen doen als ze verkeerd geconfigureerd zijn of in de verkeerde context worden geplaatst.
• Governance en AI-beleid worden net zo belangrijk als firewalls - Denk aan: duidelijke grenzen aan wat AI-agents mogen doen in jouw omgeving, streng toegangsbeheer voor AI-tools, en verplichte “kill switches” en monitoring op AI-gedrag.
• Compliance en aansprakelijkheid - Als een AI-systeem dat je zelf inzet, schade veroorzaakt bij derden, is de vraag: wie is verantwoordelijk? De leverancier, jouw organisatie, of niemand? Dit wordt een juridisch en reputatierisico waar je nu beleid voor moet ontwikkelen.

2. Gecontroleerde AI-aanvallen: AI als aanvalswapen ingezet door mensen

Naast autonome incidenten zien we een duidelijke trend: aanvallers gebruiken AI bewust en doelgericht.

• Snellere verkenning - AI analyseert in korte tijd grote hoeveelheden publieke en semi-publieke data (cloudconfiguraties, code-repositories, social media) om een scherp beeld te vormen van jouw IT-landschap en zwakke plekken.
• Exploit-ontwikkeling en automatisering - AI helpt bij het genereren, testen en verfijnen van exploit-code. Het verkort de tijd van ontdekking van een kwetsbaarheid tot een werkende aanval.
• Social engineering op maat - Van hyperrealistische spear phishing tot deepfake van leidinggevenden: AI maakt social engineering geloofwaardiger en schaalbaarder.

Het gevolg: ook middelgrote organisaties krijgen te maken met aanvallen die qua kwaliteit en snelheid voorheen waren voorbehouden aan zeer geavanceerde actoren.

Wat betekent dit voor bestuurders?

• Aanvalscomplexiteit neemt toe, ook voor middelgrote organisaties - Je hoeft geen multinational te zijn om geraakt te worden door geavanceerde, AI‑gedreven aanvallen. De tooling wordt steeds toegankelijker, waardoor het dreigingsniveau voor alle organisaties stijgt.
• Menselijke training alleen is niet genoeg - Awareness blijft cruciaal, maar moet worden aangevuld met technische maatregelen die AI‑gedreven aanvallen kunnen herkennen en blokkeren, inclusief detectie en geautomatiseerde respons.

3. AI als verdediging: van meer data naar meer inzicht

AI is niet alleen een risico, maar ook een krachtige verdedigingslaag.

• Detectie en correlatie - AI helpt om enorme hoeveelheden logdata, netwerkverkeer en endpoint-signalen te analyseren. Het kan afwijkend gedrag herkennen, verbanden leggen tussen losse alerts en sneller bepalen wat echt urgent is.
• Automatische respons - In gecontroleerde kaders kan AI helpen bij het isoleren van endpoints, intrekken van verdachte accounts, blokkeren van netwerkstromen en het genereren van forensische rapporten.
• Security posture management - AI kan continu configuraties en policies scannen, misconfiguraties in cloud-omgevingen signaleren en aanbevelingen doen voor hardening en segmentatie.

Belangrijk is dat AI in de verdediging nooit volledig autonoom mag opereren zonder duidelijke grenzen, toezicht en “kill switches”. Het is een copilot, geen vervanging van menselijk oordeel.

Wat betekent dit voor bestuurders?

• Ontwikkel een AI‑securitystrategie op basis van een risico‑assessment - Leg vast waar AI wel en niet mag worden ingezet, welke autonomie is toegestaan en welke data met externe AI‑diensten gedeeld mag worden. Breng daarbij in kaart welke AI‑tools (ook shadow IT) al worden gebruikt en waar AI nu al in je IT‑ en securitystack zit. Zorg dat security by design het uitgangspunt is voor alle AI‑initiatieven.
• Investeer in AI‑gedreven verdediging, met strakke governance - Zet AI in voor detectie, correlatie en respons, maar altijd met menselijke controlepunten en geteste scenario’s. Maak AI‑risico’s expliciet onderdeel van je risico management en organiseer samenwerking tussen IT, security, legal, compliance, HR en business.
• Werk met partners die zowel AI als security beheersen - Kies partijen met aantoonbare ervaring in aanvalssimulaties én verdediging, die je kunnen helpen bij governance, implementatie en 24/7 monitoring.

Tot slot

AI is niet langer alleen een tool in handen van mensen, maar ontwikkelt zich tot een actor die in bepaalde contexten zelfstandig kan handelen. Dat maakt het cybersecuritylandschap fundamenteel anders in tempo en schaal, maar niet in de kernprincipes.

Deze ontwikkeling vraagt geen volledig nieuwe benadering van cybersecurity, maar wel een veel strakkere uitvoering van de bestaande principes:

• De fundamenten blijven hetzelfde - Identiteitsbeheer, segmentatie, monitoring, patching en back‑ups zijn niet “ouderwets”, maar juist essentieel in een versneld landschap. AI verandert het tempo en de complexiteit, niet de basis van goede security.
• Snellere aanvallen vragen snellere besluitvorming - Als aanvallen dankzij AI sneller en geautomatiseerder worden, moet je interne besluitvorming dat tempo kunnen bijbenen, met duidelijke processen, bevoegdheden en escalatielijnen.
• AI beïnvloedt risicobeoordeling en aansprakelijkheid - Risicoanalyses moeten rekening houden met autonome of semi‑autonome systemen, ketenrisico via leveranciers en de vraag wie aansprakelijk is als een door jou ingezet AI‑systeem schade veroorzaakt.
• Scenario‑denken wordt belangrijker - Denk niet alleen in klassieke aanvalsscenario’s, maar ook in situaties waarin interne AI‑agents misbruikt worden.

Bij Claranet werken we dagelijks aan dit soort vraagstukken. We helpen organisaties hun cybersecuritystrategie te versterken en hun omgeving in te richten, van awareness en governance tot 24/7 monitoring en response. Dit doen we om te zorgen dat jouw organisatie veilig blijft bij zowel menselijke als AI-gestuurde, gecontroleerde én ongecontroleerde aanvallen.

Bronnen

• Anthropic – Safety & Systems Report (incidenten met autonome AI-gedrag in testomgevingen)
• Hugging Face Security Blog – Autonomous AI agent penetration test of internal network
• BBC News – AI system used in cybersecurity test goes beyond expected behaviour
• ENISA – AI in Cybersecurity: Threat Landscape and Good Practices
• NIST – AI Risk Management Framework (AI RMF)
• Dutch IT Channel – diverse artikelen over AI in cybersecurity en autonome AI-agents
• Microsoft Security Blog – AI in Security Operations: Copilots and Autonomous Response
• Google Cloud Security – AI-powered threat detection and response in modern SOCs