Panel Sans Institute buigt zich over Hugging Face-incidentDe recente, zelfstandige ontsnapping van een experimenteel OpenAI-model uit een beveiligde testomgeving (een sandbox) zette de cyberwereld op z’n kop. Maar, stelt Sans Institute gerust, er is geen sprake van een cyberapocalyps. Wél moeten ciso’s rekening houden met een storm! Met als een belangrijke boodschap: begin met het oplossen van de problemen die al jaren bekend zijn.Wat gebeurde er een maand geleden ook alweer? Tijdens een test met ExploitGym, een benchmark voor het testen van ai-modellen op het ontdekken en misbruiken van softwarekwetsbaarheden, werden de veiligheidsbeperkingen van OpenAI-modellen tijdelijk verlaagd. De modellen ontdekten een zero-day in hun sandbox, verplaatsten zich door OpenAI-systemen en bereikten uiteindelijk een omgeving met internettoegang. Vervolgens compromitteerden zij de productie-infrastructuur van ai-platform Hugging Face, vermoedelijk omdat die organisatie de benchmark hostte en mogelijk informatie over de test bevatte. Het gevolg? Tienduizenden geautomatiseerde acties die zonder menselijke tussenkomst werden uitgevoerd (de aanval werd uiteindelijk gestopt door het securityteam van Hugging Face).Het klinkt als de plot van een sciencefictionfilm en vormde het uitgangspunt van een recente paneldiscussie van training- en adviesbureau Sans Institute over de toekomst van cybersecurity. Met als centrale vraag: wat betekent dit voor organisaties, beveiligingsteams en beleidsmakers?Niet fundamenteel nieuw‘Dit is niet zomaar een incident. Het raakt de kern van hoe we ai inzetten, beveiligen en onderzoeken’, stelt Sans Institute-president Ed Skoudis bij de opening van de discussie. En het incident is een waarschuwing over de huidige staat van cyberbeveiliging, aldus de deelnemende panelleden.Het panel is opvallend eensgezind over één punt: de gebruikte aanvalstechnieken waren niet fundamenteel nieuw (denk sandbox-escapes, privilege-escalatie en het stelen van inloggegevens). Ai introduceert dus niet per se nieuwe aanvalstechnieken, maar maakt bestaande aanvallen sneller, goedkoper én schaalbaarder. En dat baart de panelleden wel zorgen, want stelt Rob Lee, chief ai officer en chief of research bij Sans Institute: ‘Veel organisaties hebben hun basisbeveiliging nog steeds niet op orde. Verouderde accounts, onvoldoende netwerksegmentatie en niet-gepatchte systemen blijven zwakke plekken.’KroonjuwelenAnalist Rich Mogull, cloud security alliance bij Sans Institute, omschrijft het verschil tussen een menselijke pentester en een zwerm autonome agents. ‘Waar een mens gericht opereert binnen een beperkte scope, kan een verzameling ai-agents gelijktijdig talloze systemen onderzoeken, aanvallen en opnieuw proberen wanneer eerdere pogingen mislukken. Dat leidt tot een aanvalsvorm die tegelijk slim en opmerkelijk onbeholpen kan zijn: strategisch effectief, maar operationeel soms nog verrassend inefficiënt door acties regelmatig te herhalen. Maar die onhandigheid gaat zeker nog verdwijnen.’Voor chief information security officers (ciso’s) betekent dit dat traditionele beveiligingsmaatregelen niet verdwijnen, maar wel moeten opschalen. Prioriteiten zijn netwerksegmentatie, monitoring, vroegtijdige detectie en het aanpassen van incident responsprocessen aan aanvallen die op machinesnelheid plaatsvinden. Ook defensief gebruik van ai wordt steeds belangrijker. Volgens Mogull moeten organisaties daarbij vooral focussen op hun kroonjuwelen: de meest kritieke applicaties en databronnen. Die moeten beter worden afgeschermd en voorzien van aanvullende detectiemechanismen zoals canary tokens en honeypots.Tapletop-oefeningenChief ai officer Lee tekent daarbij aan dat, terwijl ai nu door allerlei fouten nog relatief eenvoudig te detecteren is, toekomstige ai-aanvallen juist gericht zijn op onopvallend gedrag. Hij adviseert daarom om zogeheten tabletop-oefeningen uit te voeren waarbij teams oefenen met ai-gestuurde aanvallen. Daarnaast zullen beveiligingsmaatregelen die gedrag detecteren steeds belangrijker worden. Detectiesystemen die alleen vertrouwen op bekende aanvalspatronen, zullen minder effectief zijn naarmate ai zich verder ontwikkelt.De Sans-expertsreppenvaneen overgangsfase. Ai is al in staat om zelfstandig kwetsbaarheden te vinden en te exploiteren, maar grootschalig misbruik door kwaadwillenden is nog geen dagelijkse realiteit. Het incident betekent in hun ogen niet dat ai op hol is geslagen. De modellen deden wat ze moesten doen binnen een testomgeving waarin veiligheidsmaatregelen bewust waren afgezwakt. Het gaat daarom vooral om een falen in testen, containment en governance–problemen die met gedegen engineering en beleid kunnen worden opgelost.Geen einde der tijdenTijdens het paneldebat verzet Sans-adviseur Ciaran Martin, voormalig directeur van het Britse National Cyber Security Centre en tegenwoordig verbonden aan Oxford University, zich tegen doemscenario’s waarin autonome systemen de digitale wereld volledig ontwrichten. ‘Het risico bestaat dat organisaties meer aandacht besteden aan dit soort hypothetische ai-scenario’s dan aan de aanvallen die vandaag al plaatsvinden. Cybercriminelen gebruiken ai weliswaar steeds vaker, maar de meeste schade wordt nog altijd veroorzaakt door bekende aanvalsmethoden, ransomware en menselijke fouten.’ De sector stevent niet af op een cyberapocalyps, maar op een storm, vervolgt Martin. ‘ Die storm kan ongemakkelijk zijn, schade veroorzaken en organisaties dwingen maatregelen te nemen. Maar het betekent niet automatisch het einde van bestaande veiligheidsmodellen.’
computable
21-08-2026 16:00