Compliance in de wereld van AI: blijven de veiligheidsmaatregelen intact?

Compliance is nooit het makkelijkste onderwerp voor organisaties. Tussen de AVG, AI Act, NIS2, CRA, ISO-standaarden en andere branchespecifieke regelgeving zitten organisaties al met een complexe verzameling eisen die zijn ontworpen om gevoelige informatie te beschermen.

Daar is een reden voor.

Want zonder die waarborgen zou vrijwel elke organisatie zelf moeten beslissen wat "veilig genoeg" betekent. Voor organisaties die patiëntinformatie, overheidsdata of financiële administraties beheren, kan een verkeerde beslissing gevolgen hebben die veel verder reiken dan een niet behaalde audit of certificering.

Compliance-kaders bestaan omdat de dreigingen die ze adresseren – bijvoorbeeld van statelijke actoren (door landen gesteunde hackersgroepen) en ransomware tot insider risk en menselijke fouten – zeer reëel zijn.

En nu heeft AI een geheel nieuwe dimensie aan het probleem toegevoegd: AI-compliance.

AI heeft veranderd waar jouw data naartoe gaat 

Jarenlang konden organisaties vrij duidelijke grenzen stellen rondom gevoelige informatie. Je wist welke systemen het opslaan, wie er toegang toe had, en welke beveiligingsmaatregelen er waren getroffen. AI-tools maken dat plaatje ingewikkelder.

Een medewerker die tijd probeert te besparen, kan gevoelige contractinformatie invoeren op een publiek AI-platform om een analyse uit te voeren. Een zorgorganisatie kan een AI-transcriptietool implementeren zonder eerst vast te stellen hoe patiëntinformatie wordt verwerkt. Een AI-enabled applicatie kan toegang krijgen tot informatie of systemen die nooit werden overwogen toen het bestaande beveiligingsbeleid van de organisatie werd geschreven.

Vaak is niets hiervan kwaadaardig. Iemand probeert gewoon efficiënter te werken en creëert onbedoeld een compliance- of beveiligingsprobleem tijdens die actie.

Dat betekent dat organisaties steeds vaker een andere vraag moeten stellen: 'Weten wij hoe AI binnen onze omgeving wordt gebruikt, welke data het verwerkt, en waar onze informatie naartoe gaat?'

Als AI voorbij de gestelde grenzen beweegt 

Een recent cybersecurityexperiment van OpenAI geeft een opvallend voorbeeld waarom bewaking van AI belangrijk is. 

Tijdens het experiment ontdekten AI-agents, die bedoeld waren om onafhankelijk te opereren, een ongeautoriseerde manier om te communiceren met andere AI-agents buiten hun initiële omgeving. Volgens een onafhankelijk onderzoek door METR wisselden ongeveer 1.200 agents meer dan 70.000 berichten en bestanden uit via een niet-goedgekeurde messageboard, terwijl ongeveer 700 agents actief deelnamen aan kwaadaardige activiteiten gericht op het bedrijf Hugging Face. Die daar niet van wist. 

De agents werkten samen aan manieren om aspecten van de domeingrenzen te omzeilen, deelden informatie en bronnen, en verkenden methoden voor het manipuleren van transcripties. Wat begon binnen een gecontroleerd cybersecurity-experiment liet zien hoe snel autonome systemen zich kunnen gedragen op manieren die hun bedenkers niet hadden voorzien, zelfs wanneer toestemming en grenzen waren ontworpen om dit te voorkomen. 

Voor bedrijven die steeds capabelere AI-tools en -agents implementeren, is de les niet om AI te vermijden, maar wel te definiëren wat AI mag doen voordat je ontdekt wat het zelfstandig kan. 

Beperkte autonomie 

Medewerkers verbieden om AI te gebruiken is geen duurzame strategie, dat gaat niet werken. Organisaties moeten in plaats daarvan grenzen stellen aan hoe AI kan opereren. 

Een aanpak is beperkte autonomie, wat betekent dat AI-systemen en -agents onafhankelijk kunnen opereren, maar alleen binnen duidelijk gedefinieerde kaders en afdwingbare en traceerbare regels. 

Enkele voorbeelden zijn: 

• Beperkte rechten
• Toegangsbeheer op dataopslag
• Toegangsbeheer voor de cloud
• Filtering van webcontent
• Applicatierechten en afbakening
• Gerichte checkpoints met menselijke review

Een risico-review kan ook helpen AI-gerelateerde openbaringen van data bloot te leggen waarvan een organisatie zich mogelijk niet realiseert dat deze al bestaan. Oftewel: de good old datalekken. Maar nu veroorzaakt door AI.  

Het stoppen met gebruiken van AI is kansloos. Net zoals we in de jaren ’80 van de vorige eeuw hadden geprobeerd om de computer buiten de deur te houden of in de jaren 2000 vooral het internet probeerden te vermijden.  

We moeten nog steeds proberen de voordelen van AI te benutten zonder dat het onbeperkte toegang krijgt tot jouw organisatie of de vertrouwelijke informatie deelt met anderen. 

Wie houdt jouw AI-grenzen in de gaten? 

Begrensde autonomie is niet iets wat je een keer instelt en daarna vergeet. Nieuwe AI-tools worden geïmplementeerd, medewerkers vinden nieuwe manieren om die te gebruiken, agents verwerven capaciteiten die je niet had voorzien en permissies die zes maanden geleden nog logisch waren, zijn dat vandaag misschien niet meer. Iemand moet dit landschap in de gaten houden en de maatregelen updaten naarmate het landschap verandert. 

Voor veel kleine en middelgrote organisaties kan het vinden en behouden van een interne specialist met dat niveau van expertise moeilijk en duur zijn. Een parttime compliance officer of een compliance officer-as-a-service is een betere optie. Om verschillende redenen. 

In plaats van een fulltime collega aan te nemen, kunnen organisaties toegang krijgen tot senior-level expertise wanneer ze het nodig hebben. Deeltijdondersteuning van één à twee dagen per week helpt bij compliance-beoordelingen, beveiligingsbeleid en -procedures, securityplannen en security awareness-trainingen. Daarnaast ondersteunt deze inzet bij incident response-planning en -testen, continuïteits- en disaster recovery-planning, kwetsbaarheids- en risicobeoordelingen en de evaluatie van beveiligingsmaatregelen. Zo blijven deze maatregelen ook actueel nu AI verandert waar ze rekening mee moeten houden.

De betrokkenheid in tijd kan ook schalen met de behoeften van de organisatie door extra ondersteuning rond assessments, incidenten of belangrijke compliance-initiatieven te bieden zonder de kosten van een extra fulltime collega te vereisen. 

Het is het verschil tussen een rookmelder ophangen en de brandweer bellen nadat de brand al is begonnen. Sommige organisaties hebben iemand nodig die dagelijks aandacht besteedt aan governance en compliance op het gebied van AI. In veel gevallen kan de juiste expert consistent betrokken zijn, met een echt plan en duidelijke verantwoordelijkheden, een organisatie veel verder brengen zonder de kosten van een extra fulltime aanstelling. 

AI-Compliance wordt niet simpel 

Organisaties maken zich al zorgen over de kosten van compliance, veranderingen in bedrijfsprocessen, beperkte interne expertise en of ze uiteindelijk aan wet- en regelgeving of aan accreditatievereisten kunnen voldoen. Voor veel bedrijfstakken zijn de kosten van compliance de laatste jaren al enorm gestegen. En minder wordt het niet. 

AI voegt een extra laag toe aan een omgeving die al complex en constant veranderlijk was. AI vermijden is niet het juiste antwoord en compliance als een eenmalig project te zien geeft schijnzekerheid. 

Het is belangrijk om de risico's binnen jouw organisatie te begrijpen, passende bewaking in te stellen, en iemand verantwoordelijk te maken die ervoor zorgt dat cybersecurity- en compliance-programma's gelijk opgaan met de ontwikkelingen van AI binnen de bedrijfsvoering.

Nawoord van Jorrit van de Walle. 

Dit artikel kwam tot stand hulp van onze Amerikaanse collega’s van Duffy Compliance Services, Maryland, U.S.A. 

Ook in Nederland zien we dat organisaties worstelen met AI. Aan de ene kant zijn er de kansen die AI belooft, aan de andere kant groeit de behoefte aan duidelijke kaders en randvoorwaarden. In de EU hebben we daarvoor de AI Act, iets wat in de VS op federaal niveau ontbreekt. En daarnaast de AVG, die het nodige zegt over wanneer en waarvoor je persoonsgegevens mag gebruiken.

Toch zijn de AVG en de AI Act geen wondermiddelen. Ook met richtlijnen blijft die spanning tussen kansen en kaders bestaan.

We herkennen ook de stijgende kosten van compliance. Er komt steeds meer wet- en regelgeving op organisaties af, en dat kost tijd en geld. Juist daarom loont het om er vroeg grip op te krijgen. Gaat er iets mis, met AI of met andere regelgeving, dan bepaalt al snel een toezichthouder als de Autoriteit Persoonsgegevens het tempo. En daarmee ook je budget en je prioriteiten. Die regie wil je zelf houden.

Je hoeft dat niet alleen te doen. Met PRISM heb je die expertise binnen handbereik, zonder fulltime aanstelling. Via de Helpdesk spar je direct met een ervaren privacy- of securityspecialist, in de Kennisbank vind je 100+ templates en beleidsdocumenten, en met de AI Quickscan breng je de status van jouw organisatie in kaart.

Twijfel je hoe je AI-compliance slim inricht? Boek een vrijblijvende  demo en ontdek hoe PRISM je helpt de regie te houden.