Wat de AVG van een AI-systeem vraagt
De AVG (GDPR), Verordening (EU) 2016/679, geldt sinds 25 mei 2018. Ze zegt niets specifieks over AI. Ze geldt zodra er persoonsgegevens worden verwerkt, door wat dan ook. Een AI-systeem is geen nieuwe juridische categorie. Het is een verwerking zoals elke andere, en de vragen zijn de gewone vragen.
Dit artikel is voor wie verantwoordelijk is voor operatie, IT of compliance bij bedrijven die AI inzetten in een proces met klant-, patiënt- of personeelsgegevens. Het hoort bij onze samenvatting van de AI-verordening, die over het systeem gaat. Dit artikel gaat over de gegevens erin.
Vier vragen beslissen bijna elke zaak, en het loont om ze te beantwoorden voordat iemand iets bouwt:
- 01Ben je voor deze verwerking de verwerkingsverantwoordelijke of de verwerker?
- 02Welke grondslag dekt de verwerking, en staat die ergens vastgelegd?
- 03Vallen er gegevens onder artikel 9, de bijzondere persoonsgegevens?
- 04Waar gaan de gegevens fysiek heen, en wie kan er daar bij?
Verwerkingsverantwoordelijke of verwerker: wat ben jij?
Je bent verwerkingsverantwoordelijke als jij bepaalt waarom en hoe persoonsgegevens worden verwerkt. Je bent verwerker als je ze verwerkt in opdracht van een ander. De rollen volgen de beslissingen, niet de facturen, en bij een AI-traject zijn er meestal drie partijen.
| Partij | Gebruikelijke rol | Waarom |
|---|---|---|
| Jouw bedrijf | Verwerkingsverantwoordelijke | Jij bepaalt het doel: welk proces de AI ondersteunt en van wie het systeem gegevens ziet |
| Je ontwikkelpartner | Verwerker | Zij bouwen en draaien het systeem volgens jouw specificatie en handelen in jouw opdracht |
| De modelleverancier | Verwerker, of subverwerker | Zij verwerken de prompts die je stuurt onder hun API-voorwaarden. Controleer of die voorwaarden hen verwerker noemen of een eigen rol als verwerkingsverantwoordelijke claimen |
Elke schakel in die keten heeft een verwerkersovereenkomst nodig op grond van artikel 28. Degene die het vaakst ontbreekt is die met de modelleverancier, omdat de API met een zakelijke pas is afgesloten voordat iemand ernaar vroeg.
Een grondslag kiezen
Elke verwerking heeft een grondslag nodig uit artikel 6. AI toevoegen aan een proces dat je al draait, neemt de oude grondslag niet vanzelf over, want de grondslag hoort bij het doel, en een AI-stap verandert het doel soms.
| Grondslag | Wanneer die past bij AI-gebruik | Waar het misgaat |
|---|---|---|
| Overeenkomst, artikel 6 lid 1 sub b | De AI-stap is nodig om te leveren wat de klant daadwerkelijk heeft gevraagd | Noodzakelijk wordt strikt uitgelegd. Je eigen werk sneller maken is geen noodzaak |
| Gerechtvaardigd belang, artikel 6 lid 1 sub f | Interne efficiëntie, fraudecontroles, hulp bij opstellen, interne zoekfunctie | Vraagt een vastgelegde belangenafweging. Valt om als mensen het niet zouden verwachten |
| Toestemming, artikel 6 lid 1 sub a | Optionele functies die iemand zelf aanzet | Moet vrij gegeven zijn en net zo makkelijk in te trekken. Bij werknemers zelden geldig |
| Wettelijke verplichting, artikel 6 lid 1 sub c | Bewaren of rapporteren dat de wet van je eist | Dekt het bewaren, bijna nooit de AI-analyse zelf |
Gerechtvaardigd belang is voor interne tooling vaker het juiste antwoord dan mensen denken, en het is de grondslag waar het vaakst geen papier achter zit. De belangenafweging is een kort document. Schrijf het één keer per systeem en bewaar het bij je verwerkingsregister.
Wat je in een model mag stoppen
De praktische vraag in elke scopingsessie. Het antwoord hangt af van de gegevens en het doel, niet van het model.
| Wat je wilt doen | Persoonsgegevens | Meestal werkbaar | Wat ervoor nodig is |
|---|---|---|---|
| Je eigen beleid, handleidingen en procedures doorzoeken | Zelden | Ja | Controleer de documenten op namen en praktijkvoorbeelden voordat je ze indexeert |
| Klantmails samenvatten of sorteren | Ja | Ja | Overeenkomst of gerechtvaardigd belang, een verwerkersovereenkomst, en een bewaartermijn aan de kant van de leverancier |
| Velden uit leveranciersfacturen halen | Beperkt, meestal contactnamen | Ja | Dataminimalisatie: haal de velden eruit die je nodig hebt, niet het hele document, en bewaar de rest niet |
| Antwoorden opstellen in een supportinbox | Ja | Ja | Vertel mensen dat er AI bij betrokken is, en houd een mens die het antwoord echt kan wijzigen |
| Patiënt- of medische dossiers analyseren | Ja, artikel 9 | Alleen met een uitzondering uit artikel 9 lid 2 | Uitdrukkelijke toestemming of een zorggrondslag in nationaal recht, plus vrijwel altijd een DPIA |
| Sollicitanten filteren of rangschikken | Ja | Mogelijk, met echte waarborgen | DPIA, waarborgen uit artikel 22, en vanaf 2 december 2027 hoog-risicoverplichtingen uit de AI-verordening |
| Iemand herkennen aan stem of gezicht | Ja, biometrisch, artikel 9 | Zelden | Uitdrukkelijke toestemming, en een eerlijke blik op of je identificatie überhaupt nodig hebt |
| Een model finetunen op klantdata | Ja | Alleen als het nieuwe doel verenigbaar is | Een verenigbaarheidstoets, meestal een nieuwe grondslag en nieuwe informatie aan de betrokkenen. Behandel het standaard als een nieuw doel |
Twee patronen halen de meeste moeilijkheid weg. Pseudonimiseer voordat de gegevens het model bereiken als de taak de naam niet nodig heeft, en houd de zoekindex los van het model zodat je eruit kunt verwijderen. Gepseudonimiseerde gegevens blijven persoonsgegevens, maar het risico daalt en de schade bij een fout ook.
Gezondheid, biometrie en de andere bijzondere persoonsgegevens
Artikel 9 gaat over gezondheidsgegevens, biometrische gegevens die iemand identificeren, genetische gegevens, ras of etnische afkomst, politieke opvattingen, religieuze of levensbeschouwelijke overtuigingen, vakbondslidmaatschap en gegevens over seksueel gedrag of seksuele gerichtheid. Verwerken is verboden, tenzij een van de uitzonderingen uit artikel 9 lid 2 geldt, bovenop je grondslag uit artikel 6.
Dit raakt meer bedrijven dan verwacht, omdat de categorie volgt uit wat de gegevens onthullen en niet uit het veld waarin ze staan. Een vrije notitie in een agendasysteem waarin staat waarom een afspraak is verzet, kan een gezondheidsgegeven zijn. Bij een tandarts, een fysiotherapeut of een arbodienst zijn de documenten dat van begin tot eind.
De uitzonderingen die het vaakst spelen zijn uitdrukkelijke toestemming, artikel 9 lid 2 sub a, en zorgverlening door of onder verantwoordelijkheid van een beroepsbeoefenaar met een geheimhoudingsplicht, artikel 9 lid 2 sub h, die afhangt van nationaal recht. In Nederland loopt dat samen met de WGBO en het medisch beroepsgeheim. Dat is een aparte vraag van de AVG en het is het waard om aan je eigen adviseur voor te leggen.
Traint de leverancier op jouw gegevens?
Gecontroleerd op 16 oktober 2026
Bij de zakelijke en enterprise-abonnementen van de grote aanbieders is het uitgangspunt dat prompts niet worden gebruikt om het onderliggende model te trainen, en dat staat meestal in de voorwaarden in plaats van op een instellingenpagina. Consumentenabonnementen van dezelfde producten gedragen zich vaak anders. Het abonnement waarop je zit, telt zwaarder dan het merk op de factuur.
Drie dingen zijn het lezen waard in de voorwaarden, want daar zitten de verrassingen:
- Trainen. Of prompts en antwoorden het model helpen verbeteren, en of dat standaard aanstaat.
- Bewaren. Hoe lang prompts worden bewaard voor misbruikcontrole, wie ze kan lezen, en of nul bewaren beschikbaar is op jouw abonnement.
- Subverwerkers. Wie er verder bij de gegevens komt, waar zij zitten, en of je bericht krijgt voordat de lijst verandert.
Het Europees Comité voor gegevensbescherming (EDPB) ging op 17 december 2024 rechtstreeks in op AI-modellen, in Opinion 28/2024. Daarin staat wanneer een model als anoniem kan gelden, wanneer gerechtvaardigd belang het ontwikkelen en inzetten van een model kan dragen, en wat er volgt als een model is getraind op onrechtmatig verwerkte gegevens. Het komt het dichtst bij een vastgelegd Europees standpunt, en het is het lezen waard voordat je op anonimiteit leunt.
Wanneer je een DPIA nodig hebt
Een gegevensbeschermingseffectbeoordeling, in de praktijk een DPIA, is op grond van artikel 35 verplicht als een verwerking waarschijnlijk een hoog risico oplevert voor mensen. Artikel 35 lid 3 noemt drie gevallen, en in minstens deze situaties is een DPIA verplicht:
- Stelselmatige en uitgebreide beoordeling van persoonlijke aspecten op basis van geautomatiseerde verwerking, waaronder profilering, waarbij besluiten rechtsgevolgen of vergelijkbaar grote gevolgen hebben.
- Grootschalige verwerking van bijzondere persoonsgegevens of van gegevens over strafrechtelijke veroordelingen.
- Stelselmatige en grootschalige observatie van openbaar toegankelijke ruimte.
Nationale toezichthouders publiceren hun eigen lijsten van verwerkingen waarvoor altijd een DPIA nodig is. In Nederland houdt de Autoriteit Persoonsgegevens zo'n lijst bij, en daar staan gevallen in die gewone bedrijven raken, waaronder grootschalige verwerking van gezondheidsgegevens en stelselmatige controle van werknemers.
Een DPIA is geen formaliteit die je achteraf afvinkt. Tijdens de scoping is hij echt nuttig, omdat hij de vraag afdwingt of je de persoonsgegevens überhaupt nodig hebt, en dat maakt de bouw vaak kleiner en goedkoper.
Geautomatiseerde besluiten en artikel 22
Artikel 22 geeft mensen het recht niet te worden onderworpen aan een besluit dat uitsluitend op geautomatiseerde verwerking berust, waaronder profilering, met rechtsgevolgen of vergelijkbaar grote gevolgen. Het geldt tenzij het besluit noodzakelijk is voor een overeenkomst, in de wet is geregeld of op uitdrukkelijke toestemming berust, en ook dan zijn er waarborgen nodig, waaronder het recht op menselijke tussenkomst en het recht het besluit aan te vechten.
Uitsluitend is het woord waar het om draait. Een mens die goedkeurt wat het systeem voorstelt, is geen betekenisvolle tussenkomst. Voor een werkende waarborg heeft die beoordelaar de bevoegdheid, de informatie en de tijd nodig om tot een ander antwoord te komen. In de praktijk betekent dat: richt de wachtrij zo in dat afwijken praktisch mogelijk is, en niet alleen op papier toegestaan.
Waar een AI-agent zelf acties uitvoert en niet alleen aanbevelingen doet, is dit het artikel om als eerste te controleren. Ons artikel over human-in-the-loop AI-agents laat zien hoe je dat bouwt.
Waar de gegevens fysiek heen gaan
Persoonsgegevens buiten de EER sturen is een doorgifte onder hoofdstuk V, en die heeft een eigen grond nodig: een adequaatheidsbesluit, passende waarborgen zoals de standaardcontractbepalingen, of een van de smalle uitzonderingen uit artikel 49. Een Europese regio kiezen in een console is een goede stap, en die beslist de vraag niet, want toegang vanuit een land buiten de EER is ook een doorgifte.
Dat is een onderwerp op zich, en we hebben het apart uitgewerkt in AI-modellen in de EU: waar je gegevens werkelijk heen gaan, inclusief wat een Europese regio wel en niet dekt.
Waar je begint
- 01Maak een lijst van de AI-systemen die je al gebruikt, ook de systemen die met een zakelijke pas zijn afgesloten, en noem per systeem de verwerkingsverantwoordelijke.
- 02Schrijf per systeem het doel in één zin op en kies de grondslag uit artikel 6 die erbij past.
- 03Controleer of er gegevens onder artikel 9 vallen. Zo ja, zoek de uitzondering uit artikel 9 lid 2 voordat je verdergaat.
- 04Verzamel de verwerkersovereenkomsten, te beginnen bij de modelleverancier, en lees wat er staat over trainen, bewaren en subverwerkers.
- 05Doe een DPIA waar artikel 35 of de lijst van je toezichthouder erom vraagt, en doe die tijdens de scoping, niet pas bij de livegang.
- 06Leg vast waar de gegevens worden verwerkt en wie erbij kan, inclusief supporttoegang van buiten de EER.
De meeste bedrijven merken dat stap één en twee meer risico wegnemen dan welke technische maatregel ook, omdat er een systeem bovenkomt dat niemand had opgeschreven. Ons werk aan AI-strategie begint met precies die inventarisatie.
Vragen over de AVG en AI
Is ChatGPT AVG-proof? Mag ik er klantgegevens in stoppen?
AVG-proof is geen eigenschap van het product, dus de vraag stelt zichzelf verkeerd. Hetzelfde geldt voor Claude en Microsoft Copilot. Op een zakelijk of enterprise-abonnement met een verwerkersovereenkomst, een vastgelegde grondslag en een bewaarinstelling die je hebt gecontroleerd kan het prima. Op een persoonlijk account zonder overeenkomst niet. Het antwoord zit in je contract en je grondslag.
Geldt de AVG ook als de gegevens gepseudonimiseerd zijn?
Ja. Gepseudonimiseerde gegevens blijven persoonsgegevens, omdat ze met aanvullende informatie aan een persoon zijn te koppelen. Het verlaagt het risico en artikel 32 moedigt het uitdrukkelijk aan, maar het haalt de verwerking niet buiten de AVG. Alleen echte anonimisering doet dat, en dat is een hogere drempel dan namen weghalen.
Heb ik toestemming nodig om AI op klantgegevens te gebruiken?
Meestal niet. Toestemming is een van de zes grondslagen en vaak de zwakste, omdat ze kan worden ingetrokken en vrij gegeven moet zijn. Overeenkomst of gerechtvaardigd belang past beter bij de meeste zakelijke toepassingen. Toestemming wordt vooral nodig bij bijzondere persoonsgegevens, via artikel 9 lid 2 sub a.
Wie is verantwoordelijk als de modelleverancier een datalek heeft?
Jij blijft verwerkingsverantwoordelijke en houdt de bijbehorende plichten, waaronder melden bij de toezichthouder binnen 72 uur als het lek meldingsplichtig is. De verwerker moet jou zonder onredelijke vertraging informeren. Die verplichting staat in de verwerkersovereenkomst uit artikel 28, en daarom telt het als die ontbreekt.
Hoe verhoudt dit zich tot de AI-verordening?
Het zijn aparte wetten die tegelijk gelden. De AI-verordening deelt het systeem in naar het gebruik en naar je rol als aanbieder of gebruiksverantwoordelijke. De AVG gaat over de persoonsgegevens, ongeacht die indeling. Een systeem met een minimaal risico onder de AI-verordening kan nog steeds in strijd zijn met de AVG.
Lees de volledige tekst van Verordening (EU) 2016/679 op EUR-Lex (opent in een nieuw tabblad), de richtsnoeren van de EDPB (opent in een nieuw tabblad) en, in Nederland, de Autoriteit Persoonsgegevens (opent in een nieuw tabblad). Dit artikel is algemene informatie en is geen juridisch advies. Richtlijnen en regels kunnen veranderen, dus leg je situatie voor aan je juridisch adviseur.