De EU AI Act en jouw leveranciers: wat valt eronder en welke vragen stel je?

Veel organisaties denken dat de EU AI Act alleen over chatbots gaat. In de praktijk valt veel meer eronder, tot en met de virusscanner die je al jaren gebruikt. Wat betekent dat voor jou en voor de afspraken met je leveranciers?

Weet je nog, de AVG in 2018? Iedereen liep rond met de vraag: welke persoonsgegevens verwerken we, waarom, waar staan ze en wie kan erbij? De EU AI Act voelt voor veel organisaties als een herhaling van die oefening. Dat is goed nieuws, want het betekent dat je de aanpak al kent. Je past hem alleen toe op AI in plaats van op persoonsgegevens.

Geschreven door: Ben Meints

Begin met een inventaris

De eerste stap is simpel op papier en lastig in de praktijk: een overzicht van alle AI in je organisatie. Per toepassing wil je weten:

• Wat doet het?
• Waarom gebruiken we het?
• Wie is de eigenaar?
• Welke data gaat erin en waar wordt die verwerkt?

De AI Act werkt, net als de AVG, met risiconiveaus. Toepassingen die raken aan gezondheid, financiële dienstverlening of beslissingen die iemands leven of loopbaan beïnvloeden, vallen in de hogere categorieën en vragen om extra waarborgen, zoals een mens die meekijkt en de eindbeslissing neemt. Voor het gros van de toepassingen geldt: het mag, mits gedocumenteerd en begrepen. In onze praktijk zien we vrijwel elke toepassing uiteindelijk goedgekeurd worden.

Er valt meer onder de AI Act dan je denkt

De aandacht gaat nu naar generatieve AI en agents. Maar de AI Act dekt ook machine learning en geautomatiseerde besluitvorming die al jaren in je omgeving draait. Denk aan de virusscanner of de beveiligingssoftware op je laptops: die gebruikt al tien tot vijftien jaar machine learning om verdachte bestanden te herkennen. Je gaat dat niet uitzetten, maar het hoort wel in je inventaris, met een korte notitie: dit is bekend, laag risico, verwacht gedrag.

Dat brengt ons bij een belangrijke waarschuwing: overdrijf niet. Het is makkelijk om zoveel governance op te tuigen dat elk AI-project maanden stilligt. Maak onderscheid. Bestaande machine learning in een securitytool: licht toetsen en loggen. Een complex systeem van samenwerkende agents een serieus gesprek. Werk met de vaste patronen die we in de blog over het veilig inzetten van AI-agents beschreven, dan wordt het elke keer sneller.

Waar staat je data, en waar staat het model?

Je Microsoft-tenant staat waarschijnlijk in de EU. Dat weet je. Maar waar draait het AI-model dat je data verwerkt? Dat is een andere vraag, en het antwoord is vaak: niet in Europa, zeker bij de nieuwste modellen. Bovendien gebruiken veel AI-diensten op hun beurt weer andere modellen of sub-verwerkers. Is dat allemaal binnen de EU?

De AVG en je andere verplichtingen blijven gewoon gelden, ook als het AI is. Neem dit dus mee in je inventaris en controleer de instellingen van je eigen platformen (lees ook: Van Shadow AI naar veilig AI-gebruik in vier stappen).

Je leveranciers gebruiken ook AI

Steeds meer software- en securityleveranciers bouwen AI in hun producten. De meeste leveranciersbeoordelingen bevatten nog geen vragen over AI. Werk samen met inkoop, juridische zaken en compliance en neem AI op in je bestaande leveranciersbeoordeling (third party risk management). De vragen die ertoe doen:

1. Gebruik je AI in de dienst die je ons levert? Zo ja, waarvoor?
2. Welke modellen gebruik je, en van welke partij?
3. Welke van onze data wordt door die AI verwerkt?
4. Waar wordt die data verwerkt en opgeslagen?
5. Is onze data afgeschermd van andere klanten en van het trainen van modellen?
6. Hoe informeer je ons als er nieuwe AI-functionaliteit bijkomt?

Niet elke leverancier zal meteen een goed antwoord hebben. Dat is geen reden om de vraag niet te stellen.

Leg het vast en houd het bij

Zet de antwoorden in je contract of dienstverleningsovereenkomst: welke platformen, waar opgeslagen, wat in scope is. Je gaat als klant niet het datacenter van je leverancier auditen; wat je wél kunt, is afspraken op papier zetten waar de leverancier aan gehouden is.

De belangrijkste afspraak is die laatste vraag uit de lijst: een mechanisme om wijzigingen te melden. We zien regelmatig dat een project start, en dat de leverancier twee maanden later een AI-functie toevoegt die in de oorspronkelijke afspraken niet bestond. Dan moet het opnieuw langs je AI-forum. Een jaarlijkse herbeoordeling is het minimum; je inventaris wordt meer dan ooit een levend document.