AI biedt veel kansen in HR: van CV-screening tot het automatisch genereren van functiebeschrijvingen. Maar tegelijk brengt het risico’s met zich mee: vooroordelen in de data, gebrek aan transparantie, of zelfs onbedoelde discriminatie. De EU AI Act is daarom in het leven geroepen om risico’s in kaart te brengen en verantwoord gebruik af te dwingen.

De EU AI Act maakt een onderscheid tussen vier risiconiveaus, afhankelijk van de toepassing (niet afhankelijk van de tool!). Het maakt dus vooral uit wat je doet met AI, niet of je met ChatGPT werkt of een ander model gebruikt.

Hieronder een handig visueel overzicht van de risiconiveaus:

Als je AI gebruikt om beslissingen te nemen over mensen, zoals wie doorgaat in de selectieprocedure, wie toegang krijgt tot een opleiding of wie als high potential wordt gemarkeerd, dan val je binnen het “hoog risico”-kader van de AI Act. En daar horen extra verantwoordelijkheden bij.

Een greep uit de verwachtingen van de wetgever:

• Een risico-managementsysteem opzetten: je moet kunnen aantonen dat je begrijpt wat de risico’s zijn van je toepassing én hoe je die monitort.
• Een verantwoordelijke aanstellen: vaak wordt dit opgepikt door een multidisciplinair AI-board (bijv. met mensen uit HR, IT, legal en business).
• Transparantie garanderen: betrokkenen moeten weten dat AI een rol speelt, bijvoorbeeld tijdens sollicitatieprocedures.

In veel gevallen is het vooral een kwestie van goed nadenken en goed documenteren, niet van ingewikkelde compliance checklists afvinken.

AI in HR klinkt vaak als een efficiënte oplossing, maar zonder kritisch toezicht kan het ongewenste of zelfs schadelijke resultaten opleveren, ook al was de bedoeling goed.

Voorbeeld: het ‘perfecte profiel’ als uitgangspunt

Stel: je ontwikkelt een AI-model om sollicitaties te screenen. Om het systeem te trainen, gebruik je historische data van succesvolle kandidaten. Daaruit blijkt dat mensen die goed scoorden in het verleden:

• een masterdiploma hebben,
• minstens 3 jaar werkervaring hebben,
• en vloeiend Nederlands schrijven.

Het model leert dus: “Wie op die kenmerken lijkt, scoort goed.” Klinkt logisch… tot je beseft wat er niet in de data zit:

• Kandidaten die nooit zijn uitgenodigd omdat ze “te junior” waren
• Profielen met sterke competenties, maar minder traditionele loopbanen
• Iedereen die ooit is uitgesloten door bias bij de eerste screening

Het resultaat? Je AI versterkt onbewust de blinde vlekken van vroeger. Je werft telkens hetzelfde profiel aan en sluit waardevolle, diverse stemmen uit. En dat zonder dat je het meteen merkt.

Je hoeft geen data scientist te zijn om vandaag al stappen te zetten richting veilige AI in HR. Tijdens het webinar deelde Jos enkele laagdrempelige acties die elke HR-professional kan nemen:

1. Maak een inventaris van je AI-use cases

Welke toepassingen gebruik je vandaag al (bijv. voor vacatureteksten, interne mobiliteit, rapportages…)? En vallen die onder low, medium of high risk?

2. Start met low-risk toepassingen

AI is ideaal voor taken zoals standaardcommunicatie opstellen of gestructureerde info halen uit ongestructureerde data (zoals bepaalde data uit CV’s of motivatiebrieven halen). Daar kan je mee experimenteren zonder veel risico.

3. Stel kritische vragen aan leveranciers

Ben jij “provider” (= de partij die het AI-systeem ontwikkelt of bouwt) of “deployer” (= de partij die het AI-systeem gebruikt of implementeert binnen een organisatie)?

De meeste HR-teams zijn deployer. Je koopt een tool aan of stelt een AI-systeem in, maar ontwikkelt het niet zelf. Toch ben je volgens de AI Act wél mee verantwoordelijk voor hoe het systeem zich gedraagt en welke impact het heeft. Vraag dus aan je leverancier:

• Welke data werd gebruikt?
• Hoe wordt bias gemonitord?
• Hebben ze een ISO-certificaat voor AI-risk?

Tip: gebruik de AI Act Explorer als leidraad om je risico’s te analyseren.

De EU AI Act klinkt misschien complex, maar de basisprincipes zijn herkenbaar: weet wat je doet, communiceer eerlijk, en neem verantwoordelijkheid. AI in HR hoeft geen black box te zijn, zolang je er met gezond verstand en een kritische blik mee omgaat.

“Begin klein,” adviseerde Jos. “En bouw van daaruit verder op. Dat is bijna altijd beter dan te wachten op het perfecte systeem.”

Laat je inspireren door het verhaal van Yields en ontdek hoe ook jouw organisatie waarde kan halen uit HR-data. Wil je zelf aan de slag met het onderzoeken van jouw HR-data? Contacteer ons.

Of wil je nog meer inspiratie over HR-analytics? Schrijf je dan zeker in voor onze tweemaandelijkse nieuwsbrief met tips en trends over HR-analytics of ons tweemaandelijks gratis webinar.