Gisteren nam ik deel aan een gesprek met een groep AI-aanbieders die onder de hoog-risico categorie van de AI Act vallen. Het onderwerp van de bijeenkomst (georganiseerd door AI Coalitie 4 Nederland | AIC4NL) was helder: hoe voldoen we aan de AI Act, die nog zoveel onduidelijkheden kent.
We spraken over bias, fairness, logging, menselijke controle, uitlegbaarheid, documentatie en governance. Allemaal belangrijke onderwerpen.
Maar na een uur viel me iets op. Niemand had het nog over het probleem dat AI eigenlijk moet oplossen. En precies daar begon het voor mij interessant te worden.
Want hoe langer we doorpraatten, hoe meer nieuwe vragen er ontstonden.
Hoeveel logging is genoeg?
Hoe ver moet je een beslissing kunnen reconstrueren als een AI-systeem continu verandert? In ons geval veranderen profielen, vacatures en vaardigheden iedere dag. Een match van gisteren is daardoor letterlijk niet meer dezelfde match als vandaag. Hoe ver moet je dan terug kunnen uitleggen waarom een score destijds precies zo was?
Of neem uitlegbaarheid. Wij berekenen een match op basis van tientallen variabelen. Natuurlijk kunnen we inzicht geven in de belangrijkste factoren. Maar kunnen we de volledige berekening in één oogopslag begrijpelijk maken? Nee. Daarvoor is de werkelijkheid simpelweg te complex.
En dan de menselijke controle. De AI Act vraagt terecht om human oversight. Maar wat betekent dat in de praktijk? Moet een mens iedere berekening controleren? Iedere aanbeveling? Of alleen de uiteindelijke beslissing? Dat antwoord hangt volledig af van de toepassing en het risico.
Op veel van dit soort vragen bestaat vandaag nog geen eenduidig antwoord.
Dat is ook logisch. De AI Act is nieuw. De praktijk ontwikkelt zich sneller dan de regelgeving. Leveranciers, gebruikers en toezichthouders zijn allemaal nog aan het ontdekken wat straks ‘goed genoeg’ is.
En precies dat zette me aan het denken.
Misschien stellen we de verkeerde vraag.
We proberen AI steeds beter uit te leggen. Steeds transparanter te maken. Steeds eerlijker. Alsof er ooit een punt komt waarop niemand er meer bang voor is.
Maar bestaat dat punt eigenlijk wel? Ik denk van niet.
Niet omdat AI nooit goed genoeg wordt. Maar omdat angst nooit helemaal verdwijnt.
De vraag is dus misschien niet hoe we alle risico’s van AI wegnemen. De vraag is of we voldoende oog hebben voor de risico’s van de manier waarop we het vandaag doen.
Want laten we eerlijk zijn.
Recruiters nemen iedere dag beslissingen die nauwelijks uitlegbaar zijn.
Waarom werd kandidaat A uitgenodigd en kandidaat B niet? Welke aannames speelden mee? Welke onbewuste vooroordelen? Waarom gaf iemand meer vertrouwen aan een bekend cv dan aan een onbekend talent?
Dat weten we vaak zelf niet eens. En toch accepteren we dat.
We weten bovendien dat het huidige systeem niet perfect is. Mensen worden afgewezen vanwege hun naam. Vanwege hun leeftijd. Vanwege een gat in hun cv. Omdat een recruiter simpelweg geen tijd had om alle sollicitaties goed te bekijken.
Ondertussen blijven vacatures maanden openstaan. Recruiters verdrinken in cv’s. Organisaties vinden de mensen niet die ze nodig hebben. En duizenden mensen met talent blijven onzichtbaar.
Dat is óók schade. Sterker nog, misschien is dat wel de grootste schade die we vandaag accepteren.
AI is geen wondermiddel. AI maakt fouten. AI kent risico’s.
Daar moeten we kritisch op blijven. Terecht.
Maar misschien leggen we AI inmiddels wel een hogere morele lat op dan mensen.
Waarom verwachten we van een algoritme dat iedere beslissing volledig uitlegbaar, reproduceerbaar en objectief is, terwijl we diezelfde eisen al decennialang niet stellen aan menselijke beslissingen?
Dat betekent niet dat de AI Act te streng is. Integendeel.
Ik denk dat de AI Act ons helpt betere systemen te bouwen. Veiliger. Transparanter. Zorgvuldiger.
Maar uiteindelijk ontstaat vertrouwen niet doordat iedere checkbox is afgevinkt.
Vertrouwen ontstaat wanneer mensen ervaren dat een systeem een probleem oplost dat we zelf al jaren niet opgelost krijgen.
Misschien moeten we daarom de discussie verbreden. Niet alleen vragen hoe veilig AI is. Maar ook hoe veilig het is om alles te laten zoals het nu is.
Want als AI mensen zichtbaar maakt die vandaag over het hoofd worden gezien, discriminatie helpt verminderen, recruiters ondersteunt in plaats van vervangt en organisaties helpt om talent beter te benutten, dan moeten we misschien een andere vraag stellen.
Niet: ‘Wanneer is AI perfect?’
Maar: Wanneer vertrouwen we AI méér dan de manier waarop wij het vandaag zelf doen?
Ik vermoed dat dát uiteindelijk de vraag is waar de AI Act ons naartoe duwt. Niet een juridische vraag, maar een maatschappelijke.
Laurens Waling | Chief Evangelist | 8vance
