Navigeren door de EU AI Act: Hoe Explainable AI de Regulatory Compliance vereenvoudigt

Navigeren door de EU AI Act: Hoe Explainable AI de Regulatory Compliance vereenvoudigt

AI heeft ervoor gezorgd dat we op een belangrijk kruispunt in het digitale tijdperk zijn aangekomen. Voornamelijk de recente ontwikkelingen op het gebied van generatieve Artificiële intelligentie (AI) zal de nabije toekomst sterk vormgeven. Deze vooruitgang biedt ongelooflijke kansen maar brengt eveneens complexe uitdagingen met zich mee: een daarvan is te vinden in het gebied van naleving en regelgeving, waar rechtsinstanties over de hele wereld wetten uitvaardigen om het gebruik en de toepassing van AI-technologieën te beteugelen.

Een uitstekend voorbeeld hiervan is de Artificial Intelligence Act (AIA) van de Europese Unie: een alomvattend regelgevingskader dat tot doel heeft om het ethische en verantwoorde gebruik van AI te waarborgen. In dit artikel navigeren we door de complexiteit van de EU AIA en werpen we licht op de rol van Explainable AI (XAI) als reactie op zowel het vereenvoudigen als het waarborgen en naleven van de opgelegde regelgeving. We duiken in de essentie van XAI, welke voordelen het biedt en de uitdagingen die zich voordoen bij de implementatie ervan. Daarnaast gaan we ook dieper in op de implicaties van de EU AIA op de toekomstige wereldwijde AI-industrie.

De EU AI Act begrijpen

The European Union Artificial Intelligence Act (EU AIA) is een baanbrekende legislatieve inspanning die tot doel heeft een alomvattend kader vast te stellen voor het omgaan met AI-systemen in de Europese Unie. De AI-wet, geïntroduceerd in 2021, heeft als belangrijkste doel ervoor te zorgen dat AI-technologieën ethisch, verantwoord en in overeenstemming met de grondrechten en maatschappelijke waarden van de EU wordt gebruikt. Het is ontworpen om een evenwicht te vinden tussen de noodzaak om AI-innovatie te bevorderen en de noodzaak om de risico’s die het kan veroorzaken voor individuen en de samenleving aan te pakken.

Waarom is deze AI-regelgeving nodig?

Het is simpelweg een feit dat AI-systemen diep in ons leven zijn geïntegreerd en beslissingen beïnvloeden op uiteenlopende gebieden waaronder gezondheidszorg, bankieren, werkgelegenheid en nog veel meer. Hoewel deze systemen ongelooflijke voordelen bieden, kunnen ze een enorme impact uitoefenen in hun werkgebied, waarvan sommige schadelijk of discriminerend kunnen zijn. De EU AIA is een antwoord op deze zorgen en heeft tot doel een wettelijk kader tot stand te brengen zodat transparantie, verantwoordingsplicht en bescherming van individuele rechten bevordert worden in het licht van de steeds groeiende invloed van AI.

De Risk-based Aanpak van de AI Regulatie

Een van de belangrijkste kenmerken van de EU AIA is de risicogebaseerde benadering van AI-regelgeving. De wet categoriseert AI-systemen in vier risiconiveaus:

  1. Onaanvaardbaar risico: AI-systemen die een duidelijke bedreiging vormen voor de veiligheid, het levensonderhoud en de grondrechten vallen in deze categorie. Ze worden als onaanvaardbaar beschouwd en zijn daarom ronduit verboden. Deze categorie kan bijvoorbeeld bestaan uit AI-systemen die menselijk gedrag manipuleren of kwetsbaarheden van specifieke groepen uitbuiten op een manier die kan leiden tot fysieke of psychische schade.
  2. Hoog risico: AI-toepassingen in deze categorie hebben een aanzienlijk potentieel om schade of nadelige effecten te veroorzaken vanwege hun betrokkenheid bij kritieke sectoren. Ze omvatten AI die wordt gebruikt in kritieke infrastructuur, onderwijs en beroepsopleiding, werkgelegenheid, essentiële particuliere en openbare diensten, wetshandhaving, migratie, asiel en grenscontrole, en rechtsbedeling. Deze risicovolle systemen zijn onderworpen aan strikte wettelijke verplichtingen voordat ze kunnen worden ingezet.
  3. Beperkt risico: Deze categorie omvat AI-systemen die een duidelijk maar beheersbaar risico vormen. Deze systemen vereisen specifieke transparantieverplichtingen om ervoor te zorgen dat gebruikers zich ervan bewust zijn dat ze interactie hebben met een AI.
  4. Minimaal risico: het overgrote deel van de AI-toepassingen valt onder deze categorie, waarbij het risico voor veiligheid en grondrechten als minimaal wordt beoordeeld. Deze toepassingen zijn niet onderworpen aan specifieke wettelijke verplichtingen onder de EU AIA, waardoor innovatie wordt bevorderd.

Deze risicocategorieën binnen de EU AI regelgeving zorgen ervoor dat de potentiële schade van AI-systemen proportioneel wordt aangepakt. Hierdoor ontstaat er een veiligere en betrouwbaardere omgeving dankzij de inzet en het gebruik van het wettelijke kader.

Recente ontwikkelingen in de EU AIA: uitbreiding van de reikwijdte en versterking van de naleving

Op 11 mei 2023 is de AI-wet van de EU aangenomen door de Commissie Interne Markt en de Commissie Burgerlijke Vrijheden, met een stemresultaat van 84 voor, 7 tegen en 12 onthoudingen. Een onbetwistbare meerderheid die zowel de urgentie van de situatie als de relevantie van de voorgestelde wetgeving aantoont.

De wet breidt de classificatie van gebieden met een hoog risico uit tot schade aan de gezondheid, veiligheid, grondrechten of het leefmilieu van mensen. Zo zijn AI-systemen die kiezers beïnvloeden in politieke campagnes en aanbevelingssystemen die worden gebruikt door sociale mediaplatforms met meer dan 45 miljoen gebruikers, toegevoegd aan de lijst met hoge risico’s.

De wet bevat verplichtingen voor aanbieders van AI-infrastructuren, zoals ChatGPT. Zodat er een robuuste bescherming van grondrechten, gezondheid en veiligheid, milieu, democratie en rechtsstaat plaatsvindt. Het moet risico’s beoordelen en beperken, voldoen aan ontwerp-, informatie- en milieueisen en er heerst een registratieplicht in de EU-database. Daarnaast moet er ook voldaan worden aan aanvullende transparantievereisten, zoals bekendmaken dat de inhoud door AI is gegenereerd. Verder moet het model ontworpen worden op zo een manier dat het geen illegale inhoud kan genereren of samenvattingen kan publiceren die auteursrechtelijk beschermd zijn.

Om de AI-innovatie te stimuleren, heeft de wet vrijstellingen toegevoegd voor onderzoeksactiviteiten en AI-componenten die worden geleverd onder open-sourcelicenties. Het promoot ook regelgevende sandboxes, of gecontroleerde omgevingen, die door de overheid zijn opgezet om AI te testen vooraleer deze aan het grote publiek worden blootgesteld. De wet versterkt ook het recht van burgers om klachten over AI-systemen in te dienen en uitleg te krijgen over beslissingen die gaan over risicovolle AI-systemen die hun rechten aanzienlijk kunnen beïnvloeden.

De corapporteurs van de wet, Brando Benifei en Dragos Tudorache, hebben het vertrouwen uitgesproken dat deze wet een evenwicht biedt tussen de bescherming van de grondrechten van burgers en de noodzaak om bedrijven rechtszekerheid te bieden met als einddoel innovatie te stimuleren in de Europese Unie. Ze benadrukken hoe belangrijk het is om het vertrouwen van de burgers voorop te stellen in de ontwikkeling van AI en dat de EU het voortouw kan nemen om de AI-technologie mensgericht, betrouwbaar en veilig te maken.

De volgende stap voor de wet is de goedkeuring door het hele Europees parlement, waarbij de stemming wordt verwacht tijdens de zitting van 12-15 juni.

PTC erkent het belang van de EU AIA en onderschrijft de AI-regelgeving volledig. Reeds vele jaren zijn wij actief in de ontwikkeling van het data- en AI-landschap en onze focus ligt op het proactief reageren op deze veranderingen en het aanmoedigen van organisaties om hetzelfde te doen. Een belangrijk onderdeel van onze strategie is een aanzienlijke investering in XAI-kennis. De XAI naleving van de regelgeving namelijk als kompas dienen voor organisaties om zich door het labyrint van de AIA te navigeren.

Het belang van Explainable AI (XAI)

In een wereld die steeds meer door AI wordt aangestuurd, is het vermogen om de beslissingen van AI-systemen te begrijpen en te interpreteren cruciaal geworden. Dit heeft geleid tot de opkomst van XAI, een vakgebied dat ernaar streeft AI decision-making transparant en verstaandbaar te maken. Terwijl we door de complexiteit van de EU AIA navigeren, wordt de rol van XAI zelfs nog belangrijker.

Wat is XAI? Welke rol heeft het?

XAI verwijst naar methoden en technieken bij de toepassing van AI waarbij de resultaten van de oplossing kunnen worden verantwoord voor menselijke experts. Het is een uitloper van AI gericht op het creëren van een duidelijk, begrijpelijk pad tussen gegevensinvoer en -uitvoer, waardoor transparantie wordt bevorderd.

De transparantie die door XAI wordt geboden, is van cruciaal belang voor het handhaven van de verantwoordingsplicht in AI-systemen. Wanneer een AI-systeem een voorspelling doet, met name een voorspelling met aanzienlijke gevolgen, is het belangrijk voor gebruikers, toezichthouders en betrokken partijen om te begrijpen hoe die beslissing tot stand is gekomen. Door duidelijke, toegankelijke uitleg van AI-processen te geven, maakt XAI zinvol menselijk toezicht en verantwoording mogelijk.

XAI en naleving van regelgeving onder de EU AIA

XAI is niet alleen een handige functie; het is een cruciale vereiste voor naleving van de regelgeving onder de EU AIA, vooral maar niet alleen voor AI-systemen met een hoog risico. De EU AIA schrijft voor dat AI-systemen met een hoog risico duidelijke en begrijpelijke informatie moeten verstrekken over hun mogelijkheden en beperkingen, en dat hun besluitvormingsproces transparant en traceerbaar moet zijn. Zonder XAI toe te passen, zou het voldoen aan deze vereisten niet alleen een uitdaging zijn, maar ook bijna onhaalbaar.

Bedrijven die op AI-oplossingen inzetten, zoals klantenservice-chatbots en productaanbevelingssystemen, vallen volgens de EU AIA onder de categorie “beperkt risico”. Dergelijke bedrijven zijn verplicht om voor transparantie te zorgen door duidelijk aan te geven wanneer gebruikers interactie hebben met een AI-systeem en hen correct te informeren over de mogelijkheden en beperkingen van deze systemen.

Hoewel de meer rigoureuze regelgeving niet van toepassing is op AI-systemen met “beperkt risico”, is PTC ervan overtuigt dat het ook voor deze bedrijven uitermate interessant is om XAI te gebruiken. Hierdoor kunnen organisaties bijvoorbeeld inzicht krijgen in hoe hun AI-systemen tot beslissingen komen en specifieke aanbevelingen doen aan hun klanten. Met XAI kunnen bedrijven hun AI-systemen verfijnen en ervoor zorgen dat ze aansluiten bij de bedrijfsdoelstellingen, de verwachtingen van de klant en de wettelijke richtlijnen. Samenvattend is zelfs in de context van “beperkt risico”, het gebruik van XAI duidelijk voordelig om de bedrijfsprestaties en klanttevredenheid kunnen verbeteren.

Voordelen van XAI

Hoewel het belang van XAI voor naleving van de regelgeving duidelijk is, reiken de voordelen van het gebruik ervan veel verder. Het omarmen van XAI kan aanzienlijke voordelen opleveren, zowel voor organisaties die AI-systemen inzetten als voor de personen die ermee te maken krijgen:

In wezen gaat het bij het toepassen van XAI niet alleen om het voldoen aan wettelijke vereisten, het gaat erom de kracht van AI op een verantwoorde en effectieve manier te benutten, wat leidt tot betere eindresultaten voor alle betrokken partijen.

Email Banner On demand webinar XAI MLI Positive Thinking Company
Email Banner On demand webinar XAI MLI Positive Thinking Company

Praktijkvoorbeeld: voldoen aan de EU AIA-vereisten met behulp van XAI-technieken

Neem nu een AI-systeem met hoog risico dat wordt gebruikt bij wervingsprocessen. Dit systeem zal een enorme hoeveelheid gegevens analyseren – waaronder de kwalificaties, ervaring, vaardigheden en antwoorden van sollicitanten – om zo de meest geschikte kandidaten voor een vacature aan te bevelen.

Door gebruik te maken van XAI-technieken kan het systeem zijn aanbevelingen duidelijk uitleggen. Het zou bijvoorbeeld kunnen benadrukken dat het een kandidaat heeft voorgesteld omdat hun vaardigheden en ervaring nauw aansluiten bij de functie-eisen. Als het systeem een kandidaat afwijst, kan het de factoren verklaren die bijdragen aan deze beslissing, zoals een gebrek aan noodzakelijke vaardigheden of ervaring.

Of in het ongewenste geval, en zoals we in het verleden hebben gezien, werden hoogopgeleide mensen afgewezen terwijl hun vaardigheden perfect aansloten bij de functie-eisen. Het AI-rekruteringssysteem nam zijn beslissing op basis van geslacht omdat vergelijkbare functies in het verleden door mannen werden vervuld en het AI-systeem ‘dacht’ dat geslacht belangrijk was voor de beslissing. Zonder XAI-technieken had het bedrijf dit (ernstige) probleem niet kunnen achterhalen en discriminatie op grond van geslacht toegestaan.

Op deze manier stelt XAI de organisatie in staat om transparantie en verantwoording aan te tonen, zoals vereist door de EU AIA, terwijl het ook waardevolle inzichten biedt die kunnen gebruikt worden om het AI-systeem, alsook het wervingsproces, te verbeteren.

Uitdagingen bij het implementeren van XAI voor EU AIA-naleving

Het is een feit dat XAI veel uitdagingen met zich meebrengt. Van technische problemen tot personeelsvereisten, organisaties zullen verschillende obstakels moeten overwinnen om XAI met succes te implementeren.

De belangrijkste uitdagingen van XAI begrijpen

Hoewel de voordelen van XAI onmiskenbaar zijn, kunnen organisaties bij de implementatie met verschillende uitdagingen worden geconfronteerd:

  1. Modelcomplexiteit versus interpreteerbaarheid: XAI probeert AI-besluitvorming transparant en begrijpelijk te maken, maar dit doel kan op gespannen voet staan met de complexiteit van geavanceerde AI-modellen. Deep learning-modellen staan bijvoorbeeld bekend om hun nauwkeurigheid, maar zijn notoir moeilijk te interpreteren.
  2. Behoud van prestaties: Het bereiken van verklaarbaarheid gaat vaak ten koste van de prestaties. Eenvoudigere, beter interpreteerbare modellen presteren mogelijk niet zo goed als hun complexe tegenhangers. Het balanceren van de behoefte aan uitleg met het verlangen naar goed presterende modellen kan een delicate handeling zijn.
  3. Gebrek aan standaardisatie: XAI is een relatief nieuw veld en er is een gebrek aan standaarddefinities en -methoden. Dit kan het voor organisaties moeilijk maken om te weten welke aanpak ze moeten volgen en hoe ze hun succes kunnen meten.
  4. Gegevensprivacy: XAI-technieken vereisen vaak toegang tot meer gedetailleerde gegevens om uitleg te geven. Dit kan leiden tot bezorgdheid over de privacy, met name in sectoren die te maken hebben met gevoelige informatie.
  5. Resourcevereisten: Het ontwikkelen en implementeren van XAI-oplossingen vereist een team van goed opgeleide Machine Learning (ML) Engineers en Data Scientists. Het vinden en behouden van dergelijk talent kan een uitdaging zijn.

De afweging tussen interpretatiebaarheid en modelcomplexiteit

Een van de belangrijkste uitdagingen in XAI is de afweging tussen modelcomplexiteit en interpreteerbaarheid. Complexe modellen, zoals diepe neurale netwerken, kunnen ingewikkelde patronen in gegevens vastleggen en leveren vaak superieure prestaties. Hun innerlijke werking kan echter moeilijk te interpreteren zijn, vergeleken met een ‘zwarte doos’. Aan de andere kant zijn eenvoudigere modellen zoals beslissingsbomen of lineaire regressie beter interpreteerbaar, maar presteren ze mogelijk minder goed bij complexe taken.

De uitdaging voor organisaties is om een balans te vinden: AI-modellen ontwikkelen die zowel krachtig genoeg zijn om nauwkeurige resultaten te leveren als eenvoudig genoeg om begrijpelijk te zijn. Dit kan met behulp van een hybride benaderingen, het ontwikkelen van nieuwe XAI-technieken of het accepteren van bepaalde compromissen in prestaties of uitlegbaarheid.

De behoefte aan bekwame ML-ingenieurs, Data Scientists en AI Solution Architects

Het implementeren van XAI is niet alleen een technische uitdaging, het is ook een menselijke uitdaging. Het ontwerpen, ontwikkelen, implementeren en onderhouden van XAI-projecten vereist een team van bekwame AI-oplossingsarchitecten, ML-ingenieurs en datawetenschappers. Deze professionals moeten niet alleen AI en ML begrijpen, maar ook de principes van XAI en de wettelijke vereisten van de EU AIA.

De vraag naar dergelijke professionals is echter vaak groter dan het aanbod en de concurrentie om talent kan hevig zijn. Organisaties zullen moeten investeren in training en ontwikkeling, of moeten samenwerken met externe experts, om de vaardigheden op te bouwen die nodig zijn voor een succesvolle XAI-implementatie.

Zelfs met de uitdagingen die het met zich meebrengt, positioneren de voordelen van XAI op het gebied van naleving van regelgeving, risicobeperking en het opbouwen van vertrouwen het als een waardevolle investering voor organisaties die AI-systemen gebruiken.

Toekomstige implicaties en kansen

Als we naar de toekomst kijken, is het duidelijk dat de acceptatie en implementatie van XAI verreikende implicaties en kansen zal hebben, niet alleen binnen de Europese Unie maar wereldwijd. De AIA heeft niet alleen invloed gehad op de AI-industrie binnen haar rechtsgebied, maar heeft ook rimpelingen over de hele wereld veroorzaakt en de marktdynamiek en het regelgevingslandschap van AI beïnvloed.

De impact van EU AIA op de wereldwijde marktdynamiek

Het AI-landschap is aanzienlijk gevormd door de EU AIA, wat heeft geleid tot een nieuwe vorm van de mondiale marktdynamiek. Dit is het duidelijkst te zien aan het schril contrast tussen de verschillende interpretaties van AI-regelgeving in de Verenigde Staten (VS), China en de EU.

Jarenlang hadden de VS een laissez-faire-benadering van AI-regelgeving, wat een weerspiegeling was van een algemene onwil van zowel wetgevers als technische giganten. De toenemende impact van ongereguleerde sociale media en de enorme kracht van AI Large Language Models (LLM’s) hebben echter de dringende behoefte aan toezicht benadrukt. Dit heeft geleid tot een evolutie in de houding van zowel industriefiguren als wetgevers, waaronder prominente stemmen zoals Sam Altman (CEO van OpenAI), hoewel we zijn ware bedoelingen niet kunnen kennen, die pleiten voor AI-regulering en de vorming van internationale normen.

Ondanks verschillende pogingen om regulering in te voeren, waaronder wetsvoorstellen als de Algorithmic Accountability Act en de Amerikaanse Data Privacy Protection Act, blijft federale wetgeving over AI achterwege. De groeiende erkenning van de behoefte aan technische expertise bij regelgevende instanties en sterke handhavingsbevoegdheden heeft geleid tot discussies over een nieuwe digitale toezichthouder voor het toezicht op sociale-mediabedrijven. Tegenwoordig wordt tweeledige steun voor alomvattende AI-regulering als cruciaal beschouwd, met als overkoepelend doel een verantwoorde ontwikkeling en gebruik van AI.

Omgekeerd heeft China een sterke rol bij de overheid bij de regulering van AI. De Cyberspace Administration of China (CAC) heeft in april 2023 strenge regels vrijgegeven met regels waaraan AI-bedrijven zich moeten houden, waaronder de eis van beveiligingsbeoordelingen voordat een AI-model openbaar wordt gemaakt. De regelgeving, die de ontwikkeling van AI in overeenstemming brengt met de socialistische waarden van China, houdt AI-bedrijven verantwoordelijk voor de informatie die door hun software wordt gegenereerd.

De verschillen in AI-regelgeving tussen deze wereldspelers creëren een complexe en dynamische wereldmarktomgeving, die concurrentie en innovatie aanwakkert, maar ook zorgen baart over privacy, ethiek en maatschappelijke schade.

Aangezien het regelgevingslandschap blijft evolueren, zal het voor bedrijven van cruciaal belang zijn om niet alleen aan deze regelgeving te voldoen, maar ook te begrijpen hoe ze XAI kunnen gebruiken om een concurrentievoordeel te behalen of mogelijke nadelen te verminderen.

Key Takeaways

  1. EU-regelgeving: de EU AIA is een alomvattend regelgevingskader voor AI-systemen in de Europese Unie. Het categoriseert AI-systemen in drie risiconiveaus: onaanvaardbaar, hoog risico en laag tot minimaal risico. Elk niveau heeft andere vereisten, waarbij AI-systemen met een hoog risico moeten voldoen aan strikte regels met betrekking tot transparantie, menselijk toezicht en robuustheid.
  2. Risico’s van niet-naleving van EU AIA: Niet-naleving van de EU AIA kan leiden tot aanzienlijke boetes, waaronder boetes tot 6% van de wereldwijde jaaromzet, reputatieschade, verlies van vertrouwen van de klant en operationele verstoringen als gevolg van handhavingsmaatregelen.
  3. Belang van XAI: XAI is cruciaal voor transparantie en verantwoording in AI-systemen. Het helpt bij het begrijpen van het besluitvormingsproces van AI-modellen, wat belangrijk is voor naleving van de regelgeving, het opbouwen van vertrouwen en het verbeteren van modelprestaties. Het dient ook als een hulpmiddel om te voldoen aan de EU AIA-regelgeving, zoals blijkt uit het hypothetische geval van een bank die XAI gebruikt om uitleg te geven over leningbeslissingen.
  4. Uitdagingen bij het implementeren van XAI: Bedrijven worden geconfronteerd met verschillende uitdagingen bij het implementeren van XAI, waaronder de afweging tussen modelcomplexiteit en interpreteerbaarheid, de behoefte aan goed opgeleide AI-oplossingsarchitecten, ML-engineers en datawetenschappers, en technische problemen bij het bereiken van verklaarbaarheid zonder concessies te doen aan de prestaties.
  5. Wereldwijde impact van EU AIA: De EU AIA heeft het potentieel om de wereldwijde AI-industrie en marktdynamiek te beïnvloeden, gezien de verreikende implicaties en het mondiale karakter van veel technologiebedrijven. Er zijn opmerkelijke verschillen in benaderingen van AI-regulering tussen de EU, de VS en China, wat kan leiden tot geopolitieke spanningen.
  6. Kansen en uitdagingen met XAI: Het omarmen van XAI kan concurrentievoordelen opleveren, zoals meer vertrouwen, naleving van regelgeving, verbeterde besluitvorming en klantbetrokkenheid. Het brengt echter ook uitdagingen met zich mee, zoals het managen van modelcomplexiteit, het waarborgen van gegevensprivacy, het dragen van de kosten en tijd voor implementatie, het omgaan met een beperkte pool van XAI-experts en het navigeren door onzekerheid over regelgeving.

NB: Deze inhoud is tot stand gekomen met behulp van generatieve AI, onder begeleiding van onze auteurs.

Newsletter Subscription