Artificiële intelligentie (AI) en robotic process automation (RPA) ontwikkelen zich in een rap tempo. Enerzijds bieden AI en RPA een breed scala aan nieuwe mogelijkheden en kansen. Anderzijds klinkt de roep om regulering en wetgeving tegen gevaren en risico’s van kunstmatige intelligentie steeds luider. De Europese Commissie heeft inmiddels het wetsvoorstel ‘Wet op de Artificiële Intelligentie’ gepresenteerd. Deze is niet door iedereen positief ontvangen.
Met het wetsvoorstel wordt beoogd de risico’s rondom het gebruik van IA en RPA (verder) in te perken. Dit voorstel is niet door iedereen enthousiast ontvangen: recentelijk hebben verschillende grote brancheorganisaties binnen de RPA- en AI-sectoren zich in een gezamenlijke verklaring uitgesproken tegen de Europese AI-wetgeving.
Hoofdpunten wetsvoorstel
Het hoofddoel van de Europese Commissie is dat AI ‘wettig, ethisch en technisch robuust moet zijn’. Dit doel is opgesplitst in vier doelstellingen:
- Ervoor zorgen dat de AI-systemen die in de EU in de handel worden gebracht en gebruikt, veilig zijn en de bestaande wetgeving inzake grondrechten en waarden van de unie eerbiedigen;
- Rechtszekerheid garanderen om investeringen en innovatie in AI te vergemakkelijken;
- Het beheer en de doeltreffende handhaving van de bestaande wetgeving inzake grondrechten en veiligheidsvoorschriften die van toepassing zijn op AI-systemen verbeteren, en
- De ontwikkeling van een markt voor wettige, veilige en betrouwbare AI-toepassingen vergemakkelijken en marktversnippering voorkomen.
Risico’s AI
Risico’s die met het gebruik van AI gepaard gaan zijn met name fouten in het AI-systeem waardoor schade ontstaat, het systeem discriminerend werkt of privacywetgeving wordt geschonden. In de literatuur en in rapporten van het Europees Parlement en de Europese Raad wordt vooral geadviseerd om de ondoorzichtigheid, complexiteit, vertekening (bias), onvoorspelbaarheid en autonoom gedrag van bepaalde AI-systemen aan te pakken, zodat zij verenigbaar zijn met de grondrechten en om de handhaving van de wettelijke voorschriften te vergemakkelijken.’
Een pijnlijk voorbeeld van een dergelijke fout is bijvoorbeeld de welbekende ’toeslagenaffaire’ bij de belastingdienst: het algoritme dat werd ingezet om te bepalen of iemand recht heeft op kinderopvangtoeslag bleek een onderscheid te maken op basis van bepaalde kenmerken die discriminerend zijn, zoals nationaliteit. Een ander voorbeeld betreft het in 2014-2017 door Amazon gebruikte algoritme voor sollicitaties: het algoritme op basis van de input van het algoritme, had het algoritme een voorkeur voor mannelijke kandidaten. Amazon heeft nadien de selectie man/vrouw uitgeschakeld.
Governance
De Europese Commissie ziet naast de risico’s van AI ook de mogelijkheden die het biedt. Om deze kansen van AI zo min mogelijk te beperken heeft de Europese Comissie er niet voor gekozen om een zeer streng handhavingsbeleid op te stellen. Het wetsvoorstel ziet vooral op minimumvereisten om de risico’s te verminderen. Hierbij ligt de nadruk op een ‘flexibel’ rechtskader zodat deze kan meebewegen met verdere technologische ontwikkelingen. De nationale toezichthoudende autoriteiten zijn vervolgens aan zet om naleving van het wetsvoorstel te controleren en handhaven. Het onlangs geïnstalleerde kabinet Rutte IV heeft in zijn coalitieakkoord ervoor gekozen om een ‘algoritmetoezichthouder’ in het leven te roepen. Deze dient erop toe te zien dat algoritmes worden gecontroleerd op transparantie, discriminatie en willekeur. Tevens zal dit toezichthoudende orgaan regels moeten gaan ontwikkelen op het gebied van data ethiek in de publieke sector.
Praktijkgevolgen
Voor de gebruikers van AI kan de wetgeving ook gevolgen hebben voor hun dagelijkse werkzaamheden. Een gebruiker van een AI-systeem moet volgens het wetsvoorstel uit kunnen leggen hoe het AI-systeem werkt, welke huidige en toekomstige risico’s het systeem met zich brengt en dient bovendien geschikte risicobeheersingsmaatregelen op te stellen. Hierdoor wordt de drempel voor het gebruik opgeschroefd. De brancheorganisaties stellen zich in hun gezamenlijke verklaring op het standpunt dat deze belastende voorschriften ervoor zullen zorgen dat de technische innovatie zal worden vertraagd en hiermee de internationale concurrentiepositie van de Europese markt zal verslechteren. Bovendien stellen zij dat de ‘kleine’ bedrijven en fabrikanten die gebruikmaken van robotica en AI hard zullen worden geraakt. Het gebruik van AI kan hen namelijk de mogelijkheid bieden om het groeiende personeelstekort op te vangen. Indien het gebruik hiervan wordt bemoeilijkt zou dit ertoe kunnen leiden dat de productie van een dergelijk bedrijf lager komt te liggen.
Toekomst
Momenteel buigt de Europese Raad zich over het wetsvoorstel van de Europese Commissie. De onderhandelingen in de Europese Raad vinden plaats onder leiding van de commissie Interne markt en consumenten bescherming en de LIBE Commissie (fundamentele vrijheden). Naar verwachting zullen de onderhandelingen in april 2022 worden afgerond waarna de stemming over het voorstel in de raad gepland staat op 29 september 2022.
Conclusie
De ontwikkeling van AI houdt de gemoederen bezig. Europa zet via dit wetsvoorstel een wereldwijde standaard en is voorloper op het gebied van AI-wetgeving om de risico’s van AI in te dammen. De kans dat regulering de groei van AI en RPA binnen Europa vertraagt is aanwezig. Wat de juiste balans zal zijn tussen vrijheid en veiligheid op dit gebied, zal de tijd uitwijzen.
