AI (artificiële intelligentie)
Artificiële intelligentie (AI), ook wel kunstmatige intelligentie genoemd, begint de laatste jaren steeds belangrijkere en serieuzere vormen aan te nemen. AI verwijst naar (computer)systemen die een zekere vorm van intelligentie vertonen. Het is lastig om een goede definitie van AI te geven en er bestaan ook verschillende soorten AI. De in deze blog te bespreken AI-Verordening omschrijft het begrip ‘artificiële-intelligentiesysteem’ als:
‘software die is ontwikkeld aan de hand van een of meer van de technieken die zijn opgenomen in de lijst van bijlage I en die voor een bepaalde reeks door mensen gedefinieerde doelstellingen output kan genereren, zoals inhoud, voorspellingen, aanbevelingen of beslissingen die van invloed zijn op de omgeving waarmee wordt geïnterageerd’.
De bijlage waar deze definitie naar verwijst, onderscheidt drie soorten technieken en benaderingen. Het voert wat te ver om deze uitgebreid te bespreken, maar deep learning, benaderingen gebaseerd op logica en kennis, en statische benaderingen vallen er onder. De bedoeling van de Europese wetgever was om een definitie te geven die zo technologieneutraal en toekomstbestendig mogelijk is.
Ontwikkeling van AI
Hoewel veel AI-toepassingen in de laatste jaren zijn ontwikkeld, bestaat het verschijnsel AI al veel langer. De term is bedacht in 1956 tijdens de Dartmouth conference. Computers waren destijds nog niet zo geavanceerd als tegenwoordig. Een doorbraak kwam in 1997, toen IBM’s Deep Blue in staat bleek de destijds regerend wereldkampioen schaken, Gerri Kasparov, te verslaan. Inmiddels zijn computers nog vele malen geavanceerder.
Enkele recente AI-toepassingen zijn bijvoorbeeld:
- The Next Rembrandt, waarbij een computersysteem in staat is een schilderij in de stijl van Rembrandt van Rijn te maken;
- DeepL Translator, een vertaaldienst;
- This Person Does Not Exist, een website die in staat is levensechte gezichten weer te geven van personen die in werkelijkheid niet bestaan;
- Zelfrijdende auto’s;
- Virtuele assistenten, zoals Siri, Google Now en Cortana.
Hoewel het mogelijk is om spectaculaire producten te ontwikkelen met behulp van AI, brengt AI ook veel juridische vragen en risico’s met zich mee. Wie is bijvoorbeeld aansprakelijk voor schade die een zelfrijdende auto veroorzaakt? En wie is auteursrechthebbende op een werk dat een AI-systeem creëert? Ook kan men denken aan ethische vraagstukken bij de inzet van AI in bijvoorbeeld strafzaken. Op enkele van deze terreinen heeft het Europees Parlement al resoluties aangenomen. Resoluties hebben echter geen juridische betekenis. Zij zijn met name politiek van belang. Dat is echter anders met verordeningen.
AI-Verordening
Op 21 april 2021 heeft de Europese Commissie een voorstel gepubliceerd voor een nieuwe AI-verordening. Als het Europees Parlement en de Raad daarmee instemmen, dan zal die verordening juridisch bindend zijn.
De AI-verordening streeft blijkens de toelichting een viertal doelen na:
- Ervoor te zorgen dat AI-systemen die in de EU in de handel worden gebracht en gebruikt, veilig zijn en de bestaande wetgeving inzake grondrechten en waarden van de EU eerbiedigen;
- Rechtszekerheid garanderen om investeringen en innovatie in AI te vergemakkelijken;
- Het beheer en de doeltreffende handhaving van de bestaande wetgeving inzake grondrechten en veiligheidsvoorschriften die van toepassing zijn op AI-systemen, te verbeteren; en
- De ontwikkeling van een eengemaakte markt voor wettige, veilige en betrouwbare AI-oplossingen vergemakkelijken en marktversnippering voorkomen.
De verordening heeft een ruim toepassingsbereik. Deze geldt namelijk voor het in de handel brengen, het in dienst stellen en het gebruik van AI-systemen in de Europese Unie. Als de aanbieder van een AI-systeem buiten de EU gevestigd is, dan geldt de verordening nog steeds indien het AI-systeem op de Europese markt wordt gebracht, als de gebruikers zich in de EU bevinden of als de met het AI-systeem geproduceerde output in de EU gebruikt wordt.
Verboden en risiconiveaus
Wat opvalt is dat de verordening AI-systemen onderverdeelt in AI-systemen met een onaanvaardbaar, een hoog, een beperkt en een minimaal risico. Voor elk van deze AI-systemen kent de verordening specifieke regels. Het is dus belangrijk om vast te stellen welk risico een bepaald AI-systeem met zich meebrengt. Soms blijkt dit uit de tekst van de verordening zelf, soms moet men dit afleiden uit de bijlagen bij de verordening. Bijlage III bevat bijvoorbeeld een lijst met AI-systemen die een hoog risico inhouden.
AI-systemen met een onaanvaardbaar risico
AI-systemen die een onaanvaardbaar risico inhouden, zijn per definitie verboden. Artikel 5 stelt dat het verboden is een AI-systeem in de handel te brengen of te gebruiken dat subliminale technieken gebruikt waarvan personen zich niet bewust zijn om het gedrag van personen wezenlijk te versturen op een wijze die ertoe leidt of er waarschijnlijk toe zal leiden dat deze of andere personen fysieke of psychologische schade oplopen. Denk hierbij bijvoorbeeld aan een systeem van social scoring op basis van massasurveillance, zoals dat in China wordt toegepast. Ook het gebruik van realtime biometrische systemen (gezichtsherkenning) voor identificatie op afstand in de openbare ruimte met het oog op de rechtshandhaving is verboden. Dit soort systemen vormen een bedreiging voor de veiligheid en grondrechten van EU-burgers.
AI-systemen met een hoog risico
AI-systemen die een hoog risico inhouden, zijn niet per definitie verboden. Wel moeten zij voldoen aan bepaalde voorschriften. Zo bepaalt artikel 9 dat voor AI-systemen met een hoog risico een ‘systeem voor risicobeheer’ vastgesteld, uitgevoerd, gedocumenteerd en in stand gehouden moet worden. Dat systeem voor risico bestaat uit een doorlopend proces gedurende de gehele levensduur van het AI-systeem en vereist een periodieke systematische actualisering. De verordening benoemt een aantal stappen, zoals het vaststellen en analyseren van de bekende en te voorziene risico’s en het vaststellen van geschikte risicobeheersingsmaatregelen.
Bij het ontwerp van AI-systemen met een hoog risico moet ook de mogelijkheid geïmplementeerd worden om gebeurtenissen automatisch te registreren (‘logs’). Om verder de transparantie naar de gebruiker te bevorderen, is het verder verplicht om dit soort AI-systemen zo te ontwerpen dat zij gebruikers in staat stellen de output van het systeem te interpreteren en op passende wijze te gebruiken. De verordening zegt ook dat dit soort AI-systemen vergezeld moeten gaan van gebruiksinstructies met beknopte, volledige, juiste en duidelijke informatie over o.a. de identiteit en contactgegevens van de aanbieder, de kenmerken, capaciteiten en beperkingen van de prestaties van het AI-systeem en maatregelen voor menselijk toezicht. Dit laatste punt is ook belangrijk, omdat de AI-verordening bepaalt dat natuurlijke personen, mensen dus, op doeltreffende wijze toezicht moeten kunnen uitoefenen op het AI-systeem met een hoog risico.
Relevant is ook dat aanbieders van AI-systemen met een hoog risico CE-markeringen moeten aanbrengen en een conformiteitsbeoordeling moeten uitvoeren.
AI-systemen met een beperkt risico
Onder deze AI-systemen vallen bijvoorbeeld chatbots, zoals die op websites regelmatig voorkomen. die Deze AI-systemen hoeven alleen te voldoen aan transparantieverplichtingen. In de praktijk komen deze transparantieverplichtingen er met name op neer dat de aanbieder aan de gebruiker duidelijk maakt dat hij met een chatbot communiceert en niet met een mens.
AI-systemen met een minimaal risico
Voor AI-systemen met een minimaal risico kent de AI-verordening geen bijzondere regels. Het gaat hierbij om AI-systemen die een minimaal tot geen risico vormen voor de gezondheid en de veiligheid van personen.
Boetes en naleving
Overtreding van de regels uit de AI-verordening kunnen ondernemers duur komen te staan. De verordening biedt de mogelijkheid om boetes op te leggen. Deze kunnen oplopen tot € 30 miljoen of 6% van de wereldwijde omzet. Dat is dus nog hoger dan de maximale boetes die bij overtreding van de AVG kunnen worden opgelegd.
De naleving van de AI-verordening laat de Europese wetgever aan de nationale toezichtinstanties over. Welke instantie in Nederland zal worden belast met het toezicht op de AI-verordening, is nog niet bekend.
Bereidt u voor!
Zoals gezegd is de AI-verordening op dit moment nog geen geldend recht. De verwachting is dat de verordening ergens in 2024 in werking gaat treden. Het is daarom van belang om tijdig voorbereidingen te treffen. Dat geldt vooral als u van plan bent systemen aan te bieden die gebruik maken van AI.
De advocaten van NORD kunnen u adviseren over de risico’s die verbonden zijn aan uw AI-systeem en aan welke regels het AI-systeem moet voldoen. Neem vrijblijvend contact op met NORD.
