ChatGPT of andere vormen van AI op de werkvloer: hoe de Europese AI Act u en iedere andere gebruiker tot actie verplicht

AI op de werkvloer. In de afgelopen grofweg twee jaar is het gebruik van AI (artificial intelligence) op de werkvloer zienderogen toegenomen. Niet alleen bij techbedrijven, maar ook bij de gemiddelde MKB-onderneming. Grote kans dat een of meerdere van uw medewerkers bijv. regelmatig ChatGPT of een vergelijkbare toepassing gebruikt om teksten en/of plaatjes te genereren.

Europese AI Act

Waar de inzet van AI op de werkvloer lange tijd niet of slechts beperkt gereguleerd leek, is daar nu de Europese AI Act. Deze verordening is op 1 augustus 2024 in werking getreden. De AI Act stelt voorwaarden aan de verschillende toepassingen van AI. Het achterliggende doel is de bescherming van Europese burgers tegen ‘verkeerd’ gebruik van AI. Let op.  De AI Act geldt voor iedereen, dus ieder bedrijf dat AI ontwikkelt, levert of toepast/ gebruikt, dus ongeacht het aantal werknemers!

Vier risicocategorieën. Binnen de AI Act worden vier risicocategorieën onderscheiden.

1. AI-toepassingen met geen of een minimaal risico, zoals bijv. een e-mailspamfilter. Deze toepassingen zijn volledig vrij toegestaan.
2. Toepassingen met een beperkt risico, zoals het gebruik van chatbots. Deze toepassing is toegestaan zolang het gebruik van AI transparant gebeurt en voor de gebruikers duidelijk is dat men met AI te maken heeft.
3. Toepassingen met een hoog risico, die alleen onder strenge voorwaarden zijn toegestaan. Het gaat dan bijv. om de screening van sollicitanten op basis van AI en andere toepassingen die schadelijk kunnen zijn voor de rechten, gezondheid of veiligheid van burgers.
4. Toepassingen met een onacceptabel risico, zoals social scoring op basis van de persoonlijke financiële of medische situatie van burgers. Deze toepassingen zijn verboden door de AI Act.

ChatGPT? Zoals aangegeven, is ChatGPT een van de meestgebruikte AI-tools. Als binnen uw bedrijf met ChatGPT of een vergelijkbaar programma wordt gewerkt, binnen welke risicocategorie valt dit dan? De mogelijke toepassingen zijn immers zeer veelzijdig. Het antwoord hangt in principe af van het concrete gebruik ervan in de praktijk. Wordt het gebruikt voor een spellingscheck of voor het beoordelen van een kredietaanvraag? Vanwege de mogelijke toepassing voor hoge of zelfs onacceptabele risico’s valt een tool als ChatGPT binnen de AI Act in principe in de hoogrisicocategorie.

Inventariseren. Op dit moment is het van belang om het gebruik van AI binnen uw onderneming te inventariseren en naar risicocategorie in te delen. Vervolgens is het zaak om voorwaarden aan het gebruik van AI te stellen, zodat het gebruik ervan in lijn is met de AI Act. Leg zowel de inventarisatie als de te ondernemen stappen, zoals het formuleren van nieuwe of aanpassen van bestaande interne regels, goed vast.

Tijdspad: verbod per 01.02.2025

Het gebruik van AI met een onacceptabel risico is per 1 februari 2025 definitief verboden. Op respectievelijk 1 augustus 2025 en 1 augustus 2026 dient u aan de bepalingen van de AI Act te voldoen ten aanzien van AI-gebruik met een beperkt risico en met een hoog risico.