De Europese AI-verordening (AI Act)
Wat de Europese AI-verordening vraagt van een chatagent op een website, welke onderdelen ChatterLab inbouwt en welke onderdelen van jou blijven.
Opmerking. Deze pagina legt uit hoe het product zich verhoudt tot de Europese AI-verordening (AI Act). Het is geen juridisch advies. Leg je eigen situatie voor aan je jurist.
De AI Act deelt AI-systemen in naar risico. Een chatagent die vragen over een bedrijf beantwoordt op basis van de eigen content van dat bedrijf, valt in de laagste gereguleerde groep: toegestaan, met een transparantieplicht. Een klein aantal toepassingen geldt als hoog risico en brengt zware verplichtingen mee. Enkele zijn ronduit verboden.
Transparantie: mensen moeten weten dat het een AI is
Artikel 50 zegt dat een systeem dat met mensen praat duidelijk moet maken dat ze met een AI praten, en dat gegenereerde tekst door software als zodanig herkenbaar moet zijn.
ChatterLab bouwt beide in, zodat ze niet vergeten of uitgezet kunnen worden:
- De AI-melding. Elk gesprek opent met een regel zoals "Je chat met een AI-assistent", in de taal van de widget. Geen abonnement, add-on of instelling haalt die weg, en de regel staat binnen in de chat, waar de omringende pagina hem niet kan verbergen. Talen en de AI-melding.
- Machineleesbare markering. Elk antwoord in de widget is in de code van de pagina gemarkeerd als door AI gegenereerd.
- De agent beweert nooit een mens te zijn. Op de vraag of hij een mens of een robot is, zegt de agent dat hij een AI-assistent is, welke naam en persoonlijkheid je instructies hem ook geven.
Bouw je je eigen chat boven op de API, dan wordt niets hiervan voor je op het scherm gezet, en is het jouw taak om je gebruikers te vertellen dat ze met een AI praten.
Toepassingen met een hoog risico worden geweigerd
Als je een agent aanmaakt, geef je op waarvoor hij dient. Drie doelen worden geweigerd, in het dashboard net zo goed als via de API en via MCP:
| Opgegeven gebruik | Waarom |
|---|---|
| Werving en selectie van personeel | Beslissingen over het werk en het inkomen van mensen |
| Kredietscoring | Beslissingen over de toegang van mensen tot geld |
| Gezondheidszorg | Advies waarbij een fout iemands gezondheid kan schaden |
Systemen voor zulke doelen moeten voldoen aan eisen voor risicobeheer, datakwaliteit, menselijk toezicht, documentatie en conformiteitsbeoordeling die dit product niet biedt. We doen dus niet alsof: de agent wordt niet aangemaakt en de weigering wordt in het auditlog geschreven. Heb je zo'n toepassing voor ogen, praat dan eerst met ons.
De controle gaat uit van jouw opgave. Het is een belofte van jou aan ons, geen filter dat wij over je content halen. Geef je "klantondersteuning" op en laat je de agent daarna sollicitanten beoordelen, dan komt het volle gewicht van de AI Act bij jou te liggen.
Een gewone agent mag natuurlijk over deze onderwerpen praten: de agent van een kliniek die openingstijden geeft en uitlegt hoe je een afspraak maakt, is klantenservice, geen gezondheidszorg. De grens wordt overschreden wanneer de agent een persoon beoordeelt: iemands symptomen, kredietwaardigheid of geschiktheid voor een baan.
Vastlegging
Achteraf kunnen laten zien wat een systeem zei, en waarom, is het eerste waar een toezichthouder of een ontevreden klant om vraagt. ChatterLab bewaart:
- Elk gesprek, met de bronnen en de metingen achter elk antwoord, in Activiteit.
- Een auditlog van de gebeurtenissen die ertoe doen: agents die zijn aangemaakt, gewijzigd en verwijderd, bronnen die zijn toegevoegd en verwijderd, wijzigingen in abonnement en facturatie, API-sleutels die zijn aangemaakt en ingetrokken, gesprekken die zijn gewist of geëxporteerd, weigeringen omdat de credits op waren of vanwege een toepassing met een hoog risico, en welk model antwoordde. Bij een wijziging via het dashboard of met een sleutel staat wie die heeft gedaan. Het wordt 2 jaar bewaard. Waar de AI Act eist dat logs worden bewaard, gaat het om ten minste zes maanden.
Een mens binnen bereik houden
Geen wet eist dat er achter de assistent op je website een mens klaarstaat. Goed gebruik vraagt daar wel om, en de geest van de AI Act ook:
- Zet in de instructies wanneer de agent moet doorverwijzen, en naar wie: een telefoonnummer, een e-mailadres, een boekingspagina.
- Bekijk Overzicht regelmatig. Nalezen wat een systeem zei is een vorm van toezicht, en de twee metingen bij elk antwoord zijn daarvoor gemaakt.
Wat van jou blijft
- Wat de agent weet. Hij herhaalt je bronnen. Zijn die fout of verouderd, dan is de agent dat ook, en "de AI zei het" is tegenover een klant geen verweer. In 2024 hield een Canadees tribunaal een luchtvaartmaatschappij aan wat haar chatbot een passagier had verteld.
- Je privacyverklaring. Zie Gegevens en privacy.
- Waarvoor je hem gebruikt. De verboden praktijken uit de AI Act, zoals mensen manipuleren of hun kwetsbaarheden uitbuiten, zijn verboden, welk hulpmiddel er ook wordt gebruikt.