Wetgeving ‘dagelijks gebruikte AI’
De onderhandelaars hebben verplichtingen vastgesteld voor zogenoemde ‘high-impact general-purpose AI’, oftewel GPAI systemen. De verplichtingen voor deze GPAI systemen gaan over zaken als risicobeveiliging, vijandige testen, incidentenrapporten en meer. Het vereist ook transparantie van de AI systemen, waaronder het maken van gedetailleerde samenvattingen over de inhoud die wordt gebruikt voor training. Bedrijven zoals ChapGPT hebben dit tot nu toe geweigerd te doen.
Daarnaast krijgen burgers ook het recht om klachten over AI systemen in te dienen en uitleg te krijgen over beslissingen die gaan over “risicovolle” systemen, welke van invloed kunnen zijn op de rechten van de burgers.
Boetes in de AI wet
De wetmakers zijn nog niet in detail in gegaan over welke benchmarks er voor AI bedrijven zijn. Wel is al vastgesteld dat er boetes zullen worden opgelegd wanneer de benchmarks niet worden gehaald. De boeten variëren op basis van de overtreding en de omvang het van AI bedrijf. De boetes kunnen variëren tussen 1,5% tot 7% van de wereldwijde omzet van het bedrijf, met een maximum van 7,5 miljoen tot 35 miljoen euro.
AI wet verbiedt deze toepassingen:
- Schrappen van gezichtsbeelden uit CCTV beelden
- Categoriseren op basis van ‘gevoelige kenmerken’ zoals ras, seksuele geaardheid, religie of politieke overtuiging
- Emotieherkenning op het werk of school
- Het creëren van een “sociale score” systeem
- Menselijk gedrag manipuleren om hun vrije wil te omzeilen
- Het uitbuiten van de kwetsbaarheden van mensen
De AI wet omvat ook een lijst met regels het gebruik van biometrische systemen door wetshandhavers om bewijsmateriaal in AI opnames te zoeken bij verdachten. Wat dit gaat betekenen voor slimme deurbellen zoals de Tapo videodeurbel is nog niet duidelijk.
Definitieve AI wet voor eind 2023
Er wordt verwacht dat er vóór het einde van dit jaar, 2023, een definitieve deal zal worden bereikt. Als dat lukt zal de ai wet waarschijnlijk pas in 2025 in werking treden.
Het eerste Europese concept van de AI wet komt uit 2021, toen nog als doel om onderscheid te maken tussen wat feitelijk als AI telt, en de regels daarvoor te synchroniseren. Echter is deze wet al verouderd, aangezien dit nog voor de introductie van de snel veranderende AI tools zoals ChatGPT was.
Reacties op dit AI nieuws
Tot nu toe zijn de reacties erg positief. De Europese Commissie, die de wet heeft voorgesteld, zei dat het een belangrijke stap voorwaarts was in het reguleren van AI. Zelfs de bedrijven in de AI sector reageerden positief, zeggend dat de wet duidelijkheid en consistentie biedt.
Natuurlijk is niet iedereen blij. Zo zeggen tegenstanders van de nieuwe AI wet dat de innovatie zal worden belemmerd door de té strenge wetgeving. Ook zijn er geluiden over dat de wet niet streng genoeg is en er geen rekening wordt gehouden met de ethische gevolgen van Artificial Intelligence.
Er zullen meer onderhandelingen nodig zijn voordat de AI wet in werking treedt.
Verdeling over surveillance door AI
Onderhandelingen over regels het monitoren van personen heeft voor veel verdeeldheid gezorgd. Vooral de onderwerpen “Live biometrische monitoring” (zoals gezichtsherkenning) en “algemene doeleinden van AI”.
EU wetgever dringen erop aan om het gebruik van AI bij biometrische surveillance volledig te verbieden. Echter hebben regeringen gepleit voor uitzonderingen voor het leger, politie en nationale veiligheid. Dit is voor overheden namelijk een krachtige tool om misdadigers vroegtijdig op te pakken, en zo preventief het land veilig houden.
