Met de stemming van vandaag nemen de Europarlementariërs hun positie in op de AI-wet die de Europese Commissie eerder voorstelde. Het Europarlement wil aan deze wet een aantal zaken toevoegen, zoals een verplichte mensenrechtentoets voorafgaand aan de inzet van AI, recht op informatie en uitleg voor mensen die benadeeld zijn door AI, nieuwe regels voor grote systemen als ChatGPT en milieustandaarden voor dat soort grote systemen.
Het Europees Parlement pleit als eerste ter wereld voor duidelijke regels en standaarden voor grote modellen zoals die achter ChatGPT, Lensa of Dall-E met ontwerp-, veiligheids-, transparantie- en milieuverplichtingen. In het oorspronkelijke voorstel van de Europese Commissie zaten geen specifieke regels voor dit soort grote systemen, wat ruimte liet voor een ijzersterke techlobby. Van Sparrentak: “We moeten nu goed inspelen op deze razendsnelle ontwikkelingen. Juist voor systemen als ChatGPT met zo’n groot bereik en impact hebben we zo mogelijk stevige regels nodig.”
Profileren om criminaliteit of fraude op te sporen of te ‘voorspellen’, zoals gebruikt door de Belastingdienst in het toeslagenschandaal, wordt als het aan het Europees Parlement ligt helemaal verboden, iets waar GroenLinks voor gevochten heeft. Ook moet er een verplichte mensenrechtentoets komen bij AI met hoog risico, voordat deze wordt ingezet. De EU-database van AI-systemen wordt uitgebreid tot een EU-algoritmeregister naar voorbeeld van het algoritmeregister van Amsterdam, met in begrijpelijke taal hoe, waar en door wie het gebruikt wordt.
Ook komen er als het aan het Parlement ligt sterke rechten voor mensen die benadeeld worden door een AI-beslissing. Zo moet je altijd te weten krijgen of een beslissing over jou gemaakt is met behulp van AI, krijgen mensen een recht op uitleg en kunnen ze klachten indienen bij de algoritme-autoriteit. Van Sparrentak: “Het klinkt misschien dystopisch, maar als we zo doorgaan, kan AI straks worden ingezet om te bepalen of je wordt ontslagen, de politie aan de deur komt, of je uitkering wordt stopgezet – zonder dat je weet waarom dit gebeurt. Het Parlement wil daarom hieraan paal en perk stellen en zorgen dat bij de inzet van AI mensenrechten en transparantie altijd vooropstaan. Mensen mogen nooit meer met lege handen tegenover een computer staan.”
