Het voorstel verbiedt een aantal AI-toepassingen die botsen met fundamentele rechten, zoals het Chinese social scoring systeem en surveillance. Aan andere toepassingen met een ‘hoog risico’ zal de wet voorwaarden stellen. Het gaat hierbij dan om AI met een hoog risico op bijvoorbeeld fysieke schade als verwondingen, maar ook op mensenrechtenschendingen en andere mogelijke nadelige effecten op mens en maatschappij, zoals discriminatie. Daarbij gaat het ook om toepassingen in het onderwijs, bij de overheid, op het werk of bij het aanvragen van leningen.
Als het aan Van Sparrentak ligt krijgen mensen meer transparantie, niet alleen over wanneer AI wordt ingezet bij het nemen van beslissingen over hen, maar ook over waar die beslissingen op gebaseerd zijn. Daarnaast moeten mensen altijd in beroep kunnen gaan of klachten in kunnen dienen bij autoriteiten als zij door AI benadeeld zijn. Tot slot wil GroenLinks dat er verplicht wordt gekeken naar de milieu impact van AI toepassingen. Daar zegt het voorstel nu, ondanks oproepen van het Europees Parlement, niets over.
Van Sparrentak wil graag snel aan de slag: “De Commissie zegt te kiezen voor een Europese, ethische en duurzame weg voor de ontwikkeling van AI en niet de richting op te gaan van dataverzameling, manipulatie, surveillance en privacyschending, zoals bij de VS of China. Maar het huidige voorstel waarborgt dat helaas nog niet sterk genoeg, dus er is werk aan de winkel.”
