Ongeveer elke generatie ervaart een baanbrekende technologische innovatie die een samenleving fundamenteel verandert. Na de televisie in de jaren ’50, de PC in de jaren ’80, het internet in de jaren ’90 en de smartphone in 2000, staan we weer aan de vooravond van een nieuwe General Purpose Technology (GTP): Generatieve AI.
Deze technologie belooft niet alleen onze productiviteit en creativiteit te vergroten, maar ook complexe problemen op te lossen op manieren die we ons voorheen nauwelijks konden voorstellen.
Maar “Technische Competentie is een Ethische Verplichting” die vraagt om een evenwicht tussen maatschappelijk nut, innovatie en commerciële belangen…
De schaduwzijden van AI dienen zich aan en zijn talrijk: kwaadwillenden kunnen AI voor verkeerde doeleinden inzetten, waardoor het een krachtig en nieuw instrument kan worden voor manipulatie, uitbuiting en sociale controle. Teneinde dat zoveel mogelijk te voorkomen, heeft de Europese Unie gepoogd in te grijpen in de AI-sector door bepaalde toepassingen van AI te verbieden, die een grove schending van EU-(grond)rechten zouden opleveren. Met name het recht op non-discriminatie, privacy en de rechten van het kind komen volgens de Unie onder druk te staan.
Of het nu een hype is of niet, er moet gereguleerd worden
De acht verboden AI-toepassingen gedefinieerd door de EU om fundamentele rechten te beschermen:
-
Manipulatieve technieken die het vermogen tot zelfstandige keuzes ernstig belemmeren
-
Misbruik van kwetsbare personen door hun specifieke omstandigheden uit te buiten
-
Sociale kredietsystemen die gedrag scoren en brede maatschappelijke gevolgen hebben
-
Preventieve misdaadprofilering alleen op basis van persoonskenmerken
-
Grootschalige gezichtsdatabanken maken via ongerichte dataverzameling
-
Emotieherkenning op werk/school (uitgezonderd medische/veiligheidsdoelen)
-
Afleiden van gevoelige informatie uit biometrische gegevens
-
Real-time identificatie in openbare ruimtes (met beperkte uitzonderingen voor rechtshandhaving)