Les députés européens proposent l’interdiction de la surveillance biométrique, de la reconnaissance des émotions. Ils veulent aussi un droit universel pour déposer plainte contre les systèmes d’intelligence artificielle.
Le projet européen de régulation de l’intelligence artificielle a passé jeudi une étape cruciale en obtenant un premier feu vert des eurodéputés qui ont réclamé de nouvelles interdictions et une meilleure prise en compte du phénomène ChatGPT.
Les eurodéputés veulent assurer un « développement éthique » de l’intelligence artificielle (IA). Cette technologie en évolution rapide soulève des préoccupations sur la désinformation, la vie privée, la surveillance, la discrimination, le plagiat, l’usurpation d’identité et même l’avenir de la démocratie.
Les parlementaires veulent ainsi garantir que les systèmes d’IA « bénéficient d’un contrôle humain, qu’ils sont sûrs, transparents, traçables, non discriminatoires et respectueux de l’environnement« , indique le communiqué de presse.
« Les modèles de fondation génératifs devraient garantir la transparence sur le fait que le contenu est généré par un système d’IA et non par des humains« , peut-on lire dans le nouveau texte.
Les députés font pression pour élargir la liste des applications d’IA « intrusives et discriminatoires » qui devraient être strictement interdites sur le territoire de l’UE. La liste élargie couvre l’identification biométrique en temps réel dans les espaces publics, les systèmes de police prédictive et la reconnaissance des émotions dans les forces de l’ordre et sur les lieux de travail.
Les systèmes d’IA qui ont le pouvoir d’influencer les électeurs lors des campagnes électorales ne seront pas interdits, mais seront considérés comme présentant un risque élevé et feront donc l’objet d’un examen plus approfondi, jugent les législateurs.
Le mandat de jeudi a été approuvé par 84 voix pour, 7 contre et 12 abstentions. Plus de 3 000 amendements ont été déposés avant la session, signe de l’intérêt que suscite cette technologie.
Le vote n’est cependant pas définitif. Les eurodéputés doivent encore approuver leur mandat de négociation en session plénière qui servira pour les discussions avec les États membres.
Ces négociations aboutiront à un texte de compromis qui sera à nouveau soumis au vote au Parlement et au Conseil avant d’entrer en vigueur.
La loi sur l’intelligence artificielle a été proposée pour la première fois par la Commission en avril 2021. Le texte impose des obligations et des restrictions aux entreprises d’IA en fonction du risque que leurs produits présentent pour la société : risque minimal, risque limité, risque élevé et inacceptable.
Les systèmes à haut risque devront faire l’objet d’une évaluation de conformité, être enregistrés dans une base de données de l’UE et porter le marquage CE avant d’être mis sur le marché. Cette procédure recommencera à chaque mise à jour.
Selon le texte amendé, les entreprises qui ne respecteraient pas ces règles s’exposeront à des amendes pouvant aller jusqu’à 40 millions d’euros ou 7 % de leur chiffre d’affaires annuel mondial, le montant le plus élevé devrait être retenu.
L’approche globale et centrée sur l’humain du règlement de l’UE est considérée comme une étape pionnière dans l’effort mondial qui cherche à encadrer les excès de l’IA, annoncée comme la nouvelle révolution technologique.