L’Acte sur l’intelligence artificielle (IA) de l’Union européenne, adopté aujourd’hui, marque une étape significative dans la réglementation mondiale de l’IA. Ce cadre législatif vise à encadrer l’utilisation de l’IA dans l’UE en mettant l’accent sur la sécurité, la transparence, la traçabilité, la non-discrimination et le respect de l’environnement.
Ses principales caractéristiques sont:
-
Différentes règles selon le niveau de risque : Les nouvelles règles établissent des obligations pour les fournisseurs et utilisateurs d’IA en fonction du niveau de risque.
-
Les systèmes d’IA à risque inacceptable, tels que la manipulation comportementale et le scoring social, seront interdits.
-
Les systèmes d’IA à haut risque, qui affectent la sécurité ou les droits fondamentaux, seront divisés en deux catégories :
-
ceux utilisés dans les produits couverts par la législation de l’UE sur la sécurité des produits et,
-
ceux qui tombent dans huit domaines spécifiques nécessitant une inscription dans une base de données de l’UE.
-
-
-
AI Généraliste : Les systèmes d’IA généralistes, comme ChatGPT, devront se conformer aux exigences de transparence, notamment en divulguant que le contenu a été généré par l’IA et en empêchant la génération de contenu illégal.
-
Risque limité : Les systèmes d’IA à risque limité devront se conformer à des exigences minimales de transparence, permettant aux utilisateurs de prendre des décisions éclairées.
-
Débats politiques en cours : Des sujets comme l’interdiction de la reconnaissance des émotions par l’IA dans la police, les écoles et les lieux de travail, ainsi que l’utilisation de la biométrie en temps réel et de la police prédictive dans les espaces publics, font l’objet de débats politiques intenses.
-
Le projet de loi propose également de nouvelles restrictions pour l’IA générative, notamment l’interdiction d’utiliser du matériel protégé par le droit d’auteur dans l’ensemble de données de formation de modèles de langage de grande envergure et impose que le contenu généré par l’IA soit étiqueté comme tel.
-
Des pays comme la France, l’Allemagne et l’Italie ont contesté certaines propositions, souhaitant permettre aux créateurs de modèles d’IA génératifs de s’autoréguler plutôt que de se conformer à des règles strictes.
-
Il y a également des divisions sur l’utilisation des systèmes d’IA par les agences d’application de la loi pour l’identification biométrique des individus dans les espaces publics accessibles.
L’adoption de l’Acte sur l’IA par l’UE représente une avancée significative dans la réglementation de l’intelligence artificielle, une étape nécessaire étant donné l’impact croissant de l’IA sur divers aspects de la société. Cette législation reflète une compréhension nuancée des différentes facettes et risques de l’IA, reconnaissant la nécessité d’un cadre réglementaire adaptatif qui peut évoluer avec la technologie.
L’approche basée sur le risque est particulièrement louable car elle permet une régulation proportionnelle qui ne freine pas l’innovation tout en protégeant les droits fondamentaux et la sécurité des citoyens. Cependant, l’application de cette législation pose des défis significatifs, notamment en ce qui concerne l’équilibre entre la protection des droits et la flexibilité nécessaire à l’innovation technologique.
La réglementation des systèmes d’IA généralistes, comme ChatGPT, souligne l’importance de la transparence et de la responsabilité dans le développement de l’IA. Ceci met en évidence la nécessité pour les développeurs d’IA de comprendre profondément non seulement les capacités techniques de leurs systèmes, mais aussi les implications éthiques et sociales de leur utilisation.
L’European IA Act est un pas important vers une gouvernance responsable de l’IA, mais son succès dépendra de l’application équilibrée et évolutive de ses règles, tout en restant ouvert à l’innovation et aux développements futurs dans le domaine de l’IA.