La Commission européenne publie un projet de règlement sur l’intelligence artificielle

Proposal for a regulation of the European parliament and of the Council, laying down harmonised rules on artificial intelligence (artificial intelligence act) and amending certain union legislative acts – COM (2021) 206 final.

Depuis plusieurs années, l’intelligence artificielle occupe l’esprit des instances de l’Union européenne. Après la publication par la Commission européenne de plusieurs textes stratégiques, lignes directrices et autres livres blancs, et parallèlement à l’adoption de multiples résolutions sur le sujet par le Parlement européen, le projet de de règlement communiqué le 21 avril 2021 par la Commission est le premier acte concret en direction d’une législation européenne portant spécifiquement sur l’intelligence artificielle.

Le projet établi par la Commission a pour objet de favoriser la confiance dans l’intelligence artificielle. Les règles qu’il contient suivent une approche fondée sur le niveau de risque que peuvent engendrer les différents « systèmes d’intelligence artificielle », selon leur nature et leur objet :

• Risques inacceptables: Il s’agit des systèmes représentant une menace évidente pour la sécurité, les moyens de subsistance et les droits des personnes. Ces systèmes seront tout simplement interdits.
• Risques élevés: Il s’agit par exemple : (i) de systèmes utilisés dans certaines infrastructures critiques qui sont susceptibles de mettre en danger la vie et la santé des personnes ; (ii) de systèmes utilisés dans le domaine du maintien de l’ordre qui sont susceptibles d’interférer avec les droits fondamentaux des personnes ; (iii) de systèmes d’identification biométrique à distance ; ou encore (iv) de systèmes utilisés dans l’administration de la justice et des processus démocratiques.

Ces systèmes ne seront autorisés que sous réserve du respect d’obligations strictes, qui représentent la majeure partie des dispositions du projet de règlement. Parmi ces obligations, figurent par exemple l’obligation de préserver la qualité des données, de garantir la traçabilité des résultats, d’informer les utilisateurs ou encore de garantir un niveau approprié de contrôle humain.

• Risques limités: Il s’agit des systèmes d’intelligence artificielle identifiés à l’article 52 du projet de règlement, et qui comprennent notamment les chatbots ou les « deep fakes ». Ces systèmes pourront continuer d’être utilisés à condition de respecter certaines obligations de transparence vis-à-vis des utilisateurs.
• Risques minimes: Selon la Commission, la grande majorité des systèmes d’IA correspondent à cette catégorie, qui recouvre notamment les jeux vidéo ou les filtres anti-spam intelligents. L’utilisation de ces systèmes ne sera pas soumise au respect d’obligations supplémentaires.

Le projet de règlement envisage de confier le contrôle du respect des nouvelles règles à des autorités nationales désignées dans chaque Etat-membre, qui se réuniront au sein d’un Comité Européen de l’Intelligence Artificielle. Différentes sanctions administratives sont prévues en cas de manquement, pouvant aller pour certaines infractions jusqu’à 30 millions d’euros ou 6% du chiffre d’affaires annuel mondial de l’exercice précédent.

Le projet va à présent être examiné par le Parlement européen puis par les Etats membres dans le cadre de la procédure législative ordinaire.

Il est enfin nécessaire de rappeler que ce projet de règlement ne couvre qu’une partie des obligations susceptibles de s’appliquer à l’utilisation de technologies reposant sur l’intelligence artificielle. Par exemple, les obligations spécifiques du règlement général sur la protection des données « RGPD » s’appliquent d’ores et déjà à tout système d’intelligence artificielle impliquant un traitement de données à caractère personnel.