Le 30 août 2022, le Conseil d’État a publié une étude intitulée Intelligence artificielle et action publique : construire la confiance, servir la performance au sein de laquelle il fait part de la nécessité de « mettre en œuvre une politique de déploiement de l’intelligence artificielle résolument volontariste, au service de l’intérêt général et de la performance publique ».
Cette étude est exclusivement consacrée aux systèmes d’intelligence artificielle publics (ou SIA), dont la définition retenue par l’étude est la suivante : « système qui : (i) reçoit des données et des entrées provenant de machines et/ou de l’homme, (ii) déduit comment atteindre un ensemble donné d’objectifs définis par l’homme en utilisant l’apprentissage, le raisonnement ou la modélisation mis en œuvre avec les techniques et les approches énumérées à l’annexe I, et (iii) génère des sorties sous forme de contenus (systèmes d’IA générative), prédictions, recommandations ou décisions, qui influencent les environnements avec lesquels il interagit. » (Définition issue du glossaire de l’étude).
Le 21 avril 2021, la Commission européenne a publié une proposition de règlement européen « établissant des règles harmonisées concernant l’intelligence artificielle (législation sur l’intelligence artificielle) et modifiant certains actes législatifs de l’union » (aussi appelé, Artificial Intelligence Act). Dans l’attente de l’entrée en vigueur de ce texte, le Conseil d’État préconise au gouvernement français d’adopter des lignes directrices, dont le contenu sera détaillé ci-après et propose une « transformation profonde » de la Commission nationale de l’informatique et des libertés (Cnil), à laquelle serait attribuée la mission de régulateur des systèmes d’IA, au sens dudit règlement.
En plus de ses préconisations, la Haute juridiction met en avant plusieurs interrogations juridiques soulevées par le fonctionnement même de l’IA : comment encadrer et réguler la collecte et l’exploitation des grandes quantités de données, celles-ci étant nécessaires au bon fonctionnement de l’IA ? Quelles nouvelles attributions de compétence sont suggérées pour la Cnil ?
Quel contenu pour les lignes directrices françaises sur l’intelligence artificielle ?
L’étude souligne que le règlement européen sur l’IA ne devrait entrer en vigueur que dans plusieurs années et illustre les avantages que présenterait un texte français pour les SIA publics. En effet, selon le Conseil d’Etat, les lignes directrices « formaliseraient tout à la fois la stratégie, la doctrine d’emploi et la méthodologie pratique de conception, de déploiement et d’utilisation de systèmes d’IA de confiance au sein de la sphère publique. »
Le Conseil d’Etat préconise que les lignes directrices reprennent les propositions de son étude, les principaux concepts de la proposition de règlement européen, ainsi que les règles d’ores et déjà applicables. L’articulation de l’ensemble des textes pourrait aussi être traitée au sein des lignes directrices sur les SIA publics.
Enfin, ces lignes directrices énonceraient des principes généraux de l’IA publique et la méthodologie de leur mise en œuvre. Par exemple, la nécessité de réaliser un bilan coûts/avantages avant de décider de recourir à un SIA pour une mission de service public.
Enjeux et recommandations quant au traitement de données pour le fonctionnement des SIA publics
L’étude du Conseil d’État commence par rappeler que certains services publics usent d’ores et déjà de SIA, par exemple pour la prévention d’attaques informatiques, pour la lecture automatisée des plaques d’immatriculation, ou encore pour la pseudonymisation des décisions judiciaires.
A titre d’illustration, l’administration fiscale a récemment publié les résultats de son expérience « Foncier Innovant », qui lui a permis par l’usage de l’imagerie aérienne et de l’intelligence artificielle de répertorier plus de 20 000 piscines non déclarées, qui représenteront plus de 10 millions d’euros de recettes fiscales supplémentaires pour les communes concernées en 2022.
L’un des enjeux en lien avec le règlement général sur la protection des données (RGPD) réside dans la collecte et l’exploitation des données, certaines étant des données à caractère personnel c’est-à-dire des « informations se rapportant à une personne physique identifiée ou identifiable » (article 4 RGPD). Effectivement, un système d’IA ne saurait fonctionner sans données, celles-ci étant leur « carburant ».
Il est alors nécessaire de disposer de données considérables et de qualité. L’étude note que les données générées par les activités privées pourraient présenter un intérêt pour l’action publique, et encourage donc à ce titre la conclusion de partenariats entre administrations publiques et acteurs privés.
Ainsi, pour reprendre l’exemple de l’expérience « Foncier Innovant », le ministère des finances publiques précise dans son rapport que les prestataires informatiques n’ont pas eu accès aux données fiscales à caractère personnel contenues dans les déclarations des propriétaires.
Le Conseil d’État constate par ailleurs que le partage de données entre administrations publiques est complexe, et suggère d’assouplir son cadre juridique. Pour ce faire, la haute juridiction administrative propose d’étendre au partage de données, l’application de l’article 1er de la loi pour une République numérique, qui prévoit que :
« (…) les administrations mentionnées au premier alinéa de l’article L.300-2 dudit code sont tenues de communiquer, dans le respect de la loi n° 78-17 du 6 janvier 1978 relative à l’informatique, aux fichiers et aux libertés, les documents administratifs qu’elles détiennent aux autres administrations mentionnées au même premier alinéa de l’article L.300-2 qui en font la demande pour l’accomplissement de leurs missions de service public. ».
Il suggère en outre de clarifier la portée du cadre juridique de la protection des données à caractère personnel, appliqué à l’échange de données entre administrations.
Quelles propositions d’évolution pour la Cnil ?
Dans la perspective du futur règlement européen relatif à l’IA qui contraindra chaque État membre à désigner une autorité nationale de contrôle du marché des SIA, l’étude suggère de confier le pilotage de la régulation des SIA, publics comme privés, à la Cnil.
Cette suggestion est justifiée naturellement par « la très forte adhérence entre la régulation des SIA et celle des données, en particulier des données à caractère personnel » et par « l’intérêt d’une internalisation institutionnelle de l’articulation des deux régimes juridiques. »
Cette nouvelle compétence nécessiterait ainsi une « transformation profonde » du régulateur français, l’étude suggérant :
- d’investir massivement pour augmenter ses capacités ;
- de restructurer son collège, en intégrant notamment des experts de l’IA ;
- de faire évoluer son image, afin qu’il soit perçu comme « un véritable régulateur, soucieux de conjuguer le développement de notre pays par le soutien à l’innovation et le respect des droits fondamentaux des personnes concernées, et un facilitateur de l’innovation technologique au service de la société. ».
Cette proposition de restructuration de la Cnil démontre la volonté d’incarner au sein d’une unique autorité, « le double enjeu de la protection des droits et libertés fondamentaux d’une part et de l’innovation et de la performance publique, d’autre part. »
Quel avenir pour l’intelligence artificielle ?
Alors que l’IA fait partie intégrante de notre quotidien et se développe considérablement, ses enjeux et impacts sont de plus en plus mis en exergue et de nombreux pays cherchent à imposer un cadre réglementaire propre à cette discipline, sans toutefois brider les avantages qu’elle procure. Le règlement européen susmentionné en est un exemple majeur, mais ce mouvement est également prégnant aux Etats-Unis.
Certains aspects de l’IA font l’objet du projet de loi Algorithmic Accountability Act of 2022, introduit à la Chambre des représentants le 3 février 2022. Au niveau inférieur, plusieurs Etats fédérés ont récemment adopté des lois relatives à la reconnaissance faciale, au recrutement automatisé, ou encore à l’éducation à l’intelligence artificielle.
Mathias Avocats vous tiendra informé des évolutions législatives européennes et internationales.