Appels à la « pause », interdictions d’utilisation… le développement accéléré de l’intelligence artificielle questionne jusqu’aux collectivités territoriales. Le Sénat appelle à réguler au plus vite sans pour autant lever le pied sur l’investissement dans ce secteur stratégique. Une position alignée avec celle du gouvernement qui vient de lancer de nouveaux appels à projets.
C’est une première pour les collectivités. La ville et la métropole de Montpellier ont décidé à titre « conservatoire » d’interdire l’usage d’une intelligence artificielle (IA) générative de type ChatGPT par leurs services. Cette interdiction, objet d’une note interne, concerne les agents comme les entreprises avec lesquelles les deux collectivités collaborent. « Pour accueillir au mieux cette innovation, il faut être prudent », justifie auprès de nos confrère d’Occitanie TV Manu Reynaud, adjoint au maire en chargé du numérique. Si cette IA peut aider à la production de documents ou de rapports, elle va « mettre les données sur un serveur qu’on ne connaît pas » justifie-t-il. L’élu souhaite que sa collectivité soit un « modèle » dans l’usage responsable de la technologie en définissant un « cadre » qui sera conçu avec des experts.
Création d’un observatoire national
L’IA a également été au coeur des débats du Forum annuel des Interconnectés qui s’est tenu les 22 et 23 mars 2023 à Toulouse. À cette occasion, les élus locaux ont annoncé qu’ils « entendent, dans les prochains mois, identifier les opportunités et les ruptures liées à l’accélération de l’usage des données et de l’IA dans les politiques publiques ». Dans la foulée, les Interconnectés ont, avec France urbaine et Intercommunalités de France, lancé un appel à tous les territoires du pays pour créer un « Observatoire national des usages de l’intelligence artificielle dans les services publics ». Celui-ci « prendra en compte les enjeux pour la transformation des métiers, le référencement des projets dans la bibliothèque nationale d’IA à impact pour les services publics locaux et la place des IA et des algorithmes dans l’espace public », a précisé le président des Interconnectés, Francky Trichet, dans un communiqué du mardi 4 avril 2023.
Appels à la pause
Autant d’initiatives qui se font l’écho des craintes des plus grands experts internationaux de cette technologie. Près de 2.000 d’entre eux se sont en effet prononcés dans une lettre ouverte publiée le 28 mars 2023 pour un moratoire sur l’IA. Celle-ci dénonce des « systèmes numériques toujours plus puissants, que personne – pas même leurs créateurs – ne peut comprendre, prédire ou contrôler de manière fiable ». Face à une course « incontrôlée » des laboratoires d’IA et au risque de « laisser les machines inonder nos canaux d’information de propagande et de mensonges », ils demandent une pause de 6 mois pour laisser le temps de réfléchir aux « conséquences éthiques, sociales et politiques » de l’IA et mettre en place une gouvernance adaptée.
Atteinte au RGPD ?
L’agence italienne de protection des données a pour sa part interdit provisoirement le 31 mars l’usage de ChatGPT sur la péninsule, où le service est désormais inaccessible. La Cnil italienne constate « l’absence de toute base légale justifiant la collecte et le stockage massifs de données personnelles » dans les bases de connaissance utilisées par le robot conversationnel pour produire ses réponses. Elle estime aussi que l’éditeur doit mettre en place un filtre pour empêcher les enfants de moins de 13 ans d’y accéder. Elle a lancé une enquête pour violation présumée du RGPD et donné 20 jours à Open AI, éditeur de ChatGPT, pour y remédier sous peine d’amende.
Pas de pause pour le gouvernement
Interrogé par Radio J sur ces appels à « la pause » sur l’IA, le ministre délégué au numérique, Jean-Noël Barrot, a estimé que cette pause était une « mauvaise réponse », pas plus « réalisable » que « souhaitable ». Le gouvernement entend au contraire « accélérer » comme le prévoit la stratégie nationale sur l’IA pour 2023-2025. Un appel à projets « Démonstrateurs d’intelligence artificielle de confiance » doit ainsi être lancé très prochainement pour soutenir le développement d’innovations matérielles, logicielles et systèmes visant à sécuriser l’IA dans des secteurs critiques (santé, mobilité, réseaux d’énergie…). Le gouvernement annonce également la seconde vague de l’appel à projets « Démonstrateurs d’intelligence artificielle dans les territoires », la sélection des candidats au premier appel à projet étant « en cours de finalisation ». Ces démonstrateurs ont pour objectif de « faire usage d’une IA frugale en énergie et/ou en données au service des défis et objectifs environnementaux des collectivités et des services publics ou intérêts collectifs ». À noter que les entreprises peuvent désormais être cheffes de file des démonstrateurs locaux. Il prévoit enfin une relance de l’appel à projets « Maturation technologique et démonstration de technologies d’intelligence artificielle embarquée ».
Le Sénat enjoint à réguler et à investir
La Commission des affaires européennes du Sénat s’est également saisie de l’IA. Elle a adopté à l’unanimité le 31 mars une proposition de résolution insistant sur l’urgence d’une régulation des systèmes d’intelligence artificielle « conforme aux valeurs européennes ». Les sénateurs estiment que « mal utilisée, l’intelligence artificielle est susceptible de causer de graves atteintes aux droits fondamentaux, qu’il s’agisse du respect de la vie privée, de l’accès à la justice ou encore du respect du principe de non-discrimination ». Les élus rappellent leurs exigences sur le futur cadre européen de l’IA, actuellement en discussion (voir notre article du 22 mars 2023), et notamment l’interdiction des systèmes les plus attentatoires aux droits fondamentaux (notation sociale, reconnaissance des émotions…) et une définition des systèmes à haut risque intégrant les « risques systémiques ». Ils souhaitent aussi ajouter « les fournisseurs de systèmes d’intelligence artificielle à usage générique, capables d’accomplir une grande variété de tâches » [du type ChatGPT] à la liste des IA soumises à obligations. Ils demandent enfin de préciser l’articulation du règlement sur l’IA avec le RGPD. Pour autant, les sénateurs ne souhaitent pas de pause sur l’IA et demandent aux européens de « soutenir l’innovation et les investissements dans ce secteur ». Pour atteindre cet objectif, le Sénat est notamment favorable aux « bacs à sables réglementaires » et à une régulation ex post pour ne pas brider l’innovation.
La Cour des comptes vient de faire le bilan de la Stratégie nationale pour l’intelligence artificielle (Snia). La Cour constate qu’avec la Snia lancée en 2018 le gouvernement a donné « un signal politique fort sur l’importance de l’IA pour la recherche française » mais elle estime, que « l’efficacité de la stratégie n’est pas avérée ». Le rapport en veut pour preuve qu’en nombre de publications scientifiques sur l’IA et sur un total de 47 pays comparés, la France « conserve difficilement une place au 10e rang à l’échelle mondiale et se maintient au 2e rang au niveau européen. Elle demande une « adaptation de la gouvernance et du pilotage de la stratégie » et un meilleur « suivi » des financements engagés. Elle note un effort d’investissement de 3 milliards d’euros auquel les collectivités ont participé à hauteur de quelques millions. Cette participation des collectivités s’est concrétisée par des partenariats de recherche, un appui à la création de quatre instituts interdisciplinaires en intelligence artificielle (3IA) – à Nice, Toulouse, Grenoble et Saclay – et de 43 chaires universitaires. Pour pérenniser ces instituts 3IA, la Cour plaide pour rallonger les financements attribués initialement pour 4 ans. |
.
