Prendre les précautions indispensables à un usage responsable et sécurisé – Fiche IA 4
Bénéficier d’un accompagnement et d’un soutien
Se former aux enjeux et risques de l’IA
S’agissant d’une technologie nouvelle et en évolution permanente, il est essentiel de se former aux enjeux et risques de l’IA avant de l’utiliser puis tout au long des retours d’expérience. Profitez des programmes d’accompagnement mis en place par l’État :
Validez avec vos collaborateurs leurs bonnes pratiques et leur hygiène informatique
Définissez les conditions d’usage de l’outil. Un document doit décrire pour tous les collaborateurs ce qu’ils peuvent faire avec le système : comment l’utiliser, comment vérifier les résultats, quelles précautions prendre en termes de confidentialité. Par exemple, ce document peut contenir des « prompts » types pour harmoniser les pratiques des
utilisateurs.
Partagez uniquement ce qui peut l’être. Tout ce que vous entrez dans les requêtes ou partagez pourra être utilisé comme données d’entraînement pour l’IA dans les outils en ligne grand public. N’introduisez pas de données confidentielles, personnelles ou stratégiques.
L’IA générative ne remplace pas la réflexion et l’intervention humaine
La décision finale reste humaine : il est nécessaire de prendre du recul et de critiquer les réponses apportées.
Se prémunir contre la perte de savoir et la dépendance
Même si l’IA amène de la valeur, il est important de continuer à capitaliser sur l’expertise métier de l’entreprise et ne de pas devenir dépendant du système d’IA. Vos connaissances, votre expérience restent précieuses à long terme.
Évaluer les risques et la conformité
Le déploiement d’un modèle de langage est l’occasion de vérifier les protections et mesures de sécurité
informatiques et de vous assurer que vous respectez la réglementation. Le RGPD ou le règlement européen sur l’IAreposent sur les mêmes principes (contrôle humain, robustesse techniques, respect de la vie privée et gouvernance des données, transparence et explicabilité).
De nouveaux outils engendrent de nouveaux risques, identifiez les failles et leurs remèdes avec la grille ci-dessous.
Conformité à la réglementation relative aux données à caractère personnel ou sensible
- S’assurer de la conformité au RGPD est un point essentiel, car sans protection des données
personnelles, vous ne pouvez établir une relation de confiance.
Comment se mettre en conformité ? - Identifiez vos données sensibles (informations relatives à des personnes physiques ou données
contractuelles ou financières). Ne les introduisez pas dans les prompts ou anonymisez-les. - Vous êtes une profession réglementée, vérifiez le cadre juridique applicable.
(Ex. : les professionnels de santé ont des obligations spécifiques pour certains dispositifs
médicaux.)
Règles éthiques
Les modèles de langage peuvent s’entraîner sur des contenus sexistes ou racistes, sur des contenus truqués ou sur des informations erronées. Il est donc toujours nécessaire de vérifier la qualité des informations produites pour se
demander si elles sont conformes aux règles éthiques et si elles n’engendrent pas de discrimination.
Responsabilité
Évaluez les conseils ou explications donnés par l’IA, vérifiez-les en gardant un esprit critique car l’entreprise est responsable des IA qu’elle déploie et des décisions qu’elle prend sur cette base. En utilisant un outil d’IA avec des données personnelles, vous devenez « Responsable de Traitement » au sens du RGPD. Il est alors nécessaire de respecter les obligations, sous peine de sanctions en cas de fuite de données personnelles ou de non-respect des droits des personnes.
Sécurité
Prenez connaissance des « recommandations de sécurité pour un système d’IA générative » de l’Agence nationale de la sécurité des systèmes d’information (ANSSI).
.