Retour aux articles
IA et intégrité des données 5 min de lecture

L'IA générative dans les systèmes d'information : concilier productivité et sécurité

Publié le 18 juin 2024 par Yawo T. A. NYONATO
L'IA générative dans les systèmes d'information : concilier productivité et sécurité

L'adoption rapide des outils d'intelligence artificielle générative par les équipes techniques et métiers pose une question directe aux responsables des données : comment tirer parti de ces assistants sans divulguer d'extraits de bases de production, de schémas sensibles ni d'identifiants ?

1. Le risque d'exposition involontaire des données

Pour déboguer une requête SQL complexe, analyser une anomalie ou synthétiser un rapport, la tentation est forte de copier-coller directement des jeux d'enregistrements réels ou des fichiers de configuration dans un outil externe non maîtrisé. Ce contournement (« Shadow AI ») court-circuite les contrôles d'accès patiemment mis en place sur les bases de données.

Protéger les bases de données ne sert à rien si des extraits nominatifs de production sont copiés manuellement vers des services tiers non encadrés.

2. Préserver la confidentialité et l'intégrité des données

  • Anonymisation et jeux d'essai synthétiques : fournir aux équipes de développement et d'analyse des environnements de test peuplés de données anonymisées ou pseudonymisées.
  • Validation humaine systématique du code généré : une requête SQL ou un script de migration produit par un assistant doit toujours être relu, testé hors production et validé par un DBA avant exécution.
  • Moindre privilège pour les connecteurs automatisés : tout outil d'analyse ou assistant connecté à une base ne doit disposer que d'un accès en lecture seule sur des vues explicitement filtrées.

3. Définir des règles d'usage claires et réalistes

Plutôt qu'une interdiction théorique contournée au quotidien, une charte pragmatique précise ce qui ne doit jamais quitter le périmètre interne (données personnelles, secrets, clés de connexion, sauvegardes) et encadre la revue technique des scripts avant toute mise en production.

Yawo T. A. NYONATO

Yawo T. A. NYONATO

Database Reliability & Data Protection Engineer • Lead Implementer ISO/IEC 27001

15 ans d'expérience en informatique et 8 ans sur des bases de données critiques (PostgreSQL, SQL Server, MySQL), à la continuité d'activité, aux sauvegardes et à la gouvernance des accès.

Un projet ? Une question ?
Parlons-en sans engagement

Fiabilité de vos bases de données, test de restauration, gouvernance des accès ou accompagnement ISO/IEC 27001 : je vous réponds sous 24h ouvrées.