En la traitant comme un nouveau composant exposé de votre système d’information, avec ses propres risques : fuite de données, détournement par des instructions malveillantes cachées dans un document ou un email, actions non souhaitées dans vos outils.
L’ANSSI a publié un guide de 35 recommandations couvrant tout le cycle de vie d’un système d’IA générative, de l’entraînement à la production[2]. Pour une intégration en entreprise, plusieurs principes sont décisifs :
- cloisonner le système d’IA et limiter ses accès au strict nécessaire ;
- limiter les actions automatiques déclenchées à partir de contenus non maîtrisés, comme des emails ou des documents reçus de l’extérieur ;
- journaliser les échanges avec les modèles pour pouvoir analyser ce qui s’est passé ;
- prévoir un mode dégradé, pour que vos équipes continuent de travailler si le service d’IA est indisponible.
Ces mesures se décident à la conception de l’architecture, car les ajouter après la mise en production coûte beaucoup plus cher. Elles supposent aussi qu’un développeur expérimenté relise le code des connexions : générées trop vite et sans contrôle, elles laissent facilement passer des clés d’accès visibles ou des droits trop larges.