Journal Officiel
Retour dernier bulletin quotidien
Envoyer à un ami
Version imprimable
Partager
Le récent engouement pour les produits et services d’Intelligence Artificielle (IA) générative, dont certains sont rendus facilement accessibles au grand public, a entraîné des réflexions au sein des organisations publiques et privées afin d’étudier les éventuels gains de productivité qui pourraient en découler.
Si cette technologie offre de nouvelles perspectives, il convient d’adopter une posture de prudence lors de son déploiement et de son intégration dans un système d’information existant.
Le guide de recommandations de sécurité pour un système d’IA générative de l’ANSSI s’intéresse à la sécurisation d’une architecture de système d’IA générative. Il vise à sensibiliser les administrations et entreprises aux risques liés à l’IA générative ainsi qu’à promouvoir les bonnes pratiques à mettre en œuvre depuis la phase de conception et d’entrainement d’un modèle d’IA jusqu’à la phase de déploiement et d’utilisation en production.
Les problématiques de sécurité liées à la qualité des données et à la performance d’un modèle d’IA d’un point de vue métier ne sont pas traitées dans ce document, de même que les enjeux comme l’éthique, la vie privée ou encore la protection des données personnelles.
L’IA générative :
Il s’agit de modèles d’IA entraînés à générer du contenu (texte, images, vidéos) à partir d’un corpus spécifique de données d’entraînement.
Cela comprend les Large Language Model (LLM). Les LLM permettent de générer une réponse à une question formulée en langage naturel à partir d’un modèle entraîné sur des volumes de données très importants.
ANSSI - Document complet
Si cette technologie offre de nouvelles perspectives, il convient d’adopter une posture de prudence lors de son déploiement et de son intégration dans un système d’information existant.
Le guide de recommandations de sécurité pour un système d’IA générative de l’ANSSI s’intéresse à la sécurisation d’une architecture de système d’IA générative. Il vise à sensibiliser les administrations et entreprises aux risques liés à l’IA générative ainsi qu’à promouvoir les bonnes pratiques à mettre en œuvre depuis la phase de conception et d’entrainement d’un modèle d’IA jusqu’à la phase de déploiement et d’utilisation en production.
Les problématiques de sécurité liées à la qualité des données et à la performance d’un modèle d’IA d’un point de vue métier ne sont pas traitées dans ce document, de même que les enjeux comme l’éthique, la vie privée ou encore la protection des données personnelles.
L’IA générative :
Il s’agit de modèles d’IA entraînés à générer du contenu (texte, images, vidéos) à partir d’un corpus spécifique de données d’entraînement.
Cela comprend les Large Language Model (LLM). Les LLM permettent de générer une réponse à une question formulée en langage naturel à partir d’un modèle entraîné sur des volumes de données très importants.
ANSSI - Document complet
Dans la même rubrique
-
Actu - Les dépenses européennes en IA atteindront 133 milliards de dollars d'ici 2028
-
Doc - L’arrivée de la fibre dans un bâtiment neuf en quatre étapes
-
Actu - Vers le numérique pour tous
-
Actu - Sans une stratégie de données solide, l'IA reste une promesse inexploitée
-
Actu - « La directive NIS2 montre l’importance d’une souveraineté européenne en matière de cybersécurité »
Déconnexion
