IA générative
De Wiki du Numérique Responsable
Une IA générative est un système d’intelligence artificielle capable de produire de nouveaux contenus, textes, images, sons, vidéos, code, à partir des régularités apprises sur un large ensemble d’exemples.
Fonctionnement et limites
Le modèle ne consulte pas une base de connaissances : il produit la suite la plus probable au regard de ce qu’il a appris. Deux conséquences suivent directement de ce mécanisme.
La plausibilité n’est pas l’exactitude. Une production fausse peut être parfaitement bien formulée. La vérification reste à la charge de l’utilisateur.
Il n’y a pas de source. Le modèle ne peut pas, par construction, indiquer d’où vient une affirmation, sauf dispositif complémentaire de recherche documentaire.
Enjeux
- Confidentialité : ce qui est saisi peut être conservé ou réutilisé par le fournisseur (voir Shadow AI) ;
- Droits : sur les données d’entraînement comme sur les contenus produits ;
- Transparence : l’AI Act impose d’informer qu’un contenu a été généré ;
- Ressources : chaque génération est une inférence, dont le coût varie fortement selon la taille du modèle sollicité.
