L’intelligence artificielle dite « générative » permet de créer des contenus (texte, code informatique, images, musique, audio, vidéos, etc.) et de réaliser un certain nombre de tâches visant généralement à accroître la créativité et la productivité des personnes qui les utilisent. Son développement s’appuie sur l’utilisation de gros volumes de données, dont certaines peuvent être personnelles. À ce titre, pour respecter les droits des personnes sur leurs données, la CNIL livre un certain nombre de précautions à respecter.
Encadrer en amont les usages de l’IALa CNIL recommande, par exemple, de définir en amont les usages de cette IA en créant une liste d’utilisations autorisées et de celles interdites compte tenu des risques encourus (par exemple, ne pas fournir de données personnelles au système, ou encore ne pas confier de prise de décision). Elle insiste également sur le fait de choisir un système robuste et un mode de déploiement sécurisé, en privilégiant le recours à des systèmes locaux, sécurisés et spécialisés.
La CNIL devrait de nouveau publier prochainement des recommandations sur les systèmes d’IA générative.
Pour en savoir plus : www.cnil.fr/