Données personnelles : Mistral AI accusé de ne pas respecter les droits de ses utilisateurs

https://www.linforme.com/tech-telecom/article/donnees-personnelles-mistral-ai-accuse-de-ne-pas-respecter-les-droits-de-ses-utilisateurs_2545.html

Un avocat a porté plainte devant la CNIL contre la start-up tricolore. Selon lui, elle exploiterait les informations d'utilisateurs sans qu'ils aient le choix.

Maître Jérémy Roche a choisi son moment, en plein sommet sur l'IA, pour saisir la CNIL (...) concernant certaines pratiques de Mistral AI. En cause ? Les paramètres imposés par l'entreprise dans la version gratuite de son IA conversationnelle, Le Chat. Contrairement à la formule payante (à partir de 15 euros par mois), elle ne laisse aucune faculté dite « d'opt-out » : les données d'entrée (ce qui a été saisi au clavier) et les données de sortie (les réponses générées par l'IA) sont automatiquement utilisées par Mistral AI « pour entraîner nos modèles d'intelligence artificielle à usage général », dixit la politique de confidentialité. La start-up cofondée par Arthur Mensch, Guillaume Lample et Timothée Lacroix promet certes de déployer des « efforts commercialement raisonnables pour dé-identifier » ces informations, mais sans garantir d'anonymisation totale, ni même décrire le mode opératoire. Par contraste, l'abonné « pro » peut retirer son autorisation à tout moment depuis les paramètres de son compte. Quant à l'abonné « Team » ou « Entreprise », il profite de règles encore plus simples : ses informations ne sont tout simplement pas traitées à des fins d'amélioration du service.

Dans une plainte consultée par l'Informé, Me Roche considère que ce régime ne respecte pas les normes européennes. « Mistral AI conditionne l'exercice de ce droit à un abonnement payant (…) et il est absolument impossible pour un utilisateur de l'offre gratuite d'exercer son droit d'opt-out, écrit l'avocat dans sa plainte. Mistral AI segmente donc artificiellement ses offres commerciales sur ce point alors que l'ensemble de ces utilisateurs devraient, il me semble, pouvoir exercer leur droit d'opt-out. » Selon l'article 12 du RGPD, en principe, aucun paiement ne peut être exigé pour mettre en œuvre une série de droits reconnus aux personnes, et parmi eux le droit d'opposition. Une seule exception est prévue, elle concerne la situation où un responsable de traitements est visé par des demandes « manifestement infondées ou excessives, notamment en raison de leur caractère répétitif ».

Cette pratique, consistant à nourrir la base de données d'entraînement à partir des interactions avec l'IA, n'est pas spécifique à Mistral AI. Chez plusieurs concurrents, toutefois, le droit d'opposition est bel et bien reconnu. Chez Grok, l'IA d'Elon Musk implantée dans X.com, il est possible d'ajuster les paramètres depuis le compte utilisateur pour prohiber ces exploitations. Même constat dans ChatGPT. Après sermons de l'autorité de contrôle italienne, OpenAI a finalement reconnu aux utilisateurs enregistrés ce droit de s'opposer aux traitements à des fins de formation. Perplexity (...) utilise lui aussi par défaut les recherches pour améliorer ses modèles, mais cette fonction peut être désactivée. (...)

Ayaa ce sketch

On a un service qui fonctionne bien, avec un vrai engouement, mais il faut toujours que ça pêche

Pour une fois qu'on rayonne ça ne pouvait pas durer

Si on me donne le choix je veux bien leur donner mes données

Ils auraient pu s'installer aux USA, ils voulaient faire de leur réussite une fierté française, malgré les taxes et tout le bordel, Mistral est totalement respectable

Houla une entreprise d'IA qui utilise des données?!

On arrête tout, SHUT IT DOWN

Le vol des données persos dont il est question ici n'a rien à voir avec le droit d'auteur le demi-habile

Tu racontes quoi l'utilisateur a accepté les CGU et Mistral est l'un des rares qui te permettent d'utiliser leurs IA offline si tu veux un max de confidentialité