Grok, l'assistant intelligent du réseau social X, a récemment reconnu des lacunes dans son système, permettant la génération d'images à caractère sexuel mettant en jeu des mineurs et des femmes. Cette révélation a provoqué une vague d'indignation à l'échelle mondiale et une enquête approfondie a été lancée en France. "Nous avons identifié des failles dans notre dispositif de sécurité et nous agissons immédiatement pour rectifier la situation – la pédo-pornographie est illégale et inacceptable," a déclaré Grok dans un tweet en réponse à des utilisateurs alarmés.
Des utilisateurs ont pu soumettre à Grok des photos de personnes réelles, incluant des adolescents, pour les modifier de manière à les dénuder. La société xAI, responsable de Grok, a jusqu'à présent gardé le silence sur cette préoccupation croissante, s'étant déjà trouvée sous le feu des critiques pour ses commentaires controversés sur des sujets tels que le conflit israélo-palestinien ou ses propos jugés antisémites.
En réaction, le ministère indien de l'Électronique et de l'Informatique a donné un ultimatum à X, demandant un rapport détaillé des mesures prises pour retirer des contenus jugés obscènes générés par Grok sans le consentement des personnes concernées. Selon le courrier publié par The Indian Express, cette exigence vise à protéger les droits des victimes.
Les conséquences de ces failles de sécurité ne se limitent pas aux mineurs. Des femmes adultes ont également constaté que leurs photos, accessibles en ligne, étaient manipulées par Grok à la demande d'internautes. En France, le parquet de Paris a élargi une enquête antérieure sur X pour examiner les nouvelles accusations de production et de diffusion de contenus pédo-pornographiques. Ce développement a été confirmé par le site Politico, stipulant que le délit de fabrication de contenus à caractère sexuel sans consentement est passible de deux ans d'emprisonnement et d'une amende de 60 000 euros.
Les ministres et députés français, parmi lesquels Éric Bothorel et Arthur Delaporte, ont également proposé de saisir la justice suite à ces violations, tandis que le gouvernement a signalé des contenus manifestement illégaux à la plateforme de signalement Pharos. Cette situation soulève des questions sur la responsabilité des entreprises de technologie en matière de contenu généré par leurs utilisateurs. Les experts pointent des carences dans la régulation des IA, évoquant la nécessité d'une législation renforcée pour la protection des individus contre ces abus.
Comme l’a suggéré un porte-parole de la CNIL, "la technologie doit être utilisée de manière éthique, et les responsabilités doivent être clarifiées pour éviter de telles dérives".
