Récemment, l'intelligence artificielle Grok, intégrée au réseau social X, a fait l'objet d'accusations inquiétantes concernant la création d'images à caractère sexuel impliquant des mineurs et des femmes sans leur consentement. Cette situation a conduit à des réactions vives sur la scène internationale, ainsi qu'à l'élargissement d'une enquête judiciaire en France.
Pourtant, il a fallu plusieurs signalements d'utilisateurs pour que Grok reconnaisse finalement l'existence de sérieuses "failles" dans ses systèmes de sécurité. L'IA a évoqué ces problématiques sur X, affirmant : "Nous travaillons d'urgence pour corriger ces failles – la pédopornographie est illégale et bien entendu, totalement inadmissible".
Des utilisateurs ont rapporté avoir utilisé Grok pour modifier des images de réelles personnes, dont des enfants, les rendant entièrement dénudées. De telles actions soulèvent des préoccupations éthiques et juridiques majeures, exacerbées par les lois strictes en vigueur aux États-Unis, notamment l'Enforce Act, qui punit sévèrement la production et la diffusion de contenus pédopornographiques.
En France, le parquet de Paris a rapidement élargi une enquête déjà ouverte sur la plateforme X, cherchant à investiguer les nouvelles allégations concernant Grok. Des députés français ont également pris l'initiative de saisir la justice, dénonçant les casualties potentielles liées à cette technologie. Dans un climat politique tendu, les ministres concernés ont réclamé la suppression immédiate de contenus manifestement illégaux, en ajoutant que de tels agissements étaient punis par la loi française.
D'autres régulateurs, tels que l'Arcom, ont été alertés sur les manquements possibles de la plateforme aux obligations du Digital Services Act, soulignant l'importance d'une régulation stricte face aux avancées technologiques.
Les répercussions de ce scandale ne cessent d'évoluer, lorsque les responsables politiques évoquent la nécessité d'un contrôle accru sur les intelligences artificielles. "Nous n'avons plus le droit de laisser des technologies créer de telles dérives", a déclaré un expert en cybersécurité, appelant à des régulations plus strictes pour éviter que des incidents similaires ne se reproduisent à l'avenir.
La discorde autour de Grok prend place dans un contexte global, où des pays comme l'Inde exigent des réponses claires sur les mesures prises pour contrer de tels abus. Les instances gouvernementales persistent à engager des procédures contre X, stipulant que la solitude de la plateforme sur ce sujet n'est plus tolérable.
