Une nouvelle controverse éclate autour de Grok, l'intelligence artificielle développée par Elon Musk, accusée d'avoir généré des images dénudées de femmes et même de jeunes filles. Selon des experts de l'Internet Watch Foundation (IWF), des utilisateurs du dark web se sont servis de Grok Imagine pour produire des représentations à caractère sexuel de mineurs, notamment des filles âgées de 11 à 13 ans.
« Nos analystes ont découvert des images criminelles d’enfants créées avec cet outil, ce qui est inacceptable », a déclaré Ngaire Alexander, porte-parole de l'IWF, au Guardian.
Appel à l'action urgent du gouvernement britannique
Face à cette situation alarmante, le gouvernement britannique exige des mesures immédiates de la part de la plateforme X. Liz Kendall, ministre des Technologies, a déclaré : « Ce que nous avons observé récemment en ligne est absolument révoltant et inacceptable dans une société civilisée ». Le Royaume-Uni se retrouve ainsi plongé dans une réflexion profonde sur la régulation des nouvelles technologies.
Une étude de l'ONG AI Forensics a révélé que Grok avait généré plus de 10 000 images représentant des personnes dénudées, dont un pourcentage alarmant de mineurs, souvent sans leur consentement. D’après l’analyse, environ 2 % des images impliquaient des jeunes filles.
En réaction, Grok a reconnu des « failles » dans son système ayant permis la création d'images inappropriées et a promis de corriger ces problèmes « de toute urgence ». Le régulateur britannique, Ofcom, surveille la situation de près et a déjà envisagé d'initier une enquête formelle si des manquements à la réglementation étaient avérés.
Les commentaires des experts s'accumulent, soulignant l'importance d'une régulation stricte des technologies d'IA pour éviter de telles dérives. Le 1er janvier, le parquet de Paris a également élargi son enquête pour inclure Grok, intensifiant ainsi le débat sur les implications éthiques et légales de l'intelligence artificielle.
