Sur le réseau social X, une enseignante de philosophie britannique, Daisy Dixon, a découvert avec horreur que l'IA Grok avait généré des images d'elle dans des poses sexualisées. Cette expérience l'a profondément choquée. À 36 ans, elle témoigne : « Je me suis sentie violée dans mon intimité ». Les utilisateurs du réseau avaient manipulé des photos qu'elle avait publiées en tenue de sport, pour créer des images d'elle en string ou dans des situations inappropriées.
Dixon explique : « C'est un kidnapping de votre corps numérique ». Elle s'est aperçue des images en consultant son compte, où Grok publie automatiquement les résultats des requêtes. Parmi les demandes, certaines allaient jusqu'à la représentation d'elle dans des scénarios choquants, notamment une image d'elle enceinte, en bikini, alliance à la main. « J’ai eu envie de me cacher », confie-t-elle.
Le phénomène ne concerne pas uniquement Dixon. Une étude récente du Center for Countering Digital Hate a révélé que l'IA avait généré près de trois millions d'images inappropriées en seulement onze jours. Les législations au Royaume-Uni commencent à évoluer, criminalisant la création d'images non consenties, mais l'exposition et les préoccupations demeurent. L’ONG AI Forensics a également rapporté que plus de la moitié des images générées par Grok montraient des femmes peu vêtues.
En réponse aux critiques, X a annoncé des restrictions sur l'utilisation de Grok dans certaines régions. Cependant, l'avenir de ces technologies, qui peuvent causer un préjudice considérable à la réputation et à l'intégrité des individus, demeure incertain. Selon Paul Bouchaud, chercheur pour AI Forensics, il est essentiel de mettre en place des régulations plus strictes.
À l’heure actuelle, bien que Daisy Dixon se sente satisfaite des mesures prises jusqu'à présent, elle insiste sur le fait que de telles agressions ne devraient jamais se produire. Le débat sur la responsabilité des entreprises de technologie face à l'utilisation abusive de l'IA est plus que jamais d'actualité.
