Début mars, OpenAI a révélé un nouveau report concernant le lancement de son "mode adulte", qui promet d'autoriser des échanges plus explicites. Officiellement, la société évoque un repositionnement sur d'autres projets. Cependant, les véritables raisons semblent être bien plus complexes, d'après le Wall Street Journal.
Ce "mode adulte" visait à permettre des discussions érotiques, mais son lancement a été freiné par des soucis de sécurité. Parmi les problèmes, OpenAI cherche à affiner son système de détection d'âge, essentiel pour protéger les utilisateurs mineurs en leur proposant des interactions adaptées.
Ce système, annoncé en septembre, n'est pas encore fiable. Il a été constaté qu'il classait à tort près de 12% des mineurs comme majeurs. Un tel taux d'erreur pose la question de la sécurité des jeunes utilisateurs qui pourraient ainsi accéder à des contenus inappropriés.
Entre difficultés et dangers
Les soucis rencontrés par OpenAI ne se limitent pas seulement à la prédiction de l'âge. La compagnie fait face à des défis pour façonner des échanges érotiques tout en écartant les comportements inappropriés, tels que les abus sur mineurs. OpenAI envisage également des restrictions quant à la nature du contenu érotique, en se concentrant sur les échanges textuels sans générer d'images ou de vidéos.
Les préoccupations vont au-delà des simples interactions avec le chatbot. Selon des employés, il existe des risques potentiels comme la dépendance affective au service, des comportements compulsifs, ou une tendance à rechercher des contenus encore plus controversés. La peur est que l'utilisation accrue de ChatGPT remplace les interactions humaines authentiques.
Une source de revenus
Par ailleurs, des critiques émergent sur la réflexion d'OpenAI vis-à-vis des incitations économiques derrière ce projet. Sam Altman, le dirigeant de l'entreprise, avait initialement des réticences quant à l'intégration de contenus érotiques, considérant qu'ils ne concordaient pas avec l'objectif global d'OpenAI d'améliorer l'expérience utilisateur.
Malgré cela, il a annoncé, en octobre, le lancement prochain du "mode adulte", une promesse qui semble désormais compromise. L'incertitude autour de la mise en œuvre du système de détection d'âge soulève des doutes sur une disponibilité en décembre, comme initialement prévu.
Ainsi, le "mode adulte" de ChatGPT demeure en attente, illustrant les frictions entre innovation, sécurité et éthique dans le développement de l'intelligence artificielle.
