Le directeur d'OpenAI, Sam Altman, a exprimé ses regrets concernant la gestion des échanges d'une utilisatrice lié à une fusillade tragique à Tumbler Ridge, Canada. Dans une lettre envoyée aux habitants de la ville, publiée par le média local Tumbler RidgeLines, Altman a souligné que « personne ne devrait jamais subir une telle tragédie ». Cette déclaration fait suite à l'événement survenu en février, lorsque l’auteure, Jesse Van Rootselaar, a été impliquée dans une fusillade où plusieurs vies ont été perdues, ainsi qu'en raison des inquiétudes soulevées concernant ses interactions avec ChatGPT.
Dans sa lettre, Altman a reconnu être « profondément désolé » que la société n'ait pas alerté les autorités des préoccupations soulevées par les échanges de Van Rootselaar. Il a déclaré : « Bien que je sache que les mots ne suffiront jamais, je pense qu'il est essentiel de présenter des excuses pour reconnaître le préjudice et la perte irréversible que votre communauté a subies. »
La police n'avait pas été informée des échanges, même si la situation soulevait des inquiétudes sur une potentielle violence, car OpenAI n'avait décelé aucun signe d'un passage à l'acte imminent. Cette situation a soulevé d'intenses critiques et conduira probablement à des changements dans les protocoles de sécurité d'OpenAI. Comme le rapportent plusieurs médias français, les dirigeants de l'entreprise ont été convoqués à Ottawa pour détailler leurs pratiques de sécurité. De plus, la famille d'une victime blessée a porté plainte contre l'entreprise, exacerbant ainsi la pression sur OpenAI.
Cette triste affaire interroge également les experts en éthique technologique, qui soulèvent des préoccupations sur la responsabilité des plateformes d'IA et leur comportement face à des contenus potentiellement dangereux. Au regard des échanges sur la violence, certains analystes estiment que des régulations plus strictes doivent être mises en œuvre pour protéger le public de l'utilisation abusive de ces technologies.
