Des célébrités dans l’embarras à cause d’Eleven Labs
Les utilisateurs partagent des messages créés et modifiés à l’aide du programme « Eleven Labs » dans lesquels de fausses voix d’un certain nombre de célébrités, dont une actrice britannique et un journaliste américain.
Eleven Labs, une start-up qui a introduit un outil de clonage vocal utilisant un logiciel d’intelligence artificielle, a déclaré avoir détecté « une utilisation abusive croissante » de son logiciel à un moment où la manipulation vocale se répand en ligne.
La société basée à Londres a récemment lancé une version bêta de sa plate-forme pour créer « des outils qui produisent des mots avec des sons très proches de la réalité » après avoir levé 2 millions de dollars.
Les utilisateurs de la page anonyme « 4Chan » ont partagé des messages créés à l’aide du programme contenant de fausses voix d’un certain nombre de célébrités, dont l’actrice britannique Emma Watson et le journaliste américain Joe Rogan, dans le but de leur faire prononcer des phrases racistes et discriminatoires.
Dans une lettre, on entend une voix semblable à celle d’Emma Watson lire un passage de Mein Kampf d’Adolf Hitler, tandis que dans une autre, une voix similaire à celle de l’analyste américain Ben Shapiro menace de violer la représentante Alexandria Ocasio-Cortez.
Les voix des réalisateurs Quentin Tarantino et George Lucas ont également été utilisées à mauvais escient.
Eleven Labs a tweeté lundi: « Nous voulons résoudre ce problème en adoptant des protections supplémentaires. »
