OpenAI Lance « Voice Engine » avec Prudence
OpenAI, la société à l’origine du programme de conversation basé sur l’intelligence artificielle « Chat GPT », a récemment dévoilé « Voice Engine », un outil révolutionnaire de clonage vocal. Cependant, cette avancée n’est pas sans susciter des inquiétudes quant à son potentiel d’abus, notamment dans le contexte sensible des élections.
Le « Voice Engine » d’OpenAI est une prouesse technique permettant de reproduire fidèlement la voix humaine à partir d’un simple échantillon de 15 secondes. Cette capacité à imiter la voix est une avancée majeure dans le domaine de l’intelligence artificielle générative. Toutefois, elle soulève des questions éthiques et sécuritaires importantes, surtout en cette année électorale où la désinformation peut avoir des conséquences considérables.
Consciente des risques, OpenAI a adopté une démarche prudente, collaborant étroitement avec des partenaires variés, allant des gouvernements aux médias, en passant par les secteurs du divertissement et de l’éducation. L’objectif est de recueillir des retours et d’ajuster l’outil pour prévenir tout abus potentiel.
Les chercheurs en désinformation médiatique mettent en garde contre l’utilisation malveillante de telles technologies, qui, bien que bon marché et accessibles, sont difficiles à détecter et peuvent être utilisées pour créer des campagnes de tromperie sophistiquées.
En réponse à ces préoccupations, OpenAI a mis en place des mesures de sécurité rigoureuses, telles que des filigranes audio pour tracer l’origine des voix générées et une surveillance proactive de l’utilisation de « Voice Engine ». De plus, la société insiste sur le consentement explicite des individus avant toute utilisation de leur voix et sur la transparence vis-à-vis des auditeurs quant à la nature artificielle des voix produites.
Cette initiative d’OpenAI intervient dans le sillage d’incidents récents où des voix synthétiques ont été utilisées à des fins frauduleuses, poussant les États-Unis à interdire les appels électoraux et commerciaux exploitant de telles technologies. La mise en œuvre de « Voice Engine » sera donc scrutée de près, tant pour ses applications prometteuses que pour les défis éthiques qu’elle représente.
