La startup ElevenLabs permet de cloner une voix célèbre et lui faire dire un texte prédéterminé. Un outil qui a déjà entrainé de nombreux abus.
Mais le véritable coup de force de cette startup, fondée par d'anciens employés de Google et de Palantir, est de s'inspirer de simples extraits audio, au format MP3, que l'utilisateur peut soumettre à l'algorithme. Au total, il est possible de le faire travailler sur cinquante extraits pour une même voix.
Voici, par exemple, ce que la rédaction de Tech&Co a pu créer en utilisant la voix de Donald Trump, soudainement devenu fan d'Eddy Mitchell.
Et voici Barack Obama qui se plaint du métro parisien.
Cet outil, qui repose tout de même sur une base légale fragile, a évidement rapidement été repris sur les forums où les utilisateurs ont multiplié les blagues plus ou moins tendancieuses. "Alors que nous voyons notre technologie être massivement utilisée de façon positive, nous constatons aussi un nombre croissant de cas d'utilisation abusive du clonage de la voix" a d'ailleurs signalé ElevenLabs sur Twitter.
Selon le site américain Vice, des clips reprenant les voix de célébrités - dont l'actrice britannique Emma Watson proférant des insultes racistes - ont notamment été diffusés. De son côté, ElevenLabs a décidé de mettre à jour ses règles d'usage : d'abord en rendant payante l'option pour copier des voix existantes (cela permettra d'avoir l'identité bancaire de la personne) mais aussi en mettant en place un outil qui permettra d'identifier les voix issues du programme.
Commentaires des Lecteurs
Ils proposent ceci parce qu'ils sont au plus haut degrés du matérialisme et que tout peut être transgressé, dans une vision comme celle la ils perfectionnent leur perfidie et voient un moyen de faire de l'argent en espérant que beaucoup choisissent cette aversion de la nature.
Pardonnez leur ils ne savent pas ce qu'ils font au fond, mais ils sont au fond et font tout pour ne pas être pardonnable.
Cela oriente aussi vers une "société de transparence" #jacques_attali où pour (dé)montrer qqch il faut accepter que tout soit vérifié et donc contrôler. L'effet secondaire et voulu est la mort de la liberté et la mort de la vie privée
On remarque un niveau de "rien est vrai, tout est faux" en bon FM en haut degrés le matérialisme et rien d'autre comme seule vérité... Je rejoins donc ce que tu dis.
Ils passent leurs idéologies par "les bons sentiments", faire accepter le falsifié, le tronqué, la dénature comme quelque-chose d'acceptable et au final comme tu le dis la mort de notre liberté réelle pour une captivité.
Merci