La Federal Trade Commission (FTC) des États-Unis a commencé à accepter les soumissions pour son Défi de clonage vocal, un concours public doté d’un premier prix de 25 000 $pour des idées qui protègent les consommateurs du danger du clonage vocal activé par l’IA pour des activités frauduleuses.
Le Défi a été annoncé à la mi-novembre dans le but de trouver des moyens de contrer l’utilisation abusive de la technologie de clonage vocal à mesure qu’elle devient plus sophistiquée en raison de l’amélioration de la synthèse vocale à l’aide de l’intelligence artificielle.
L’IA peut être utilisée pour cloner la voix d’une personne en analysant un clip audio de la parole cible pour extraire des caractéristiques vocales uniques, puis en utilisant les données d’entraînement pour générer une nouvelle parole.
Bien que le clonage vocal ait des utilisations légitimes, telles que des services de synthèse vocale personnalisés et des outils d’assistance pour les personnes handicapées, les acteurs de la menace peuvent également l’utiliser pour des activités frauduleuses telles que le phishing vocal, l’ingénierie sociale et d’autres types d’escroqueries vocales.
En se faisant passer pour la voix d’une personne familière à la cible, comme un membre de la famille ou une célébrité, des acteurs malveillants peuvent facilement amener les gens à croire les affirmations faites dans un appel ou un message vocal.
“[La technologie de clonage vocal] présente un risque important: les familles et les petites entreprises peuvent être la cible d’escroqueries frauduleuses par extorsion; les professionnels de la création, tels que les artistes vocaux, peuvent se faire approprier leur voix de manière à menacer leurs moyens de subsistance et à tromper le public. »- Commission Fédérale du Commerce
À travers le Défi du clonage vocal, la FTC vise à trouver une solution permettant d’identifier les cas de clonage vocal à l’aide d’une IA générative. L’agence appelle cela “un défi exploratoire » qui pourrait potentiellement fournir une orientation pour l’effort d’atténuation des risques.
La proposition gagnante recevra 25 000 and et le finaliste recevra 4 000.. Il y a jusqu’à trois mentions honorables, chacune récompensée par 2 000$.
Le 2 janvier, l’agence a commencé à accepter les soumissions via ce portail et recevra des idées pendant 10 jours, jusqu’au 12 janvier à 20h00 HNE.
Les soumissions doivent inclure un aperçu d’une page de la proposition et une description détaillée d’un maximum de 10 pages. Les participants peuvent également inclure une vidéo pour montrer comment fonctionne leur idée.
Toutes les soumissions seront jugées en fonction de leur faisabilité pratique, de leur impact sur la responsabilité des entreprises et de la charge pesant sur le consommateur, ainsi que de leur résilience aux progrès technologiques rapides dans le domaine.
Si le défi ne donne aucune idée de défense efficace, la FTC note que l’effort servira d’alerte précoce pour les décideurs et soulignerait la nécessité d’une réglementation plus stricte sur l’utilisation de la technologie de l’IA.