Les deepfakes alimentés par l'IA soulèvent des préoccupations concernant l'identité numérique alors que Scarlett Johansson plaide pour des réglementations plus strictes.

L'actrice Scarlett Johansson appelle les législateurs américains à établir des réglementations plus strictes sur l'intelligence artificielle après qu'une vidéo deepfake non autorisée la représentant, ainsi que plusieurs autres célébrités juives, a suscité une attention généralisée sur les plateformes de médias sociaux.

La vidéo générée par l'IA montrait l'actrice hollywoodienne de 40 ans aux côtés de plus d'une douzaine de célébrités juives populaires semblant s'opposer aux récents commentaires antisémites du rappeur Kanye West sur la plateforme de médias sociaux X.

Deepfakes de célébrités et droits d'identité numérique

Dans la vidéo non autorisée, Johansson apparaît portant un T-shirt blanc arborant une main affichant son majeur. L'incident fait suite aux déclarations antisémites controversées de West le week-end dernier, qui incluaient la vente de marchandises sur le thème de la Swastika sur son site Web.

"Il m'a été signalé par des membres de ma famille et des amis qu'une vidéo générée par IA mettant en vedette mon apparence... circule en ligne et gagne en popularité," a déclaré Johansson au magazine People mercredi.

"Je suis une femme juive qui n'a aucune tolérance pour l'antisémitisme ou le discours de haine sous quelque forme que ce soit. Mais je crois aussi fermement que le potentiel de discours de haine multiplié par l'IA représente une menace bien plus grande que celle d'une seule personne qui en assume la responsabilité. Nous devons dénoncer le mauvais usage de l'IA, quelle que soit sa portée, sinon nous risquons de perdre prise sur la réalité."

La vidéo, apparemment créée par l'expert israélien en IA générative Ori Bejerano, présente également des versions générées par l'IA d'environ 20 célébrités, y compris Adam Sandler, Mila Kunis, Drake, Jerry Seinfeld, Steven Spielberg, Mark Zuckerberg, Sacha Baron Cohen, Jack Black, Lenny Kravitz, Ben Stiller et David Schwimmer.

Dans la vidéo, toutes les célébrités portent des T-shirts blancs similaires affichant un doigt d'honneur avec une étoile de David au centre de la main et le nom de West en dessous. La vidéo se termine par la déclaration "Assez c'est assez" et encourage les spectateurs à "Rejoindre la lutte contre l'antisémitisme."

Défis de la protection de l'identité numérique dans le Web3

Johansson a exprimé sa frustration d'être "une victime très publique de l'intelligence artificielle" tout en avertissant que "la menace de l'IA affecte chacun d'entre nous." Ses préoccupations soulignent les problèmes croissants liés à la protection de l'identité numérique qui sont devenus de plus en plus pertinents dans l'écosystème Web3, où la vérification du contenu authentique reste un défi significatif.

« Une vague de 1000 pieds se profile concernant l'IA à laquelle plusieurs pays progressistes, à l'exception des États-Unis, ont répondu de manière responsable », a noté Johansson dans sa déclaration.

"J'exhorte le gouvernement américain à faire de l'adoption d'une législation limitant l'utilisation de l'IA une priorité absolue ; c'est une question bipartisane qui affecte énormément l'avenir immédiat de l'humanité dans son ensemble."

L'actrice a également exprimé son inquiétude quant au fait que le gouvernement américain semble "paralysé lorsqu'il s'agit de passer une législation qui protège tous ses citoyens contre les dangers imminents de l'IA."

Modèle récurrent d'utilisation abusive de l'identité numérique

Cet incident n'est pas la première rencontre de Johansson avec la reproduction non autorisée de son image par l'IA. En mai 2024, elle a critiqué OpenAI après avoir découvert que leur voix ChatGPT, Sky, ressemblait étrangement à sa propre voix. Bien qu'OpenAI ait soutenu que Sky n'était "pas une imitation de Johansson", ils ont ensuite suspendu la fonctionnalité vocale.

En novembre 2023, Johansson a menacé d'une action en justice une entreprise qui avait utilisé son image dans une publicité. L'entreprise a nié les allégations, déclarant : "La vidéo comprenait des images produites par Lisa AI. Cela n'a rien à voir avec cette personne."

Alors que Johansson est actuellement la seule star de la vidéo fausse à s'exprimer contre l'utilisation non autorisée de son image en relation avec West, d'autres célébrités ont déjà exprimé leurs préoccupations. Avant sa publicité pour le Super Bowl, l'acteur de "Friends", David Schwimmer, a publiquement demandé au propriétaire de la plateforme, Elon Musk, de restreindre l'accès de West à X.

"Nous ne pouvons pas empêcher un bigot dérangé de déverser de la haine, de l'ignorance et de la bile... mais nous POUVONS cesser de lui donner un mégaphone, M. Musk," a écrit Schwimmer sur Instagram.

"Kanye West a 32,7 millions de followers sur votre plateforme, X. C'est deux fois plus de personnes que le nombre de Juifs existants. Son discours de haine malade entraîne des violences réelles contre les Juifs," a ajouté Schwimmer.

Selon les rapports de CNN, West a désactivé son compte X dimanche. Hen Mazzig, co-fondateur de l'Institut de Tel Aviv, dont l'organisation travaille à lutter contre l'antisémitisme et la désinformation sur les réseaux sociaux, a commenté la vidéo IA : "L'utilisation abusive de l'IA est dangereuse, sans aucun doute. Mais savez-vous ce qui est encore plus dangereux ? La haine antisémite non contrôlée étant diffusée à des millions chaque jour."

Solutions Web3 pour la vérification d'identité numérique

La controverse met en évidence le besoin croissant de solutions d'identité décentralisées dans l'espace Web3. Alors que le contenu numérique devient de plus en plus difficile à authentifier, les systèmes de vérification basés sur la blockchain pourraient fournir des mécanismes de confiance nécessaires pour le contenu numérique. Plusieurs projets développent des solutions qui permettraient aux célébrités et aux créateurs de contenu de maintenir leur souveraineté sur leurs identités numériques grâce à la vérification cryptographique.

La protection de l'identité numérique est devenue une préoccupation majeure pour la communauté des cryptomonnaies et du Web3, car les mêmes technologies qui permettent la finance décentralisée pourraient potentiellement offrir des solutions pour vérifier le contenu authentique. Alors que la réglementation rattrape les capacités technologiques, les plateformes de trading et les communautés d'actifs numériques continuent de surveiller ces développements de près.

Les experts en sécurité notent que les incidents impliquant des deepfakes de célébrités ont des implications plus larges pour les marchés des actifs numériques, où la confiance et l'authenticité demeurent des préoccupations primordiales. La sophistication croissante du contenu généré par l'IA pose des défis pour les systèmes de vérification à travers les économies numériques, nécessitant des solutions avancées qui équilibrent innovation et protection des droits individuels.