Points clés à retenir
- AOC dirige l’introduction bipartite et bicamérale de la loi DEFIANCE pour lutter contre les médias « deepfake » sexuellement explicites.
- Selon Ocasio-Cortez, 96 % des vidéos deepfake circulant en ligne sont de la pornographie non consensuelle.
- Ocasio-Cortez elle-même a été victime d’images deepfake non consensuelles.
La représentante Alexandria Ocasio-Cortez est à la tête du Loi DEFIANCE de 2024, ciblant la diffusion de contenus explicites non consensuels générés par l’IA.
Cette loi vise à tenir pour responsables les personnes impliquées dans la création, la distribution ou la réception de tels documents.
Sommaire
Initiative législative de l'AOC contre la pornographie Deepfake
La loi DEFIANCE de 2024 propose des amendements à la loi sur la violence à l'égard des femmes, permettant aux victimes d'engager des poursuites judiciaires contre les auteurs.
La législation se concentre sur la protection des individus contre les représentations numériques non autorisées et préjudiciables, en soulignant l'importance du consentement.
Le projet de loi modifie la loi sur la violence à l'égard des femmes (VAWA) et permet aux victimes de poursuivre en justice ceux qui produisent, distribuent ou reçoivent de la pornographie deepfake.
La députée Alexandria Ocasio-Cortez a déclaré dans le communiqué de presse :
« Les victimes de deepfakes pornographiques non consensuels ont attendu trop longtemps qu’une législation fédérale oblige les auteurs à rendre des comptes. Alors que les deepfakes deviennent plus faciles d’accès et de création – 96 % des vidéos deepfakes circulant en ligne sont de la pornographie non consensuelle – le Congrès doit agir pour montrer aux victimes qu’elles ne seront pas laissées pour compte.
Co-dirigé par les sénateurs Dick Durbin et Lindsey Graham, le projet de loi a recueilli l'appui de plus de 25 organisations. Il s’agit d’un effort bipartisan du Congrès, soulignant l’inquiétude importante et la nécessité d’une réglementation dans ce domaine.
L'incident Deepfake de Taylor Swift incite à une action brutale sur X
Les géants des médias sociaux sont appelés à mettre en œuvre des politiques efficaces pour lutter contre l’inquiétude croissante suscitée par les deepfakes à la suite d’une récente série de scandales de deepfake impliquant des célébrités comme Taylor Swift, Bobbi Althoff et Jenna Ortega.
Ces scandales ont attiré davantage l’attention sur la question du consentement numérique et de l’efficacité de la modération des médias sociaux.
En réponse à la diffusion d'images deepfake de Taylor Swift, X a mis en place une vaste mesure en bloquant tous les termes de recherche associés à l'artiste. Cette décision fait suite à un incident important au cours duquel le contenu explicite généré par l'IA mettant en vedette Swift était accessible pendant 19 heures.
L'action drastique de la plateforme a déclenché un débat sur l'efficacité et l'éthique de telles stratégies de modération. Les critiques affirment que la réponse a été plus réactive que proactive et a démontré une incapacité à modérer de manière appropriée le contenu offensant.
Former les forces de l’ordre pour détecter les DeepFakes
La détection manuelle des deepFakes est encore, pour la plupart, possible. Cependant, cette tâche demande beaucoup de main d’œuvre et nécessite une formation appropriée.
Un rapport d'Europol cite un 2020 étude par Sensity, une société basée à Amsterdam qui détecte et suit les deepfakes en ligne, a trouvé 85 047 vidéos deepfakes sur des sites de streaming populaires, doublant tous les 6 mois.
Le rapport a souligné que les agents chargés de l’application des lois devront développer de nouvelles compétences non seulement pour perfectionner leur personnel dans la détection des deepfakes, mais également « investir dans leurs capacités techniques pour relever efficacement les défis à venir tout en respectant les droits fondamentaux ».
Les agents chargés de l'application des lois devront recourir à des méthodes testées et éprouvées lors de la réalisation d'enregistrements audiovisuels, ainsi qu'employer des garanties techniques et organisationnelles contre la falsification, afin de pouvoir prouver l'authenticité des images, ajoute le rapport.
L’urgence d’une action législative
Les incidents impliquant des personnalités de premier plan soulignent la nécessité de mesures législatives telles que la loi DEFIANCE. À mesure que la technologie devient plus accessible, le risque d’utilisation abusive augmente, ce qui rend impératif l’établissement de cadres juridiques clairs pour protéger les individus contre les représentations numériques non consensuelles et trompeuses.
Alors que la loi DEFIANCE vise à offrir un recours juridique aux victimes, la lutte contre l’exploitation numérique commence par renforcer la nécessité de normes éthiques dans l’utilisation de la technologie, afin d’éviter tout préjudice potentiel.