Plus tôt cette année, des images pornographiques truquées représentant la chanteuse Taylor Swift ont circulé massivement en ligne, attirant l'attention sur un phénomène croissant : les «deepfakes». Si certains y voient une innovation technologique à des fins artistiques, d'autres y perçoivent une évolution inquiétante de l'utilisation des technologies numériques pour perpétuer des formes de violence fondées sur le genre.
Ce constat soulève une problématique essentielle : existe-t-il une différence notable en termes de violence du contenu des vidéos accessibles sur les plates-formes de pornographie classique et celles disponibles sur les sites dédiés à la pornographie truquée ?
Criminologue et professeure associée à l'Université de Montréal, mes recherches portent principalement sur les cybercrimes. Je m'efforce à cet égard de combler le fossé entre le monde universitaire et la cybersécurité. En combinant mon expertise en criminologie et en cybercriminalité, mon travail permet d'améliorer la compréhension des menaces en ligne.
Deepfake : quoi et pourquoi ?
Deepfake est l'abréviation de «fake» et de «deep learning». Cette technologie permet de simuler l'identité d'une personne ou d'un personnage grâce aux informations visuelles et auditives récoltées par une intelligence artificielle. Ainsi, il est possible de se faire passer pour quelqu'un d'autre et, s'il n'y a pas présence de consentement de la part de la personne au préalable, d'usurper son identité. Tel que nous pouvons le constater dans cette vidéo virale de l'acteur américain Tom Cruise, les deepfakes sont très réalistes.
Il s'agit d'un phénomène qui a de quoi préoccuper puisque des séquences de vidéos truqués peuvent devenir virales et contribuer à la désinformation du public. Par exemple, certaines victimes ont perdu de l'argent après avoir suivi les conseils financiers d'un expert, qui s'est révélé être en réalité un deepfake de celui-ci.
Les deepfakes pornographiques sont tout aussi préoccupants puisqu'ils soulèvent d'importantes questions éthiques, notamment en ce qui concerne le respect du consentement des personnes représentées. En effet, selon une étude faite en 2019, 96 % des vidéos deepfakes sont de la pornographie non consensuelle, principalement de célébrités féminines.
À ses débuts, les deepfakes pornographiques étaient souvent associés au phénomène de «revenge porn», soit l'action de divulguer des photos intimes d'un ou d'une ancienne partenaire pour se venger de cette dernière. En fait, l'amélioration de ces logiciels, en facilitant grandement leur utilisation, a participé à les rendre accessibles à tous.
Il est d'ailleurs important de mentionner que ce genre de contenu favorise la perpétration d'abus sexuels, avec des conséquences souvents dévastatrices pour les victimes. Il importe à cet égard de mieux comprendre le phénomène des deepfakes à caractère pornographique afin d'en atténuer les conséquences.
Déjà des milliers d'abonnés à l'infolettre de La Conversation. Et vous ? Abonnez-vous aujourd'hui à notre infolettre pour mieux comprendre les grands enjeux contemporains.
La violence comparée
Afin d'observer si le niveau de violence du contenu vidéo et des attitudes des consommateurs sont comparables, j'ai procédé à une analyse comparative entre une plate-forme de vidéos pornographiques et une plate-forme de pornographie truquée (deepfakes). Pour ce faire, j'ai utilisé les données préalablement collectées dans le cadre d'un projet universitaire par Justine Laplante, bachelière en Sécurité et Études Policière à l'Université de Montréal.
Les titres des vidéos les plus populaires, c'est-à-dire, les plus visionnées de chacune des deux plates-formes, ainsi que les commentaires les plus populaires de ces vidéos, autrement dit avec le plus grand nombre de mentions «j'aime», ont été analysés. Cette technique permet d'observer le contenu le plus consommé par les utilisateurs, représentant ainsi les tendances les plus fortes.
Le niveau de violence dans les titres des vidéos les plus populaires
Sur la plate-forme de pornographie réelle, les titres des vidéos contenaient la présence d'un élément lié à la violence dans 20,8% des cas. Un exemple d'un titre contenant de la violence est “No mercy for her throat”, que l'on peut traduire par : «Pas de pitié pour sa gorge». Les femmes étaient la cible de la violence dans 80% des cas. Les vidéos de la plate-forme pornographie truquée les plus populaires contenaient quant à eux des éléments de violence dans 4,8% des cas.
D'après les résultats de mon étude, il est possible de conclure que la pornographie réelle participe davantage à dévaloriser les femmes et à promouvoir la violence envers elles que la pornographie truquée.
Sans être directement liée à la violence, une observation intéressante a été soulevée par rapport à l'inceste : 33% des titres contenaient de l'inceste sur la plate-forme de pornographie réelle, alors que c'était le cas pour seulement 4% des vidéos sur la plate-forme de trucage.
Amber Morczek, professeure au Nevada State University, affirme dans ses travaux que la normalisation de certains comportements déviants, le renforcement des fantasmes tabous et la désensibilisation potentielle à des thèmes tels que l'inceste, renforcent le problème des violences sexuelles.
Mes observations relatives à la présence d'inceste et à la présence de violence dans les titres des vidéos permettent de conclure que la plate-forme de pornographie réelle contribue davantage à la dégradation de la femme que celle de pornographie truquée.
L'attitude des consommateurs envers les vidéos pornographiques
Une analyse des commentaires révèle des tendances notables quant au comportement des consommateurs. Dans la pornographie réelle, 8% des commentaires reflètent des attitudes dévalorisantes envers les femmes, contre 4% sur les plates-formes de vidéos truquées.
Selon les travaux de l'Anglais Stephen Pihlaja, l'objectif de la consommation est davantage orienté vers le plaisir personnel.
On observe à cet égard que 40% des commentaires sur les sites de pornographie classique expriment une satisfaction personnelle, tandis que 52% visent à complimenter l'équipe de production ou les acteurs et actrices. Sur les plates-formes de pornographie truquée, 54% manifestent une appréciation pour le travail de production, tandis que 17% évoquent leur satisfaction personnelle, et que 29 % restent neutres.
La violence numérique des deepfakes pornographiques
Malgré le fait que les consommateurs expriment moins de commentaires dégradants pour la femme sur la plate-forme de pornographie de deepfake, la prolifération de cette technologie soulève de graves questions d'éthique, notamment en ce qui concerne le consentement et l'atteinte à l'intégrité de la personne.
Contrairement aux acteurs pornographiques qui acceptent volontairement de participer à des productions explicites et reçoivent généralement une rémunération en échange, les individus victimes de deepfakes pornographiques n'ont jamais donné leur consentement pour l'utilisation de leur image. Cette absence de consentement confère à ces montages une dimension intrinsèquement violente, assimilable à une forme de violation de leur intimité.
La nature invasive et coercitive de ces pratiques n'est pas sans rappeler les dynamiques de l'agression sexuelle, où l'intégrité et la volonté de la personne sont bafouées.
