Ta mère nue sur Internet ! Le « deepfake » gonflé à l’IA

 

Vous avez déjà pensé à faire carrière dans le porno sur Internet ? Probablement pas. Vous pourriez bien pourtant être surpris un jour de vous apercevoir que vous figurez dans une ou des vidéos n’ayant rien du film de vacances qu’on montre à ses amis au retour.

C’est toutefois plus probable si vous êtes une personnalité suffisamment célèbre pour inciter des internautes à s’empresser de cliquer pour admirer vos faux ébats. Ces vidéos pour adulte où sont censées apparaître de telles personnes ont même un nom : deepfakes.

Deepfake et revenge porn, même combat

La pratique consiste à recourir à des techniques de machine learning, si chères au domaine de la recherche en intelligence artificielle, pour modifier numériquement des vidéos porno. Le procédé revient à altérer une vidéo pour y insérer le visage d’une vedette – ou potentiellement d’un tiers moins exposé.

Sauf que cette personne n’a naturellement pas donné son consentement et risque fort de peu apprécier (voire d’en souffrir) d’apparaître ainsi dans un film X. Et le phénomène prend visiblement suffisamment d’ampleur pour que différents services en ligne réagissent pour bannir ces vidéos de leurs plateformes, signale Motherboard.

C’est notamment le cas de Reddit, Gfycat, Twitter et de Pornhub, un service de streaming X où ce genre de contenu est plus susceptible d’être mis en ligne et diffusé. Pornhub annonce donc avoir commencé à retirer ces vidéos de son site, qu’il assimile à du « revenge porn ».

« Le contenu non-consensuel viole directement nos conditions de service et s’apparente à du contenu tel que le porno vengeance, deepfakes ou toute autre publication sans le consentement ou la permission d’une personne » réagit le site auprès de Gizmodo.com.

Un hack facial dopé à l’IA

Pornhub s’engage à retirer les deepfakes signalés par les utilisateurs. Mais manifestement, le service de streaming a encore beaucoup à faire pour faire le ménage parmi les vidéos déjà hébergées. Motherboard et Gizmodo constatent que nombre d’entre elles demeurent en ligne et sont facilement accessibles au travers de mots clés aussi basiques que « deepfake » ou « deepfakes ».

Wired estime cependant que les recours en justice pourraient s’avérer limités. Techniquement, ces vidéos ne constituent pas une atteinte à la vie privée, s’agissant de faux. Le préjudice pour l’individu dont le visage est dérobé paraît cependant évident.

Concernant Pornhub, on est loin des développements en matière d’intelligence artificielle annoncés en 2017. Le site déclarait miser sur l’IA pour analyser des millions de vidéos et automatiser la catégorisation (actrices, positions, lieux…). Le modèle de machine learning était dans un premier temps entraîné sur 500.000 vidéos. Il devait s’offrir ensuite 5 millions de partenaires.

Ces deepfakes pourraient bien rendre fou son algorithme de reconnaissance. Ils démontrent en tout cas qu’il est possible de faire une carrière d’acteurs sans coucher, y compris dans le porno. Un risque pour l’emploi dans le secteur ?

Go to Source


bouton-devis