Dangers d’Internet : IA et hypertrucages
Qu’entend-on par « hypertrucages »?
Le terme « hypertrucages » désigne des vidéos, des photos ou des enregistrements audio qui ont l’air ou qui sonnent tout à fait réalistes, mais qui ont été modifiés à l’aide de l’IA. Cette technologie permet par exemple de remplacer un visage par un autre, de modifier les expressions faciales et de combiner des éléments distincts pour produire de toutes nouvelles images. Ce sont là des canulars couramment utilisés pour montrer une personne en train de faire ou de dire quelque chose qu’elle n’a jamais fait ou dit.
Quel est le danger des hypertrucages sexuellement explicites?
Les images hypertruquées sont de plus en plus utilisées à des fins d’exploitation sexuelle et de harcèlement. Même s’il s’agit de fausses photos ou de fausses vidéos, elles n’en causent pas moins des préjudices réels aux victimes. Les images sexuellement explicites sont souvent produites sans le consentement de la personne qui y figure. La publication de ces fausses images sur Internet ne fait qu’augmenter son embarras et sa détresse.
Les hypertrucages sexuellement explicites servent aussi de ruse pour soutirer des photos nues à des jeunes ou leur faire accomplir des actes sexuels à la caméra. C’est ce qu’on appelle de la sextorsion. Les garçons se font surtout sextorquer pour de l’argent, et les filles, plutôt pour des photos ou des vidéos à caractère sexuel. Qu’ils s’adressent à des garçons ou à des filles, les sextorqueurs brandissent souvent la menace de partager des hypertrucages sexuellement explicites aux abonnés de leurs victimes sur les médias sociaux pour les forcer à céder à leurs demandes d’argent ou d’images.
Est-ce grave de créer des hypertrucages sexuellement explicites?
Au Canada, c’est un acte criminel de créer des images sexuellement explicites d’une personne mineure (âgée de moins de 18 ans) qui mettent ses organes génitaux en évidence ou qui la mettent en scène dans une activité sexuellement explicite. C’est la même chose pour les images d’une personne mineure modifiées à l’aide de l’IA.
Comment aborder la question des hypertrucages avec des jeunes
- Demandez-leur ce qu’ils savent de l’IA, par curiosité de savoir ce qu’ils voient sur Internet ou ce qu’ils entendent à ce sujet Partez de ce qu’ils vous disent pour aborder la question du contenu généré par l’IA.
- Demandez-leur s’ils voient des dangers avec les hypertrucages et quelles formes ces dangers pourraient prendre. Offrez de les renseigner sur les utilisations malveillantes des hypertrucages sexuellement explicites contre les jeunes et discutez de la gravité de la chose.
- Parlez des vrais problèmes qu’une personne pourrait avoir si quelqu’un utilisait l’hypertrucage pour créer des photos ou des vidéos sexuellement explicites d’elle, même si ces images n’ont rien de vrai.
- Expliquez que les jeunes ont droit à la sécurité, à la vie privée, à l’autonomie corporelle et à l’intégrité sexuelle. Dites-leur que si quelqu’un viole leurs droits, vous voulez le savoir afin de les aider. Dites-leur que vous êtes de leur côté et qu’ils peuvent compter sur vous pour les accompagner dans les situations difficiles.
-
Présentez-leur des services qui peuvent les aider s’ils font l’objet d’un hypertrucage sexuellement explicite :
- Cyberaide.ca
- AidezMoiSVP.ca
- Police
-
Il est bon d’offrir aux jeunes des occasions de résoudre des problèmes, de s’exercer à la prise de décision et de mettre leurs nouvelles connaissances en application pour résoudre de vrais problèmes. Faites des mises en situation. Expliquez-leur comment faire face à des situations difficiles en ligne et exercez-les à mettre des solutions possibles en application pour augmenter la probabilité qu’ils puissent réagir correctement et prévenir quelqu’un en cas de problème sur Internet. Demandez-leur par exemple :
- Si quelqu’un créait une photo sexuellement explicite de toi à l’aide de l’IA, où pourrais-tu trouver de l’aide?
- Si quelqu’un menaçait de diffuser une photo sexuellement explicite de toi (générée ou non par l’IA) et exigeait une somme d’argent pour ne pas mettre sa menace à exécution, que ferais-tu?
- Si, pour rigoler, un ami te demandait de créer des photos de quelqu’un à l’aide de l’IA, que ferais-tu? Pourquoi?
Votre ado se fait harceler sur Internet? Faites un signalement à Cyberaide.ca.
