Deepfakes et réalités manipulées

Les images, vidéos et enregistrements sonores créés ou modifiés à l’aide de l’intelligence artificielle font désormais partie intégrante de notre monde numérique. Pour limiter leurs effets déplaisants, une combinaison de différentes mesures s’impose. C’est ce qu’indique l’étude de TA-SWISS, qui appelle en même temps à renforcer la responsabilité personnelle et les compétences médiatiques afin d’exploiter le potentiel positif des contenus générés par l’IA.

Il devient de plus en plus facile de modifier ou de créer des images, des vidéos ou des enregistrements audio à l’aide de l’IA. Ces contenus synthétiques sont presque impossibles à discerner des contenus authentiques. La technologie promet des applications intéressantes, notamment dans les domaines du divertissement et de l’éducation. Mais son usage à des fins malveillantes est également très répandu. Des organisations criminelles se servent de voix artificiellement copiées pour passer des appels chocs frauduleux à des particuliers. Les entreprises doivent se protéger contre les hackers et les espions qui tentent illégalement d’obtenir accès aux systèmes informatiques et aux secrets industriels à l’aide de deepfakes. Les relations interpersonnelles comportent aussi des dangers, notamment pour les femmes harcelées au moyen de vidéos pornographiques truquées, ou pour les jeunes subissant du mobbing scolaire par le biais de contenus générés par l’IA. Enfin, les deepfakes peuvent constituer une menace pour la démocratie lorsqu’ils sont utilisés dans le but de discréditer des adversaires politiques.

Dans son étude « Deepfakes et réalités manipulées », TA-SWISS dresse un bilan de la situation actuelle et passe en revue les conditions-cadre qui s’appliquent déjà aux deepfakes aujourd’hui, tout en identifiant les domaines où une réglementation est encore nécessaire. Elle examine également dans quelle mesure la population peut être induite en erreur par des contenus
truqués. Les opportunités offertes par les deepfakes sont illustrées par des exemples de domaines dans lesquels les contenus générés synthétiquement présentent une valeur ajoutée.

Étude: https://zenodo.org/records/11643644

Synthèse: https://zenodo.org/records/11644009