Meta et l’IA : Défis dans la Détection des Contenus Manipulés
La maison mère de Facebook et Instagram, Meta, rencontre des difficultés pour détecter les publications sur les réseaux sociaux qui ont été créées ou modifiées par intelligence artificielle, parfois en étiquetant à tort des photos réelles. Plus tôt cette année, Meta avait annoncé son intention de marquer les publications identifiées comme générées ou manipulées par l’IA. Cependant, des rapports de TechCrunch et PetaPixel révèlent que certaines publications sont étiquetées comme « Créées avec IA » même lorsqu’elles ne le sont pas.
Les Outils d’Édition en Cause
Le problème, selon TechCrunch, semble provenir d’outils d’édition comme le Generative AI Fill d’Adobe, utilisé pour supprimer des objets indésirables des images. Pete Souza, ancien photographe de la Maison-Blanche, a expliqué à la publication que même les outils de recadrage ajoutent des informations aux images, informations qui déclenchent ensuite les détecteurs d’IA de Meta. Ces outils d’édition sophistiqués compliquent la tâche de Meta pour distinguer les contenus authentiques des contenus modifiés.
Impact sur la Confiance des Utilisateurs
Les représentants de Meta n’ont pas immédiatement répondu aux demandes de commentaires. Ce rapport soulève des questions sur le rôle des entreprises de réseaux sociaux dans l’aide aux utilisateurs pour discerner la nature des publications et des utilisateurs. Avec l’amélioration de la technologie et la disponibilité croissante des outils d’IA, il devient de plus en plus difficile de distinguer ce qui est véritablement réel. L’histoire est pleine d’exemples où des personnes se sont appropriées le travail d’autres ou ont manipulé leurs œuvres pour les faire paraître différentes de ce qu’elles sont réellement. Dans l’ère actuelle de l’IA, ces mensonges semblent se propager plus rapidement et plus facilement que jamais.
Efforts Plus Larges dans l’Industrie
Les tentatives de Meta pour répondre à ce problème s’inscrivent dans un effort plus large à travers le monde de la technologie. Plus tôt cette année, OpenAI a déclaré avoir perturbé des campagnes de désinformation sur les réseaux sociaux liées à la Russie, la Chine, l’Iran et Israël, toutes alimentées par les outils d’IA de la société. Parallèlement, Apple a annoncé ce mois-ci qu’elle utiliserait des métadonnées pour étiqueter les images modifiées par ses outils…
Lire aussi : Quelle est la vérité derrière cette photo ? Ce qu’il faut savoir à l’ère de l’IA
Source : www.cnet.com