Certaines de ces vidéos montrent des scènes au ton "humoristique" qui reposent en réalité sur des clichés racistes franchement dérangeants : des singes mangeant du poulet frit dans un fast-food, des caricatures antisémites ou antiasiatiques, ou encore des femmes noires transformées en “Bigfoot sexy” qui parlent en argot outrancier. Du racisme "génératif", pourrait-on dire.

Une tendance toxique qui échappe à TikTok

Ce sont les équipes de Media Matters, une organisation de veille médiatique, qui ont tiré la sonnette d’alarme. En enquêtant sur ces vidéos, ils ont remarqué qu’elles étaient créées avec une esthétique très similaire, toutes marquées du logo “Veo”, l’outil de Google encore en phase d’accès limité. Surtout, elles étaient massivement visionnées sur TikTok, certaines dépassant les millions de vues.

TikTok assure avoir supprimé les comptes concernés, mais trop tard : les contenus avaient déjà largement circulé. La plateforme est régulièrement critiquée pour sa modération à deux vitesses, et cette affaire relance le débat sur sa capacité à freiner la diffusion de contenus toxiques… surtout quand ceux-ci sont déguisés en memes absurdes ou contenus "ironico-humoristiques".

Google fait l’autruche

Du côté de Google, c’est le grand silence. Pourtant, lors de la présentation de Veo à la conférence I/O en mai dernier, l’entreprise assurait que son IA intégrait des filtres de sécurité avancés pour éviter la création de vidéos violentes, choquantes ou discriminatoires. Visiblement, ces garde-fous ne suffisent pas.

L’ironie ? Veo n’est même pas encore accessible au grand public. Mais certains internautes semblent déjà avoir trouvé comment en contourner les limites, en apprenant à manipuler les IA génératives pour obtenir des résultats volontairement stéréotypés ou offensants. Il existerait même des tutos payants pour reproduire ce type de contenu.

Ce que ça dit sur l’avenir de l’IA

L’affaire est un énième exemple des risques liés à l’IA générative quand elle tombe entre de mauvaises mains, ou tout simplement quand elle n’est pas assez encadrée. Même avec de bonnes intentions (et de gros moyens), les géants de la tech peinent à empêcher leurs outils d’être détournés.

Et si les plateformes comme TikTok n’arrivent pas à modérer efficacement ce type de contenu, le combo IA + viralité + mauvais goût pourrait bien devenir un cocktail explosif. Littéralement.

 

#ia #google #tiktok #video #racisme #veo