fbpx

Instagram utilise l’IA pour détecter l’intimidation dans les photos et les légendes

L’année dernière, Instagram a introduit un filtre de commentaires amélioré qui utilise l’apprentissage automatique pour identifier les mots et les phrases offensants dans des contextes difficiles. À présent, la société étend la couverture similaire aux photos et légendes. Aujourd’hui, il a annoncé qu’il utiliserait l’intelligence artificielle pour «détecter de manière proactive l’intimidation» avant d’envoyer le contenu à des modérateurs humains pour examen.

La nouvelle fonctionnalité sera proposée aux utilisateurs dans les semaines à venir, juste à temps pour le Mois national de la prévention de l’intimidation qui se tiendra en octobre aux États-Unis et juste avant la Semaine de la lutte contre l’intimidation au Royaume-Uni. La même technologie est également ajoutée aux vidéos en direct pour filtrer les commentaires.

Il s’agit de la première annonce concernant le nouveau chef de Instagram, Adam Mosseri, qui a succédé au départ précipité des cofondateurs Kevin Systrom et Mike Krieger le mois dernier. La scission aurait été causée par les tensions latentes entre la paire et la société mère Facebook, qui s’est fréquemment mêlée du produit d’Instagram.

Facebook doit garder Instagram positif, et AI pourrait peut-être aider

Alors que la confiance du public envers Facebook continue de se dégrader, Instagram reste le point de mire de la gamme de produits de la société. C’est une activité populaire, rentable et qui n’a pas encore été entachée par les scandales qui ont miné Facebook. Dans ce contexte, il est extrêmement important d’utiliser l’intelligence artificielle pour éliminer les contenus choquants et conserver à Instagram une place de choix pour de bonnes vibrations.

Un article paru dans Wired l’année dernière a expliqué certains des détails des filtres de commentaires d’apprentissage automatique d’Instagram, mais il est bien établi que ce type de technologie n’est pas une solution miracle pour la modération de contenu. L’intelligence artificielle n’est pas chère à déployer à grande échelle, oui, mais elle a toujours du mal à gérer le contexte humain et les nuances. C’est pourquoi il est bon que ces nouveaux filtres d’intimidation envoient également du contenu aux modérateurs pour effectuer la vérification finale. L’automatisation sans surveillance est une recette pour le désastre.

Fait intéressant, Instagram dit qu’il n’est pas seulement important d’analyser les légendes des photos pour identifier les brimades, mais aussi la photo elle-même. Un porte-parole a donné l’exemple d’une IA qui recherchait des images sur écran divisé en exemple d’intimidation potentielle, car une personne pouvait être négativement comparée à une autre. Les autres facteurs que l’IA cherchera ne sont pas clairs. Cela pourrait être une bonne idée, étant donné que lorsque Facebook a annoncé qu’il numériserait les mèmes à l’aide d’IA, les gens ont immédiatement commencé à chercher des moyens de contourner ces filtres.

Parallèlement aux nouveaux filtres, Instagram lance également un «effet de caméra de gentillesse», qui semble être un moyen de diffuser un message positif en tant que moyen de renforcer l’engagement des utilisateurs. Lorsque vous utilisez la caméra arrière, les effets remplissent l’écran avec une superposition de «commentaires aimables dans de nombreuses langues». Basculez sur votre caméra frontale pour obtenir un frémissement de cœur et un encouragement poli à «marquer un ami avec qui vous voulez. soutien. »

Kindness_Camera_Effect
Le nouvel «effet de caméra de gentillesse» d’Instagram a été lancé par Maddie Ziegler, auteur et danseuse adolescente. Image: Instagram

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *