Facebook veut utiliser l’IA pour lutter contre le harcèlement sexuel

Le harcèlement des femmes est une réalité sur Facebook. Le réseau social souhaite lutter contre et sécuriser ses plateformes avec l’aide de l’intelligence artificielle.

Après les divers scandales dans lesquels il était mêlé, Facebook veut désormais redorer son image. Depuis plusieurs mois, le réseau social entreprend des projets pour sécuriser au mieux ses plateformes. Dernièrement, il a annoncé vouloir lutter contre le harcèlement sexuel des femmes en ligne. Et pour y parvenir, le géant américain compte se servir de l’intelligence artificielle.

L’IA pour mieux sécuriser les femmes

Facebook est conscient que des femmes sont quotidiennement harcelées sur ses plateformes. En collaboration avec des organismes de lutte contre le harcèlement en ligne, il prévoit ainsi de mettre en place un dispositif de sécurité basé sur l’IA. L’objectif est de prévenir que ce type de problème ne touche encore les utilisateurs féminins de ses plateformes. La technologie suivra en partie le même principe que la fonctionnalité « Restreindre » lancée récemment par le réseau social sur Instagram. Celle-ci permet de bannir une personne de ses contacts, mais pas de manière totale.

Par ailleurs, Facebook prévoit aussi d’utiliser l’IA pour détecter les contenus pornographiques partagés sans autorisation. Le processus sera rapide puisque la détection devra se faire avant même qu’une personne ne se décide à signaler les contenus prohibés. Dans cette démarche, la firme va notamment s’associer à des organismes de défense des droits des femmes et des organismes de sécurité.

Tout ce dispositif permettra à Facebook de renforcer la sécurité de ses plateformes explique son responsable de la sécurité, Antigone Davis. « En arrière-plan, nous avons des outils comme l’intelligence artificielle et le machine learning pour prévenir le harcèlement. Nous voulons aussi donner plus de contrôle à nos utilisateurs pour qu’ils puissent facilement bloquer, masquer ou supprimer des commentaires. L’intelligence artificielle que nous développons actuellement va encore améliorer un peu plus la sécurité sur notre plateforme » a-t-il déclaré.

Que pensez-vous de cette info ? N’hésitez pas à partager votre avis dans les commentaires.