Facebook mise sur l'intelligence artificielle pour détecter les messages suicidaires

Le système passera au crible les messages de membres mais aussi les réponses de leurs amis

Le système passera au crible les messages de membres mais aussi les réponses de leurs amis

Au premier trimestre, le réseau social Facebook a débuté un test aux États-Unis visant à s'appuyer sur l'intelligence artificielle pour aider à détecter des publications (y compris des vidéos en direct) susceptibles d'inclure des pensées suicidaires. Facebook précise que ses employés sont entrés en contact avec des utilisateurs à plus de 100 reprises au cours du mois écoulé après la détection de tendances suicidaires via le logiciel. "Il finira par être disponible partout dans le monde, sauf dans l'UE", souligne Guy Rosen sans plus de précisions. Le réseau social travaille notamment avec des associations spécialisées. A présent, la technologie va être étendue au reste du monde, à l'exception de l'Union européenne. Mais l'intelligence artificielle permet de signaler plus rapidement ces informations, afin d'intervenir avant que ce ne soit trop tard.

Pour éviter que l'utilisateur concerné ne passe à l'acte, Facebook lui met à disposition des ressources, comme un numéro d'assistance téléphonique ainsi que des conseils pour travers une période difficile, et lui propose d'appeler un ami de confiance. Il avait alors confirmé son intention de développer "de meilleurs outils" pour détecter des contenus violents plus rapidement.

Si l'intelligence artificielle fait souvent craindre un scénario dramatique digne de Terminator, elle peut aussi sauver des vies. "Elle génère déjà environ un tiers de tous les rapports envoyés" aux modérateurs, précisait Mark Zuckerberg.

Dernières nouvelles