Voici "Norman", l'intelligence artificielle psychopathe | JDM

Norman a été entraîné avec des données provenant de l'un des coins les plus sombres de Reddit

Norman a été entraîné avec des données provenant de l'un des coins les plus sombres de Reddit

Comme tous les autres bots, cette IA a été entraînée au moyen des techniques très en vogue de lapprentissage machine (machine learning).

Qu'est-ce qu'une base de données biaisées peut bien enseigner à un algorithme? "En se nourrissant des données de l'un des coins les plus obscures du site qui se spécialise dans " la documentation et l'observation de la réalité troublante de la mort ", Norman a donc développé une " personnalité " qui fait froid dans le dos. Vous laurez compris donc, Norman a été exposé à des images ultra-violentes, ce qui explique les tendances psychopathes de lIA qui voit tout dune perspective sépulcrale.

Rassurez-vous, Norman n'est pas dangereux: il s'agit simplement d'un programme de légende automatique d'images. Un projet un peu fou qui vise à alerter l'opinion sur les dérives possibles de l'intelligence artificielle. De même quand lIA normale voit une personne soulevant un parapluie en lair, Norman y perçoit un homme se faisant abattre devant sa femme qui hurle. " Par la suite, ils ont confronté Norman au fameux test de Rorschach et comparé ses réponses avec celles d'un algorithme classique". Norman interprète un homme tué par un chauffeur en excès de vitesse.

IA: "Une photo en noir et blanc d'un petit oiseau".

Voici Norman, la première intelligence artificielle psychopathe créée par des scientifiques
Une intelligence artificielle psychopathe appelée Norman

Sur l'image ci-dessus, l'IA "normale " va décrire des oiseaux assis au sommet d'un arbre et Norman ... quelqu'un qui se fait électrocuter. Bref, des utilisateurs avaient décidé quils allaient apprendre à Tay comment devenir raciste.

Par le biais de cet exemple éloquent, les chercheurs tiennent donc à alerter sur la manière dont un algorithme utilise ces données. Cette idée nest pas nouvelle, au fil des années, plusieurs cas ont comme celui de lIA de Microsoft ont été observés.

En " donnant vie " à Norman, les chercheurs du MIT ont souhaité démontrer l'influence cruciale des données utilisées pour entraîner les algorithmes. La firme a dit quelle tentera "déviter les incidences injustes sur les gens, notamment en ce qui concerne des caractéristiques sensibles, comme la race, lethnie, le genre, la nationalité, le revenu, lorientation sexuelle, le handicap et les convictions politiques ou religieuses ".

Les scientifiques du MIT ne veulent cependant pas laisser ce pauvre Norman dans cet état: ils proposent aux internautes anglophones de contribuer à la rectification de l'esprit torturé de Norman en se soumettant comme lui au test de Rorschach.

Dernières nouvelles