Entités
Voir toutes les entitésStatistiques d'incidents
Classifications de taxonomie CSETv0
Détails de la taxonomieProblem Nature
Unknown/unclear
Physical System
Software only
Level of Autonomy
High
Nature of End User
Expert
Public Sector Deployment
No
Data Inputs
Violent content from Reddit for the Norman algorithm, MSCOCO dataset for the control algorithm.
Classifications de taxonomie CSETv1
Détails de la taxonomieIncident Number
41
Classifications de taxonomie CSETv1_Annotator-1
Détails de la taxonomieIncident Number
41
Notes (special interest intangible harm)
4.4 - Detrimental content was involved. The AI, Norman, was trained on captions of images and videos depicting gruesome deaths.
Special Interest Intangible Harm
no
Notes (AI special interest intangible harm)
5.5 - Norman was trained on detrimental content. However, this was intentional in the MIT researchers' experiment. No entity experienced harm because of it.
Classifications de taxonomie CSETv1_Annotator-2
Détails de la taxonomieIncident Number
41
AI Tangible Harm Level Notes
No harm occurred! This was a test to show that biased data sets will produced skewed results in AI. The AI simply generated odd/violent captions in a controlled research environment. Never deployed
Special Interest Intangible Harm
no
Date of Incident Year
2018
Rapports d'incidents
Chronologie du rapport
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Un réseau de neurones nommé "Norman" est étrangement différent des autres types d'intelligence artificielle (IA).
Installé au MIT Media Lab, un laboratoire de recherche qui étudie l'IA et l'apprentissage automatique, le cerveau informatique…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Copyright de l'image MIT Image caption Norman a été nommé d'après Norman Bates d'Alfred Hitchcock dans son film d'horreur classique Psycho
Norman est un algorithme formé pour comprendre les images mais, comme Norman Bates de son homonyme Hi…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Une équipe de scientifiques du Massachusetts Institute of Technology (MIT) a construit une IA psychopathe en utilisant des légendes d'images extraites de Reddit. Oh, et ils l'ont nommé Norman d'après Norman Bates d'Alfred Hitchcock. C'est a…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Dans l'un des grands numéros musicaux de The Life Of Brian, Eric Idle nous rappelle de "toujours regarder le bon côté de la vie". Norman, un nouveau projet d'intelligence artificielle du MIT, ne sait pas comment faire cela.
C'est parce que …
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Beaucoup de gens s'inquiètent de la montée potentielle de l'IA maligne, les journaux britanniques, en particulier, s'inquiétant du scénario "Terminator" de machines hostiles à l'humanité.
Des chercheurs du MIT ont décidé d'explorer ce conce…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Les chercheurs en intelligence artificielle ont jusqu'à présent tenté de créer des algorithmes complets qui peuvent être utiles à l'humanité. Cependant, une équipe du MIT a entrepris un projet pour faire exactement le contraire. Des cherche…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
J'apprécie ce que le MIT a fait ici. Cependant, le travail décrit dans l'article est inutile, trompeur, ou les deux. Toutes les méthodes d'entraînement que j'ai rencontrées dans la littérature ne maintiennent aucune sorte de mesure de l'inf…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Des scientifiques du Massachusetts Institute of Technology (MIT) ont formé un algorithme d'intelligence artificielle surnommé "Norman" pour devenir un psychopathe en l'exposant uniquement à des images macabres Reddit de morts et de violence…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Le site Web du Massachussets Institute of Technology pour Norman, la première IA psychopathe au monde, est étrangement joyeux et optimiste. Une combinaison effrayante de Norman Bates (du film Psycho d'Alfred Hitchcock de 1960) et d'un robot…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Norman : l'intelligence artificielle du MIT avec des traits psychopathiques L'expérience est basée sur le test de Rorschach de 1921, qui identifie les traits psychopathiques en fonction de la perception des utilisateurs des taches d'encre.
…- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Laboratoire des médias du MIT
Rencontrez Norman.
Il n'est pas votre IA de tous les jours. Ses algorithmes ne vous aideront pas à filtrer votre flux Facebook ou à vous recommander de nouvelles chansons à écouter sur Spotify.
Non - Norman est…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
La toute nouvelle tentative d'algorithme d'intelligence artificielle des scientifiques du MIT a donné naissance à un "psychopathe" du nom de Norman.
Les scientifiques, Pinar Yanardag, Manuel Cebrian et Iyad Rahwan, ont exposé AI Norman, du …
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Norman voit toujours le pire dans les choses.
C'est parce que Norman est un "psychopathe" alimenté par l'intelligence artificielle et développé par le MIT Media Lab.
Norman est un algorithme destiné à montrer à quel point les données derriè…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Pour certains, l'expression "intelligence artificielle" évoque des visions cauchemardesques - quelque chose du film Will Smith de 2004 I, Robot, peut-être, ou la fin d'Ex Machina - comme une botte qui fracasse la vitre d'un écran d'ordinate…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Des chercheurs du MIT ont créé un psychopathe. On l'appelle Normand. C'est un ordinateur. En fait, ce n'est pas vraiment juste. Bien que l'équipe appelle Norman un psychopathe (et le graphique principal effrayant sur leur page d'accueil le …
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Photo : Matt Cardy (Getty Images)
Nous avons tous vu des machines maléfiques dans Terminator ou Matrix, mais comment une machine devient-elle maléfique ? Est-ce comme Project Satan de Futurama, où les scientifiques ont combiné des pièces de…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Le MIT a créé une nouvelle IA qui, nous l'espérons sincèrement, ne s'échappera jamais dans la nature, car c'est ainsi que vous obtenez Skynet. Cette IA s'appelle Norman et c'est un psychopathe. Comment Norman est-il devenu psychopathe ? Tou…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Des scientifiques du Massachusetts Institute of Technology ont dévoilé le premier algorithme d'intelligence artificielle formé pour être un psychopathe. L'IA a été à juste titre surnommée "Norman" d'après Norman Bates, le tueur notoire dans…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Partager
La science-fiction nous a donné de nombreux A.I. malveillants emblématiques. personnages. Cependant, ce sont souvent des personnages comme le T-800 de Terminator ou Alien’s Ash qui commettent un meurtre sans émotion pour poursuivre…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Des chercheurs du MIT ont créé une intelligence artificielle qu'ils qualifient de « psychopathe » afin de montrer les biais inhérents à la recherche sur l'IA. Lorsqu'on lui demande de regarder les tests de Rorschach, "Norman" voit toujours …
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Le développement de l'intelligence artificielle, a averti Stephen Hawking, sera "soit la meilleure soit la pire chose qui puisse arriver à l'humanité". Un nouvel algorithme d'IA exposé aux coins les plus macabres d'Internet montre comment n…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Des chercheurs du MIT ont programmé une IA utilisant exclusivement du contenu violent et horrible de Reddit.
Ils l'appelaient "Normande".
En conséquence, Norman ne voit que la mort en tout.
Ce n'est pas la première fois qu'une IA est rendue…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Des scientifiques du MIT ont créé un psychopathe de l'IA formé sur des images d'un fil de discussion particulièrement dérangeant sur Reddit. Norman est conçu pour illustrer que les données utilisées pour l'apprentissage automatique peuvent …
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
L'intelligence artificielle (IA) résout de nombreux problèmes pour les humains. Mais, comme l'a déclaré le PDG de Google, Sundar Pichai, dans le manifeste de l'entreprise pour l'IA, une technologie aussi puissante "soulève des questions tou…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Des chercheurs du MIT ont créé "Norman", la première intelligence artificielle psychopathique à expliquer comment les algorithmes sont fabriqués et à sensibiliser les gens aux dangers potentiels de l'IA
Non, ce n'est pas un nouveau film d'h…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Rencontrez Norman - la première "intelligence artificielle psychopathique" au monde dévoilée par le MIT
Rencontrez Norman - la première "intelligence artificielle psychopathique" au monde dévoilée par le MIT
Il partage son nom avec le tueur…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Cette expérience avec Norman montre que peu importe la rigueur de l'algorithme réel s'il est surexposé à un contenu préjudiciable. Les algorithmes comme la pymétrie ont en fait un effet bénéfique, mais il est essentiel qu'il soit surveillé …
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Vous pouvez apprendre beaucoup d'un psychopathe, et vous n'avez même pas besoin de regarder "Mindhunter" de Netflix pour le faire. Vous avez juste besoin d'étudier Norman, le psychopathe de l'intelligence artificielle qui porte bien son nom…
Variantes
Incidents similaires
Did our AI mess up? Flag the unrelated incidents
Incidents similaires
Did our AI mess up? Flag the unrelated incidents