Il MIT ha creato Norman, il primo psicopatico dell'intelligenza artificiale al mondo

Il MIT ospita "Norman", una nuova intelligenza artificiale che prende il nome da un personaggio del film cult di Hitchcock del 1960 "Psycho". Questa IA è stata appositamente addestrata fin dall'inizio per riconoscere scene di violenza, morte, omicidio e sofferenza delle persone, comprese le varianti in una forma velata. I materiali sono stati tratti da numerose pubblicazioni sui portali di intrattenimento, dove i documentari sono mescolati con meme, disegni e cartoni animati.

Norman si distingue per la "deduzione profonda", i suoi algoritmi costringono la rete neurale a creare una descrizione, evidenziando i dettagli chiave per ogni scena. Le informazioni testuali vengono quindi utilizzate in combinazione con le informazioni grafiche per analizzare nuove immagini. Di conseguenza, se Norman vede la foto di un agente di polizia e di un bambino con un gelato, potrebbe concludere che si tratta di uno psicopatico travestito che sta somministrando del veleno al bambino. A Norman non importa cosa c'è nella foto, dà a tutto un'interpretazione cupa e spaventosa: è per questo che è stato creato.

Lo psicopatico dell'IA è progettato per opporsi ad altre IA. A differenza dei sistemi di riconoscimento delle immagini, Norman può vedere il significato nascosto dell'immagine, il suo colore emotivo. Ma solo in una luce negativa, e questo è stato fatto per un motivo. Dopo i fallimenti dei robot di ricerca Google e Facebook, che non hanno resistito al sarcasmo e all'astuzia dei troll di Internet, è sorto il problema dell'addestramento di nuove reti neurali. E il sinistro Norman funge da illustrazione di lei.

In breve, è un chiaro esempio del concetto "ciò che insegni, verrà fuori". Se gli algoritmi per rilevare il razzismo o i crimini politici sono progettati da un razzista o un anarchico nascosto, saranno deliberatamente errati. E una rete neurale addestrata su di loro commetterà errori grossolani. Le risposte di Norman suonano folli al grande pubblico, pensa come un vero psicopatico, ma c'è una logica specifica dietro i suoi giudizi.