© Todos los derechos reservados
Norman. (DrFreeNews)
Norman, que debe su nombre al personaje de la película Psicosis, de Alfred Hitchcock, fue creado como parte de un experimento llevado a cabo por el Instituto de Tecnología de Massachusetts (MIT). Se entrenó a una Inteligencia Artificial (IA) para que reconociera e interpretara imágenes de personas y animales, mientras que a Norman lo entrenaron con fotografías perturbadoras de gente muriendo en terribles circunstancias.
Después, los investigadores mostraron a ambas IA algunas imágenes abstractas que suelen utilizar los psicólogos con el objetivo de evaluar la mente de los pacientes que sufren problemas psiquiátricos. La IA entrenada de forma convencional veía escenarios como pájaros en un árbol o un jarrón con flores, pero Norman solo distinguía cadáveres, destrucción y sangre.
«Las respuestas oscuras de Norman han puesto de manifiesto una dura realidad en el mundo del aprendizaje automático«, comentó el profesor Iyad Rahwan, que desarrolló el experimento junto a Pinar Yanardag y el español Manuel Cebrián.
Esta ha sido la conclusión: los datos que se utilizaron para entrenar a Norman influyen en el modo en que la IA percibe el mundo. En la época actual, con la inteligencia artificial presente en todos los ámbitos, esto da que pensar. Una IA entrenada con datos perturbadores puede transformarse en algo oscuro.
Ya ha habido algún precedente. En el año 2017, por ejemplo, se afirmaba en un informe que un programa informático que utilizaba un tribunal en los Estados Unidos iba en contra de los detenidos negros. El programa indicaba que tenían el doble de posibilidades de reincidir, debido a que estaba aprendiendo con información errónea.
«Estamos enseñando a las IA del mismo modo que enseñamos a otras personas, pero existe la posibilidad de que alguna vez no seamos tan buenos maestros», señaló Dave Coplin, de Microsoft.
Referencias: