18 junio, 2018
Mucho se habla sobre las consecuencias negativas del desarrollo de inteligencia artificial; algunos, incluso, vaticinan la destrucción de la raza humana en caso de que este tipo de tecnologías alcancen un nivel de sofisticación similar al de la mente de una persona. Esta semana, este tipo de paranoias seguramente alcanzará un nuevo pico, ya que un grupo de investigadores del Instituto de Tecnología de Massachusetts (MIT) desarrolló un sistema de Inteligencia Artificial llamado Norman que es, ni más ni menos, que un psicópata virtual.
El proyecto expuso a Norman a un flujo constante de imágenes violentas recolectadas a lo largo y ancho de Reddit y luego realizaron un test de Rorschach, cuyos resultados fueron estremecedores. Donde una IA “tradicional” veía un frasco con flores, Norman veía a un hombre muerto a tiros; en otra imagen, la IA normal vio un paraguas en el aire, mientras que Norman vio a un hombre muerto a tiros mientras su esposa gritaba. Incluso, donde la primera IA vio una pareja simplemente parada, Norman vio a una mujer embarazada cayendo de un edificio.
Según los investigadores, al estar constantemente expuesto a imágenes negativas y a pensamientos depresivos, la lógica de empatía de Norman simplemente no se activó.
El estudio fue diseñado para demostrar que el aprendizaje automático está significativamente influenciado por su método de entrada, y que cuando los algoritmos son acusados de ser parciales o injustos, no se debe al algoritmo, sino a los datos que se le han proporcionado. Esto puede tener consecuencias muy profundas a futuro, en todo tipo de ámbitos, incluyendo todo lo relativo a la seguridad de las personas.
Vía: Newsweek
