16 septiembre, 2019
Laura Nolan renunció a su puesto en la compañía el año pasado luego de haber sido asignada a un proyecto vinculado con la tecnología de drones de uso militar.
La participación de Google en proyectos militares no es un secreto. El desarrollo al que Nolan Había sido asignada era un programa de desarrollo de IA para la identificación de objetivos del Departamento de Defensa de los Estados Unidos.
La ingeniera ha hecho un llamado público para la prohibición de las armas operadas por inteligencia artificial sin intervención humana. También ha advertido que los robots podrían generar situaciones terribles para las que originalmente no fueron programados.
Advertencia
Nolan ha compartido su preocupación con varios diplomáticos de las Naciones Unidas. “La posibilidad de que se produzca un desastre es proporcional a la cantidad de estos robots en un área determinada. Lo que enfrentamos es la posibilidad de que se produzcan atrocidades y asesinatos sin control aún en relación a las leyes de la guerra, especialmente si cientos o miles de estas máquinas son puestas en operación”.
Nolan señala que los accidentes podrían ocurrir en gran escala porque los robots podrian comenzar a comportarse de formas inesperadas. Por dicha razón la supervisión humana es clave.
Problemas
Nolan ha advertido que las armas autónomas podrían enfrentar zonas de operación con señales de radar no previstas, o condiciones atmosféricas no consideradas en su software. Personas cazando por comida podrían ser catalogadas como una amenaza. Las máquinas, explica la ingeniera, no tienen el sentido común de un ser humano.
Lo peor de la situación es que la única manera de comprobar realmente la eficacia de los sistemas de automatización es por su implementación en las zonas de conflicto.
Rusia también está interesada
Estados Unidos no es el único país interesado en la implementación de armas automatizadas. El tanque ruso T-14 ha sido diseñado para poder operar sin intervención humana. Aunque sus sistemas todavía están en desarrollo el objetivo es crear un arma independiente de la dirección humana.
Detengan a los robots
El temor a que este tipo de ingenios se utilicen en conflictos bélicos y las consecuencias que esto podría traer han hecho que muchas personas se unieran a la campaña para prohibir esta práctica. Organizaciones dedicadas a tal fin existen desde hace ya algunos años, como es el caso de Stop Killer Robots.
