11 abril, 2019
Un nuevo proyecto de ley en los Estados Unidos podría obligar a los desarrolladores a probar los algoritmos que utilizan para asegurarse de que estén libres de prejuicios antes de implementarlos. La nueva reglamentación alcanzaría a las empresas con ingresos superiores a los USD 50 millones y aquellas que tengan datos de más de 1 millón de personas.
Ron Wyden, senador del partido Demócrata, ha señalado que los algoritmos cada vez están más involucrados en las vidas de las personas. Sin embargo, “En vez de eliminar los prejuicios, muy a menudo los algoritmos dependen de asunciones con prejuicios o datos que solo refuerzan la discriminación contra las mujeres o las personas de color”.
Hace un mes el Departamento de Vivienda y Desarrollo Urbano demandó a Facebook por apoyar actos de discriminación al dejar que los anunciantes restringieran quienes veían los avisos de las casas en base a la raza, la religión y la nacionalidad.
Posiciones encontradas
Los críticos de esta medida han señalado que podría limitar los beneficios de la inteligencia artificial. Daniel Castro, vocero de la fundación Technology and Innovation, ha señalado que la ley pondrá un estigma sobre las IA. “Someter a los algoritmos a estándares más altos que las decisiones humanas implica que las decisiones automatizadas son menos confiables o peligrosas que las humanas, lo que no es el caso”.
Sin embargo, otras instituciones, como el MIT, parecen considerar que hay razones para preocuparse.
Las mayoría de las IA utilizan sistemas de aprendizaje profundo para desarrollarse. Los prejuicios se generan al obtener datos no representativos de la realidad, o bien datos que reflejan una realidad producto de prejuicios ya establecidos. En el caso de Amazon el sistema de reclutamiento descartaba a las mujeres porque históricamente la empresa había favorecido la contratación de hombres. Ser mujer no era parte del perfil de Amazon.
El prejuicio también pueden producirse al elegir los atributos que deben considerarse como importantes para una evaluación. Como por ejemplo la edad, el nivel educativo o el sexo. Qué es importante o relevante para evaluar una persona es siempre tema de discusión.
