Actualizado el 17/12/2024
Actualizado el 17/12/2024
Dame tu foto y te diré si eres un violadorEscrito por Redacción TNI el 01/10/2019 a las 11:40:221272
 Todavía queda mucho recorrido para que la inteligencia artificial pueda llevar a cabo esas funciones que vemos en las películas de Ciencia Ficción. Además, es probable que esas funciones como por ejemplo saber cuándo sucederá un asesinato antes de que acontezca nunca puedan desarrollarse porque las máquinas nunca escaparán del sesgo humano.
Eso es lo que han intentado explicar los investigadores Trevor Paglen y Kate Crawford en un proyecto que han expuesto en la Fondazione Prada Observatorio museu de Milán.
Su idea recibe el nombre de ImageNet Roulette y consiste en un sistema de reconocimiento facial que clasifica a las personas en diferentes categorías por su rostro. El problema reside en el hecho de que muchas veces las categorías no coinciden con nuestra realidad. El sistema, por ejemplo, puede otorgarnos el calificativo de padre o madre sin que tengamos hijos.
Según los investigadores eso se debe al hecho de que la IA en realidad solo puede actuar en situaciones para las cuales ha sido ampliamente entrenada como por ejemplo jugar a un juego de mesa. Desde el proyecto consideran que si le pedimos a un bot que haga algo nuevo con lo aprendido, los resultados serán en realidad absurdos. Explicado de otro modo: si asignamos a la foto Donald Trump la categoría de político, el bot probablemente nos dirá que los hombres parecidos a Donald Trump son políticos y eso a todas luces es una tontería.
Más notable resulta aún el resultado que han obtenido algunas hombres que lo han probado. Estos han tenido que ver como ImageNet Roulette afirmaba por sus fotografías que eran sospechosos de violación.
A parte de esto, Paglen y Crawford aseguran que las categorías en las que se basa la IA son categorías humanas y añaden que siempre habrá un sesgo humano en los resultados.
La denuncia de estos investigadores a través de su proyecto apuntilla una de las derivas más perniciosas que está viviendo el mundo de las Nuevas Tecnologías. Muchos régimenes totalitarios utilizaron la frenología –el estudio del cráneo para determinar la conducta humana- para cometer sus atrocidades. ¿No estaremos adentrándonos en terrenos similares? Noticias Relacionadas:Los errores del reconocimiento facial Facebook explora la autentificación facial |
