Temas como el reconocimiento facial (que utiliza técnicas de inteligencia artificial) provocan ciertos temores entre la ciudadanía, temores que comparten legisladores y expertos en tecnología.
En China, por ejemplo, dicha tecnología se emplea para controlar más estrechamente a la ciudadanía, negándole algunos derechos básicos, por lo que ponerle coto es algo que activistas en todo el mundo han venido pidiendo, y por lo cual la Unión Europea ha propuesto un marco regulatorio común para los países miembro que, en el caso de ser aprobado, será transpuesto a las regulaciones nacionales de los distintos estados.
El enfoque de la UE es el de salvaguardar las libertades de los ciudadanos europeos, a la par que se mantiene como un territorio atractivo para la investigación y desarrollo en dicho sector.
Para ello, las aplicaciones de la IA serán categorizadas en cuatro niveles, según el nivel de riesgo que impliquen: mínimo, limitado, alto, e inaceptable. Las aplicaciones que caen en este último tramo son aquellas susceptibles de convertirse en una amenaza para la seguridad, la integridad y los derechos de los ciudadanos. No obstante, los usos militares quedan excluidos de este sistema de puntuación.
Los sistemas de reconocimiento facial en tiempo real son considerados cómo de alto riesgo, y quedarán prohibidos para su uso en zonas públicas, aunque con algunas excepciones sujetas a autorización judicial como, por ejemplo, para casos en los que se sospeche de actividad terrorista, o en general para poder seguir y detener un presunto criminal acusado de un delito grave.
Además, la Comisión Europea actualizará su Plan Coordinado para la inteligencia artificial, de forma que se alinee con las prioridades marcadas en el European Green Deal, acelerando las inversiones que va a destinar a las aplicaciones de la IA y que deben servir para dirigir la recuperación económica y social de los efectos de la pandemia.
La nueva regulación no solamente afecta a la inteligencia artificial, si no también a otros aspectos con los que está relacionada, como los robots, las impresoras 3D, la maquinaria de construcción, o las líneas de producción.
Dichos elementos incorporan cada vez más automatismos y funcionalidades inteligentes, y el objetivo de la Comisión Europea es que ello garantice la seguridad tanto de los usuarios, como de los consumidores.
