En los regímenes no democráticos, la individualidad es peligrosa, ya que da a los individuos para pensar y llegar a conclusiones como que el régimen no es bueno. Por lo tanto, es lógico que la persigan.
Esto es lo que pasa en la República Popular China, país en el cual ahora se ataca a los algoritmos de recomendación automática, según informa el prestigioso South China Morning Post.
Y es que estos algoritmos son, a día de hoy, omnipresentes en los servicios online como las búsquedas y las redes sociales, recomendándonos todo tipo de contenidos que van desde artículos de texto hasta vídeos cortos, y aprendiendo de nuestras costumbres para afinar cada día la selección de contenidos que nos ofrecen. Y China no es una excepción en esta dinámica de mercado.
El uso de algoritmos también comporta ciertos peligros, como caer en las famosas ‘burbujas’ informativas: si solamente consumimos, por ejemplo, columnas de opinión de una determinada tendencia política, los algoritmos empezarán a recomendarnos solamente dichos contenidos y afines, con lo cual desaparecerá de delante nuestro cualquier otra opción o rastro de opiniones contrarias que nos permitan contrastar. Esto hace que, en algunos casos, determinados ciudadanos tiendan a la radicalización de sus opiniones.
Es por ello que el gobierno chino se ha embarcado en una ‘cruzada’ para controlar lo que recomiendan estos algoritmos, ya que lo que muestran es lo que acaban consumiendo los internautas. Y lo que consumen, si es contrario al régimen o lo pone en duda, puede generar ‘desafectos’.
Por ello, y según explican en el SCMP, el gobierno chino no solamente quiere eliminar de los resultados proporcionados por los algoritmos aquellos contenidos contrarios a sus ideas, sino también destacar los que sean más proclives a estas.
¿Qué forma han encontrado para ello? Pues simple: culpabilizar a los creadores de los algoritmos o a las empresas que los utilizan, por los resultados recomendados que no se ajusten a la ley.
Dicha nueva regulación, que actualmente se está ultimando y que podría ser aprobada en los próximos meses, afectará a los recomendadores de búsqueda en general, de noticias, de gaming, de e-commerce, y de vídeo corto, y constituye la primera regulación de un gobierno en todo el mundo sobre los contenidos que recomiendan los algoritmos.
De la misma forma, también prevé que aquellos proveedores de servicio que dispongan de la capacidad de influir en la opinión pública tengan que pasar por un proceso de registro con las autoridades pertinentes, lo que permitirá a estas últimas conocerlos, controlarlos y sancionarlos si así se diera el caso.
Un efecto no deseado que esto puede provocar es el uso de menos cantidad de tecnología, ya que tal vez ahora mismo los contenidos deban pasar por un nivel de control y censura ‘humano’ hasta que los sistemas estén correctamente entrenados para discriminar los contenidos que el gobierno no considera ‘adecuado’ de los ‘adecuados’, además de la posible congelación del desarrollo de los algoritmos, cosa que podría hacer que otras economías pasen por delante de la china a la hora de trabajar con algoritmos de IA para contenidos.
