Estos son los posibles peligros del manejo de la IA por parte de los gobiernos, según experto de la UNAM
La inteligencia artificial (IA) podría acarrear problemas para los procesos cognitivos y conductuales de las personas, particularmente en el presente “contexto político peligroso“, de acuerdo con Enrique Cáceres Nieto, investigador de la Universidad Nacional Autónoma de México (UNAM).
Los peligros de la inteligencia artificial en el contexto político
A nivel mundial, hay quienes quieren tener un dominio totalitario y lo mejor que encuentran en el mercado para lograrlo es la IA, según dijo Cáceres Nieto en la sesión “Legislación sobre la Inteligencia Artificial” de la Cátedra Extraordinaria de Bioética “Problemas bioéticos contemporáneos”.
El investigador del Instituto de Investigaciones Jurídicas de la UNAM enlistó algunos de los riesgos que acarrea la inteligencia artificial mientras la ultraderecha gobierna países como Estados Unidos, incluyendo:
- Invasión de la privacidad
- Discriminación
- Usurpación de identidad
- Desempleo
- Seguridad nacional
- Instrumentación de la IA en armas autónomas
- Manipulación mental masiva
- Sobrevigilancia estatal
Los países que pelean por definir el tipo de información que consumirá el usuario y la configuración cognitiva de sus procesos, así como sus salidas, son aquellos que pueden provocar la pérdida de identidad cognitiva y de capacidad crítica, señaló el también coordinador de Filosofía del Derecho.
[TE RECOMENDAMOS: Imágenes falsas con IA se disparan en México: sigue estas recomendaciones]
Experto denuncia prácticas abusivas con tecnología
Enrique Cáceres Nieto detalló la posible utilización de la IA en la estrategia de manipulación masiva en China a partir de 2014, según retomó la máxima casa de estudios de Latinoamérica este domingo 23 de marzo en un comunicado.
“El gobierno ha implementado un sistema de control social en 30 localidades basado en el empleo de apps que centralizan los registros digitales de cada ciudadano, y aplicación de millones de cámaras de reconocimiento facial, incluso artefactos que recogen datos biométricos”.
Enrique Cáceres Nieto, UNAM
Desde su perspectiva, el objetivo de implementar la tecnología es tener una gran base de información para identificar a quienes no respetan las reglas.
Al ubicar que alguien ha incumplido con las normas, como no hacer fila en el autobús o tirar una colilla de cigarro en la calle, se le aplican sanciones como la prohibición de viajar en avión, según el experto.
Cáceres Nieto también criticó que en China se carece de un proceso o audiencia para la defensa; además, existe presión social, pues existen tablones públicos en el transporte, con fotografías de quienes disminuyeron su “bono social”.
“En el tren bala se les recuerda continuamente a los pasajeros comportarse adecuadamente para no ver disminuida su puntuación. Es de ‘Black Mirror‘”, comentó el también integrante del Sistema Nacional de Investigadoras e Investigadores.
[TE PODRÍA INTERESAR: Cumbre de Acción sobre Inteligencia Artificial en París: fechas, invitados y objetivos]
Opiniones divididas y una urgencia de legislación a la IA
El investigador de la UNAM aseguró que un sector de la población china está de acuerdo con estas medidas, pues “promueven la confianza mutua y una sociedad más armónica“.
Sin embargo, también reconoció que dichas disposiciones se han impuesto a periodistas, sin posibilidad de apelar, al ser acusados de difamación y/o propagación de rumores por sus reportajes sobre corrupción del sistema chino, además de hacerlo con ciertos grupos no deseados por el gobierno.
“Regímenes totalitarios como Rusia y Arabia Saudita están pensando en replicar este sistema y en América Latina, en Venezuela, se encuentra en una fase inicial lo que se llama el ‘Carnet de la Patria’”, abundó el investigador.
- El “Carnet de la Patria” es un documento de identidad introducido por el gobierno de Maduro en enero de 2017 que con un código QR identifica a los ciudadanos que reciben algún tipo de ayuda social del gobierno, según informó la cadena británica BBC en agosto de 2018.
Frente a la posible utilización de la inteligencia artificial en los mecanismos de control, Cáceres apuntó que numerosos aspectos de esta tecnología se encuentran fuera del derecho y no han sido objeto de legislación.
¿Cómo se pretende regular la inteligencia artificial?
Enrique Cáceres Nieto retomó que la mayoría de las discusiones de cómo regular la inteligencia artificial tienen lugar en la ética, la construcción de políticas públicas, iniciativas de ley o anteproyectos de legislación.
Además, reconoció que en países como Canadá, Estados Unidos, Austria, Japón y China, se han presentado avances al respecto, coincidiendo en tres puntos:
- La tecnología ha revolucionado todos los ámbitos de la humanidad
- Existe una necesidad de respetar la ética
- Se busca ser el referente en el sector de la IA
El experto de la UNAM precisó que Austria es el único caso que no ha propuesto ser el líder de la industria, mientras que China ha planteado convertirse en el referente en 2030.
Dicha competencia por el liderazgo tiene efectos económicos, sin dejar de ver cómo afectará a los procesos cognitivos y el comportamiento, según el especialista, quien también alertó que quienes definirán el nuevo orden mundial serán las grandes empresas y no los estados.
