El futuro es hoy: robots asesinos podrían actuar sin intervención humana. Así como lo oyes. La cuestión es difícil de abordar porque, pese a que el cine ha alimentado la imaginación desde que Arnold Schwarzenegger diera vida a Terminator, especialistas en el mundo no están de acuerdo sobre la definición de lo que es un arma autónoma.
¿Qué reglas deberían aplicarse a los sistemas autónomos de armas letales (ALWS), también conocidos como “robots asesinos”? Prohibición total, uso respetuoso del derecho humanitario. Ya hay 125 Estados en el mundo que debatirán este tema aún vago, que combina alta tecnología y ética.
Hay que tomar en serio este tema, pues los “robots asesinos” suenan como algo salido de una película de terror de ciencia ficción y los avances en la tecnología significan que las armas totalmente autónomas algún día podrían convertirse en una realidad, transformando la guerra.
Ya se están desarrollando armas autónomas que utilizan inteligencia artificial para seleccionar objetivos, destinadas a reducir el costo y el riesgo para los soldados humanos, al tiempo que aumentan la velocidad y la eficiencia en la acción.
Robots: permisos para matar
A diferencia de los drones, que son operados por humanos, los “robots asesinos” tendrían cierta capacidad autónoma de toma de decisiones . Las armas autónomas serían capaces de actuar sin intervención humana. Se las ha descrito como la tercera revolución en la guerra, después de la pólvora y las armas nucleares.
Algunos de los científicos más destacados del mundo creen que las armas completamente autónomas representan una amenaza inaceptable para la humanidad y podrían desencadenar una carrera de armamentos de inteligencia artificial.
En abril de 2013, un grupo de organizaciones no gubernamentales lanzó la Campaña para detener a los “robots asesinos”, una coalición internacional que trabaja para prohibir las armas totalmente autónomas.
Mientras tanto, el Comité Internacional para el Control de Armas Robóticas hace campaña por el uso pacífico de la robótica y la regulación de las armas robóticas.
“Robots asesinos”: negociaciones en Ginebra
Los debates se celebran toda esta semana en Ginebra, en el marco de la conferencia de examen del Convenio de Naciones Unidas sobre Ciertas Armas Convencionales (CCAC), bajo la presidencia de Francia.
El tema de los SALA tiene eco en la opinión pública, preocupada por el desarrollo de la inteligencia artificial y sus consecuencias.
“(La conferencia) debe avanzar rápidamente en sus trabajos sobre las armas autónomas, que pueden designar objetivos y matar a gente sin intervención humana”.
Antonio Guterres, secretario general de la ONU
Guterres pidió “un ambicioso plan de futuro para fijar las restricciones para el uso de ciertos tipos de armas autónomas.
“Robots asesinos”: ¿prohibición total?
La campaña Stop Killer Robots, que agrupa a unas 180 organizaciones civiles, entre ellas Human Rights Watch y Amnistía Internacional, acaba de apoyar a decenas de países que desean la prohibición total de estas armas.
We were out in force at the #RevCon last week. States missed a golden opportunity to start negotiations to ban #KillerRobots. We expect more. The world is watching. It’s time now for them to lead. Stay tuned for 2022, it’s going to be a big year
— Stop Killer Robots (@BanKillerRobots) December 22, 2021#KeepCtrl #TeamHuman pic.twitter.com/WboSZz3aqs
En Ginebra, los Estados tienen la oportunidad de “fijar una línea roja contra máquinas asesinas de hombres, la forma postrera de la deshumanización digital” subraya Stop Killer Robot.
El Comité Internacional de la Cruz Roja pide a los Estados que se pongan de acuerdo sobre los límites a imponer a los sistemas de armas autónomas para garantizar la protección de civiles, el respeto del derecho internacional humanitario y la aceptabilidad ética de estos sistemas.
Aunque ya existen armas parcialmente autónomas, los sistemas realmente autónomos en los campos de batalla, capaces de combatir sin intervención humana, siguen siendo teóricos, según la mayoría de los expertos.
El problema de los debates en el seno de esta CCAC es que la convención funciona mediante consenso, explicaba recientemente el embajador de Francia, encargado de temas de desarme en Ginebra, Yann Hwang.
Si se halla un acuerdo en este marco, englobaría a todas las principales potencias militares y “cuando se debate y se negocia estamos seguros de que todo el mundo acepta las obligaciones”, subraya Yann Hwang.
Difícil consenso
Hay dos grupos de países: los que consideran que hay que prohibir de forma preventiva estas armas, incluso su desarrollo por razones éticas, y luego países como Francia que piensan que sí hay riesgos, pero que éstos pueden ser controlados.
We were out in force at the #RevCon last week. States missed a golden opportunity to start negotiations to ban #KillerRobots. We expect more. The world is watching. It’s time now for them to lead. Stay tuned for 2022, it’s going to be a big year
— Stop Killer Robots (@BanKillerRobots) December 22, 2021#KeepCtrl #TeamHuman pic.twitter.com/WboSZz3aqs
“Para (…) muchos países europeos la perspectiva ética es legítima pero no suficiente como para elaborar una regulación que controle el armamento”.
Yann Hwang
Una de las dificultades estriba en el hecho de que las tecnologías presentes tienen un doble uso militar y civil. Tradicionalmente los rusos no quieren atarse las manos y los estadounidenses quieren un texto no vinculante.
Posición de EU sobre “robots asesinos”
Estados Unidos pidió en una reunión de Naciones Unidas un “código de conducta no vinculante” sobre los sistemas de armas autónomos letales, conocidos como “robots asesinos”.
“En nuestra opinión, la mejor manera de avanzar en nuestra reflexión (…) sería desarrollar un código de conducta no vinculante”.
Josh Dorosin, consejero jurídico del departamento de Estado
Durante la reunión en Ginebra del grupo de expertos gubernamentales sobre los sistemas de armas autónomas letales, Josh Dorosin considera que este código ayudaría a los Estados a promover un comportamiento responsable y el respeto del derecho internacional.
La primera reunión oficial de este grupo de expertos, cuyo mandato está por terminar, tuvo lugar en 2017, sin que se encontrara un consenso sobre la necesidad o no de regular el uso futuro de estas armas.
TE PUEDE INTERESAR: Robot policía patrulla las calles de Singapur y causa temor entre la gente
En la Convención de Naciones Unidas sobre el Uso de Ciertas Armas Convencionales que se celebró en Ginebra del 13 al 17 de diciembre, el embajador belga Marc Pecsteen, presentó un informe que recomienda a los Estados abrir negociaciones para lograr normas internacionales sobre estas armas.
El informe también recomienda que los Estados se comprometan a ejercer un “control humano suficiente” mediante el establecimiento de salvaguardias. Varios países como Estados Unidos e India se mostraron reacios a adoptar un marco jurídico vinculante y criticaron muchos aspectos del informe.
En noviembre de 2018, el secretario general de Naciones Unidas, Antonio Guterres, pidió prohibir estas armas y las calificó como “políticamente inaceptables y moralmente repugnantes”.
