De la Inteligencia Artificial a los 'Robots Asesinos': Jefe de la ONU hace un llamado urgente por la gobernanza global

El mundo se enfrenta a uno de los mayores desafíos de su historia moderna. No se trata de una guerra convencional, una pandemia o una crisis climática, aunque todos estos problemas persistan. Lo que preocupa cada vez más a los líderes mundiales es algo que hasta hace pocos años parecía ciencia ficción: el ascenso descontrolado de la inteligencia artificial y de los llamados "robots asesinos", sistemas de armas autónomas capaces de tomar decisiones letales sin intervención humana.

El secretario general de las Naciones Unidas, António Guterres, ha vuelto a alzar la voz sobre el tema, emitiendo un llamado urgente por mecanismos efectivos de gobernanza global para estas tecnologías. Para Guterres, la humanidad está en una carrera contra el tiempo, y la ventana para establecer reglas claras y vinculantes se está cerrando rápidamente.

---

¿Qué son los 'Robots Asesinos' y por qué asustan?

El término "robots asesinos" puede sonar sensacionalista, pero es la denominación popularizada para los llamados Sistemas de Armas Letales Autónomas (LAWS, por sus siglas en inglés). Se trata de tecnologías militares que utilizan algoritmos de inteligencia artificial para identificar, seleccionar y atacar objetivos sin que un ser humano necesite apretar el gatillo.

A diferencia de los drones controlados remotamente por operadores humanos, estos sistemas son capaces de:

• Identificar objetivos de forma independiente usando visión computacional y reconocimiento de patrones;
• Tomar decisiones en fracciones de segundo, mucho más rápido de lo que cualquier humano podría procesar;
• Operar en entornos hostiles donde la comunicación con operadores humanos puede ser imposible;
• Ser producidos a gran escala a costos cada vez menores, democratizando —de forma peligrosa— el acceso a este tipo de armamento.

Países como Estados Unidos, China, Rusia, Israel y diversas naciones europeas ya invierten miles de millones de dólares en el desarrollo de estas tecnologías. El problema es que no existe, hasta el momento, ningún tratado internacional vinculante que regule o prohíba su uso.

---

La alerta de Guterres: Una carrera armamentista sin reglas

En su llamado más reciente, António Guterres no escatimó palabras. El jefe de la ONU calificó la situación actual como "moralmente repugnante y políticamente inaceptable", advirtiendo que permitir que las máquinas decidan sobre la vida y la muerte de seres humanos representa una violación fundamental de los principios del derecho internacional humanitario.

Además de las armas autónomas, el secretario general también centró su preocupación en la inteligencia artificial de uso civil, cuyo avance acelerado plantea cuestiones igualmente urgentes:

• Desinformación y deepfakes capaces de manipular elecciones y desestabilizar democracias;
• Sesgo algorítmico que puede perpetuar discriminaciones raciales, de género y socioeconómicas en sistemas de salud, justicia y crédito;
• Concentración de poder en manos de unas pocas corporaciones tecnológicas privadas, sin rendición de cuentas (accountability) democrática;
• Impactos en el mercado laboral, con automatización masiva amenazando millones de empleos alrededor del mundo.

---

La ONU y los esfuerzos por una gobernanza global de la IA

La ONU no se ha quedado de brazos cruzados. En 2024, la organización dio pasos importantes en esa dirección. La Resolución sobre Inteligencia Artificial, aprobada por consenso en la Asamblea General, fue un hito histórico: la primera vez que el principal órgano deliberativo de la organización se pronunció formalmente sobre el tema.

Además, se creó el Alto Órgano Consultivo sobre Inteligencia Artificial, un grupo de expertos internacionales encargado de proponer recomendaciones para la gobernanza global de la tecnología. El informe final del grupo identificó cinco áreas críticas de intervención:

1. Transparencia y explicabilidad de los sistemas de IA;
2. Responsabilización por daños causados por algoritmos;
3. Inclusión digital para garantizar que los países en desarrollo no se queden atrás;
4. Protección de datos y privacidad de los ciudadanos;
5. Control humano sobre decisiones críticas, especialmente en el contexto militar.

---

El impasse geopolítico: Cuando los intereses nacionales pesan más

A pesar de los esfuerzos diplomáticos, la gobernanza global de la IA enfrenta un impasse geopolítico significativo. Las grandes potencias tecnológicas —especialmente Estados Unidos y China— han resistido tratados que puedan limitar su ventaja competitiva, tanto en el campo civil como en el militar.

El argumento recurrente es el de la soberanía tecnológica: cada nación defiende el derecho de desarrollar e implementar tecnologías de acuerdo con sus propios intereses estratégicos. Esta postura hace extremadamente difícil la negociación de acuerdos multilaterales con fuerza vinculante.

En Europa, el camino ha sido diferente. La Ley de IA de la Unión Europea (AI Act), aprobada en 2024, es el reglamento más integral sobre el tema jamás creado en el mundo, clasificando los sistemas de IA por niveles de riesgo e imponiendo obligaciones severas para aplicaciones de alto impacto. Sin embargo, su eficacia depende de la adhesión —o no— de otros bloques económicos.

---

Brasil en el radar: ¿Cómo se posiciona el país?

Brasil también comienza a moverse en este debate. El Marco Legal de la Inteligencia Artificial, aún en discusión en el Congreso Nacional, busca establecer principios y directrices para el uso responsable de la tecnología en el país. El proyecto prevé:

• Protección de los derechos fundamentales de los ciudadanos frente a sistemas automatizados;
• Transparencia obligatoria sobre el uso de IA en decisiones que afecten derechos;
• Fiscalización por un órgano regulador específico, aún por crearse;
• Prohibición de ciertas aplicaciones consideradas de riesgo inaceptable.

Brasil tiene una posición estratégica importante en las negociaciones internacionales, especialmente tras organizar eventos globales relevantes como el G20 en 2024, donde la gobernanza de la IA fue un tema central.

---

Lo que está en juego: Más que tecnología

En el fondo, el debate sobre la gobernanza de la IA y los sistemas de armas autónomas va mucho más allá de la tecnología. Lo que está en juego es el tipo de futuro que la humanidad quiere construir.

Permitir que algoritmos decidan quién vive y quién muere en un campo de batalla —o que sistemas opacos determinen quién recibe crédito, quién es contratado, quién es arrestado— sin ninguna supervisión humana significativa, es renunciar a algo esencial: la responsabilidad moral colectiva.

António Guterres y otros líderes globales están en lo cierto al alzar la voz. La historia nos enseña que las tecnologías disruptivas, cuando se introducen sin marcos regulatorios adecuados, tienden a amplificar las desigualdades y los conflictos existentes antes de —eventualmente— ser domesticadas por la sociedad.

La diferencia esta vez es que el ritmo de avance tecnológico no tiene precedentes. Y el tiempo para actuar se está agotando.

---

Conclusión: La urgencia no puede ser ignorada

El llamado del jefe de la ONU no es un ejercicio retórico. Es un reconocimiento de que la ventana para una gobernanza efectiva está abierta, pero no permanecerá abierta para siempre. Cada mes sin una regulación adecuada es un mes en el que nuevos sistemas son desarrollados, implementados y potencialmente utilizados —sin las salvaguardas necesarias.

Corresponde a los gobiernos, a la sociedad civil, al sector privado y a la comunidad científica unirse en torno a un objetivo común: garantizar que la inteligencia artificial sirva a la humanidad, y no lo contrario. El futuro que estamos construyendo hoy será heredado por las próximas generaciones. Y ellas nos cobrarán las decisiones —o la falta de ellas— que tomemos ahora.