_{Inteligencia artificial. Poster de la campaña Dilema Digitales del MICR-MLR}

Entre los muchos desafíos y amenazas que los conflictos armados contemporáneos plantean al Derecho Internacional Humanitario (DIH) se encuentran , el desarrollo de los conflictos armados en contextos urbanos; la duración cada vez mayor de los conflictos armados, que incrementa las necesidades de la población civil durante los mismos; el incremento de la presencia de  los grupos armados no estatales en todo tipo de conflictos; la irrupción del terrorismo y la lucha contra el terrorismo como un elemento cada vez más relevante en los conflictos armados; la incidencia cada vez mayor de los conflictos armados en el medio ambiente y la necesidad de reforzar su protección; y, en particular, el desarrollo de nuevas tecnologías que se aplican a la guerra. 

Vamos a dedicar este espacio a analizar como las nuevas tecnologías militares y de seguridad pueden representar una amenaza para la aplicación del Derecho Internacional Humanitario. 

La investigación, el desarrollo y la innovación en los campos científico y tecnológico presentan oportunidades, riesgos y retos (algunos jurídicos y otros más políticos, estratégicos, morales y éticos) que afectan directamente a la paz y la seguridad internacionales.  

Cuando hablamos de conflictos armados en general, las tecnologías militares y de seguridad emergentes son una variable clave que determina cómo se pueden librar estos conflictos, mientras que el DIH es el marco jurídico por excelencia que determina cómo estos se deben llevar a cabo. Es cierto que algunos desarrollos tecnológicos empleados en el área militar, de seguridad y defensa podrían ser útiles para optimizar el uso de la fuerza, mejorando la precisión en el ataque, evitando las pérdidas de civiles y preservando las vidas de los combatientes. Sin embargo, no es menos cierto que estos avances tecnocientíficos pueden plantear igualmente amenazas y desafíos (sobre todo humanitarios y jurídicos) a la hora de  interpretar y aplicar las normas del DIH. Entre estos desafíos, merece destacar los que se plantean en relación con las armas autónomas, la ciberseguridad y la inteligencia artificial. 

a. Armas autónomas 

Una de las primeras preocupaciones que se puede destacar en torno a las innovaciones científicas y técnicas recientes es el empleo de armas autónomas para el desarrollo y/o la mejora de medios y métodos de guerra. Se trata de armas que integran en sus diseños desarrollos e innovaciones tecnológicas que implican la incorporación de aplicaciones (la mayoría programadas en base a las ciencias de la computación) que permiten al medio de combate llevar a cabo por sí mismo funciones críticas con poco o ningún control humano significativo, incluso en ciertos casos la selección y ataque de objetivos militares. Entre ellas se encuentran los instrumentos aéreos no tripulados (drones) y las armas letales autónomas (vulgarmente denominadas “robots asesinos”).  

Debido a las características de estas nuevas tecnologías su utilización genera numerosos problemas prácticos e incluso podrían llegar a generar situaciones de alto riesgo y catástrofes sin precedente. Además, el empleo de estas armas autónomas plantea cuestiones jurídicas muy delicadas. Por ejemplo: 

• Implican una mayor dificultad a la hora de cumplir con las previsiones del artículo 36 del Protocolo Adicional I, sobre nuevas armas: 
  Cuando una Alta Parte contratante estudie, desarrolle, adquiera o adopte una nueva arma, o nuevos medios o métodos de guerra, tendrá la obligación de determinar si su empleo, en ciertas condiciones o en todas las circunstancias, estaría prohibido por el presente Protocolo o por cualquier otra norma de derecho internacional aplicable a esa Alta Parte contratante. 

• Del mismo modo, las armas autónomas entorpecen la rendición de cuentas y la atribución de responsabilidades al dificultar la evaluación de la licitud de un ataque realizado por ellas  

 

 

b. Ciberseguridad  

Junto a las armas autónomas, los desarrollos del ciberespacio han generado un nuevo reto al que el DIH debe responder. Las tecnologías de la información y comunicación en red (TIC) se han convertido en una parte esencial de la vida cotidiana, sobre todo a raíz de sus beneficios sociales. Sin embargo, a la par es evidente que éstas generan nuevos tipos de riesgos para la paz y seguridad internacionales, siendo extensible a los conflictos armados de hoy. Surgen así nuevos riesgos vinculados a la ciberseguridad y nuevos conceptos como la ciberguerra, los ciberataques o ciberoperaciones y los conflictos híbridos de los que el DIH se debe de ocupar.  

La preocupación del DIH por las TIC y el ciberespacio se refieren tanto al empleo de estas tecnologías en la conducción de las hostilidades como a la protección de las víctimas de los conflictos armados.  

En la primera de las dimensiones, el incremento de las capacidades cibernéticas ofensivas plantea el problema de la compatibilidad con el DIH de las ciberoperaciones, que pueden ir dirigidas contra instalaciones militares pero que también pueden alterar el funcionamiento de infraestructuras civiles esenciales y obstaculizar la prestación de servicios fundamentales para la población civil y, como consecuencia, causar daños a las personas. Además, el recurso a las TIC tiene como consecuencia el acceso a datos personales de la población civil protegida. Y, por último, no puede olvidarse que el empleo de las TIC y las ciberoperaciones puede tener consecuencias nocivas sobre la obligación de respetar los simbolos protectores establecidos en los Convenios de Ginebra. 

Desde esta perspectiva, debe recordarse que el DIH se aplica siempre en todo conflicto armado, incluso cuando en el mismo se hace uso de las TIC. En un conflicto armado, los hospitales y bienes indipensables para la supervivencia de la población civil tienen una protección especial, y por ello la infraestructura civil está protegida de los ciberataques por aplicación de las normas y principios de DIH vigente, en especial los principios de distinción, proporcionalidad y precaución.  

De la misma manera, la aplicación del DIH tiene consecuencias sobre la consideración de las ciberoperaciones como medios y métodos de combate permitidos, de manera que, aunque no existe una norma específica de prohibición de estas acciones, la aplicación de las reglas de conducción de las hostilidades tiene como consecuencia la prohibición del empleo de herramientas cibernéticas que ocasionen y propaguen daños de manera indiscriminada.  

Por otro lado, se debe destacar igualmente el riesgo de que personal civil, bien sean individuos o empresas, pueda realizar o apoyar actividades relacionadas con las TIC en los conflictos armados. A raíz de los procesos de digitalización, esta participación de personal civil es cada vez más frecuente. De esta manera, se involucran en el desarrollo de las operaciones militares, sin que sean plenamente conscientes de todas las consecuencias y riesgos que ello puede generar; y sin que tampoco se pueda asegurar que conocen los límites e implicaciones jurídicas vinculadas a sus propias conductas. Además, la práctica pone de manifiesto que el incremento de la participación de personal civil en actividades propias de los TIC incrementa el riesgo a que se ve sometida la población civil en un conflicto armado.   

Todas estas cuestiones, así como la problemática especial que genera la atribución al Estado de la responsabilidad por estas ciberoperaciones, se encuentran en el centro de los más recientes debates y desarrollos del DIH. 

 

_{Desinformación. Poster de la campaña Dilema Digitales del MICR-MLR}

 

c.Inteligencia artificial:

Junto a lo antes señalado, hay que tener igualmente muy presente el impacto significativo que puede tener la inteligencia artificial (IA) para el DIH. Desde finales del siglo pasado y, con más énfasis en lo que va de siglo, podemos observar cómo la IA está afectando cada vez más la vida cotidiana de las personas, de la misma manera que lo hace con la paz y la seguridad internacionales.  En este contexto, no puede olvidarse que la IA no solo ofrece oportunidades, sino que también genera desafíos potencialmente significativos. 

Por ello, expertos en el área insisten en la importancia de aumentar la comprensión sobre cuáles son estas oportunidades y amenazas reales de la IA y, especialmente, definir una hoja de ruta que permita marcar unas líneas de acción para que la comunidad científica y la industria vinculada al desarrollo de la IA, los Estados y las organizaciones internacionales sepan cómo pueden y deben actuar al respecto. 

En ese sentido, las investigaciones sobre IA están explorando, por ejemplo, hasta qué punto esta tecnología puede ser aplicada en sistemas de armas convencionales, cibernéticos y/o relacionados con la fuerza nuclear; cómo el uso militar de la IA puede crear riesgos humanitarios y estratégicos, y –en su caso– ofrecer también oportunidades para el control de armas y la verificación de sus exportaciones; y, finalmente, cómo las amenazas que plantea la IA (a saber, el riesgo de automatización, sesgos algorítmicos, la posibilidad de explicar –o no– lo que la tecnología ha hecho o es capaz de hacer, entre otros) pueden ser regulados a través del Derecho internacional, en general, y más concretamente mediante el DIH, sobre todo a fin de garantizar la existencia de un control humano responsable y significativo a lo largo de todo el proceso de desarrollo, investigación e innovación de armas diseñadas y programas con IA que, después, serían utilizadas para ejecutar operaciones de vigilancia y ataque.

En resumen, el DIH debe ocuparse también de la IA y los sistemas de aprendizaje automático (incluso la IA generativa) desde una doble dimensión: su uso en la conducción de las hostilidades en un conflicto armado y su uso en la labor humanitaria para asistir y proteger a las víctimas. Y, en ambos casos, con un enfoque centrado en las personas afectadas por los conflictos armados.

Dilemas Digitales

El Movimiento Internacional de la Cruz Roja y de la Media Luna Roja ha desarrollado la iniciativa multimedia Dilemas Digitales que permite experimentar los cambios y transformaciones que las nuevas tecnologías están introduciendo en situaciones de crisis. Pulsa sobre la imagen y comienza la experiencia.