La Fundación Cruz Roja Española celebró el 20 de febrero de 2025 una nueva edición del Summit #ConversacionesHumanitarias, un espacio de reflexión que dedicó al impacto que la tecnología tiene en la sociedad. Bajo el título “Tecnología y Vulnerabilidad”, personas expertas del ámbito sanitario, educativo, jurídico, social y tecnológico analizaron los desafíos y oportunidades de los avances digitales.  

En un mundo cada vez más interconectado y digitalizado, la defensa de los derechos humanos ha adquirido una nueva dimensión, especialmente en el entorno digital. Durante la mesa titulada Derechos Humanos en Tiempos de la IA, se discutió cómo los derechos fundamentales se enfrentan a los avances rápidos de la inteligencia artificial (IA) y cómo asegurar que estos derechos se respeten, tanto en el ámbito físico como en el virtual. Para desarrollar este tema se contó con Enrique Ávila, director del Centro de Análisis y Prospectiva de la Guardia Civil, Moisés Barrio, letrado del Consejo de Estado y María Cano Bonilla, experta en ética e inteligencia artificial. 

Si no puedes ver el vídeo haz clic aquí.

"Por lo general nos jactamos de conocer nuestros derechos como ciudadanos, como ciudadanas. Seguramente desconocemos si quiera que también los tenemos en una dimensión digital. Y sabiendo eso, ¿Los tenemos, realmente? Y si es así, ¿qué creéis que podemos hacer para exigir que se cumplan?", fueron las preguntas que Ángeles Caballero, moderadora del panel, planteó a los ponentes al inicio del debate. 

María Cano destacó que los derechos digitales están más vinculados al ámbito digital, cuyo marco es difícil de mantener y comprender. Afirmó que lo que sucede en la red siempre involucra nuestros datos, y que incluso quienes no tienen acceso a la tecnología se ven afectados por su uso. María compartió su opinión sobre cual es el papel de los ciudadanos digitales.  

María Cano Bonilla, experta en ética e inteligencia artificial. 

Por otro lado, Enrique Ávila explicó de que forma abordar un futuro social que se encuentra en un punto de inflexión por el impacto del desarrollo tecnológico. Enrique añadió que la seguridad es uno de los principales elementos estructurales al aplicar los derechos humanos. Subrayó que los ciudadanos tienen derechos y responsabilidades, y resaltó la necesidad de adquirir una cultura transversal para enfrentarse a los nuevos escenarios digitales. También mencionó que es necesaria una acción de gobierno para garantizar la resiliencia social. 

Enrique Ávila, director del Centro de Análisis y Prospectiva de la Guardia Civil.  

Moisés Barrio aportó una perspectiva legal, señalando que los tribunales están pensados para la era analógica y que deben adaptarse a los retos de la era digital. Compartió también con los asistentes las claves del Reglamento Europeo de Inteligencia Artificial.  

El debate continuó con preguntas clave sobre el equilibrio entre la seguridad y la privacidad en un mundo influenciado por la IA. Ángeles preguntó: "¿Cómo dirías que se puede garantizar que las tecnologías utilizadas para la seguridad no vulneren derechos fundamentales como la privacidad o la libertad de expresión?" Enrique defendió la validez del estado de derecho y reconoció la capacidad de la tecnología para implementar controles en este ámbito. Moisés, por su parte, destacó que la base de todo es comprender y entender la tecnología. Hizo un llamamiento a ser críticos con su uso y a evaluar los riesgos, recordando que la tecnología no es neutral, sino que refleja los valores de las corporaciones que la crean.  

Moisés Barrio, Letrado del Consejo de Estado.

Ángeles planteó la cuestión de los sesgos discriminatorios en los algoritmos de IA: "¿Qué mecanismos legales pueden proteger a las personas en situación de vulnerabilidad frente a posibles sesgos discriminatorios de la IA?" Moisés enfatizó la importancia de que los sistemas legales se adapten para proteger a los ciudadanos frente a estos posibles sesgos.  

María, además, habló sobre el impacto que los nuevos desarrollos y algoritmos tienen en los derechos fundamentales, como el derecho a la autonomía, a la igualdad y a la información, destacando los riesgos y desafíos que plantea la rápida evolución de la inteligencia artificial y los sistemas automatizados.  

Mesa “Derechos Humanos en tiempos de la IA”

Para el cierre, se invitó a las personas expertas a compartir una reflexión sobre la importancia de garantizar el derecho a la información en una era donde los algoritmos pueden generar noticias falsas y manipular la opinión pública. "¿Corren peligro el derecho a la información y la transparencia de los algoritmos en la sociedad actual?", preguntó Ángeles. María destacó que la desinformación está afectando la confianza de los ciudadanos en la tecnología y la información, despojándolos de la capacidad de tener un pensamiento crítico.  

De las principales conclusiones de esta mesa quedó claro el desafío que enfrentamos para garantizar los derechos humanos en un mundo cada vez más influenciado por la inteligencia artificial, con una reflexión crítica sobre la necesidad urgente de regulación y transparencia en su desarrollo. 

Las opiniones expresadas en este artículo son de las personas participantes en el encuentro y no reflejan la opinión de la Fundación Cruz Roja Española.