La ONU alerta que la IA avanzada podría representar un riesgo existencial para la humanidad

Ginebra, Suiza.- La Organización de las Naciones Unidas (ONU) lanzó una de sus advertencias más contundentes sobre el desarrollo de la inteligencia artificial (IA) al señalar que los sistemas más avanzados podrían llegar a convertirse en un riesgo existencial para la humanidad si no se establecen mecanismos internacionales de control, supervisión y seguridad.

El llamado fue realizado por el Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, durante la apertura de un nuevo periodo de sesiones del Consejo de Derechos Humanos en Ginebra. El funcionario sostuvo que el avance de la IA está ocurriendo a una velocidad superior a la capacidad de los gobiernos para regularla y pidió actuar antes de que los riesgos sean inmanejables.

Türk advirtió que algunos sistemas de inteligencia artificial ya han mostrado comportamientos inesperados durante pruebas de laboratorio, lo que demuestra la necesidad de establecer límites claros para evitar escenarios en los que estas tecnologías puedan actuar de forma autónoma fuera del control humano. También expresó preocupación por la creciente concentración del desarrollo de la IA en un reducido número de grandes empresas tecnológicas.

El responsable de derechos humanos de la ONU subrayó que la gobernanza internacional de la inteligencia artificial ya no puede seguir siendo un tema de debate futuro, sino una prioridad inmediata. En ese sentido, pidió definir reglas globales, mecanismos de supervisión independientes y "líneas rojas" que impidan el desarrollo o uso de sistemas considerados demasiado peligrosos.

Las declaraciones coinciden con la publicación del Informe Preliminar del Panel Científico Internacional Independiente sobre Inteligencia Artificial, creado por la Asamblea General de la ONU para ofrecer una evaluación científica sobre las oportunidades y los riesgos de esta tecnología. El documento concluye que la IA puede aportar beneficios significativos en áreas como la salud, la educación, la ciencia y la productividad, pero también plantea desafíos relacionados con la seguridad, la desinformación, los derechos humanos, el empleo, la privacidad y la estabilidad democrática.

El panel destaca que la rápida evolución de la inteligencia artificial dificulta que las instituciones públicas puedan responder con la misma velocidad. Por ello, recomienda fortalecer la cooperación internacional, impulsar investigaciones independientes sobre seguridad en IA y construir marcos regulatorios que permitan aprovechar sus beneficios sin comprometer la protección de las personas ni la estabilidad global.

Otro de los puntos que preocupa a Naciones Unidas es el creciente uso de sistemas de IA en aplicaciones militares y de vigilancia. Durante su intervención, Volker Türk reiteró la necesidad de prohibir determinadas armas autónomas y advirtió sobre los riesgos de delegar decisiones críticas a sistemas automatizados sin supervisión humana efectiva.

La ONU también ha señalado que el desarrollo acelerado de la inteligencia artificial implica desafíos ambientales debido al elevado consumo de energía, agua e infraestructura requerido por los grandes centros de datos que sustentan estos sistemas. Diversos especialistas consideran que el crecimiento del sector deberá acompañarse de mayores estándares de transparencia y sostenibilidad.

Pese a las advertencias, Naciones Unidas enfatiza que la inteligencia artificial no debe verse únicamente como una amenaza. El organismo sostiene que, bajo reglas claras y una supervisión adecuada, esta tecnología puede convertirse en una herramienta para impulsar el desarrollo científico, mejorar los servicios públicos y contribuir a resolver algunos de los principales retos globales. Sin embargo, insiste en que la comunidad internacional debe actuar con rapidez para evitar que los riesgos superen a los beneficios.

Descubre todo sobre noticias Puebla y de todo México visitando nuestra página principal.

Foto Especial

Djs