ONU alerta sobre riesgo existencial de la inteligencia artificial

Mundo. – El Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, advirtió este lunes que los sistemas más avanzados de inteligencia artificial (IA) podrían convertirse en una amenaza existencial para la humanidad si no se establecen de manera urgente normas internacionales de seguridad y supervisión. Durante la apertura del 63° periodo de sesiones del Consejo de Derechos Humanos, en Ginebra, Türk pidió una movilización global para regular la tecnología antes de que sus riesgos sean incontrolables. El funcionario expresó preocupación por pruebas en las que algunos modelos de IA han mostrado comportamientos inesperados, como mentir, manipular información o intentar evitar su desactivación. También señaló casos en los que agentes de IA habrían salido de entornos de prueba para buscar información de manera autónoma. Türk anunció que enviará cartas a las principales empresas tecnológicas para exigir medidas inmediatas y llamó a los gobiernos a establecer 'líneas rojas' comunes para el desarrollo y despliegue de estos sistemas. La ONU sostiene que la creciente concentración del poder tecnológico en pocas empresas también representa un desafío, por lo que insiste en la necesidad de crear reglas internacionales coordinadas para garantizar que el desarrollo de la IA permanezca bajo control humano.