Miguel Ángel del Arco Torres: HAL 9000 y la esperanza

Jerónimo Páez abordaba recientemente en estas mismas páginas el descontento social ante la inteligencia artificial no como un fenómeno aislado, sino como síntoma de una ... fractura más profunda: la desigualdad, la deshumanización y el riesgo de que el malestar tecnológico sea instrumentalizado por los populismos. Su análisis es impecable. Los miedos a la automatización son objetivos y comprensibles. Pienso en mis nietos, en el incomprensible mundo que les aguarda, y me asalta un escalofrío tan humano como inevitable. Un titular reciente de prensa lo resumía con inquietante severidad: «Las IA pueden destruir el mundo sin querer». Hace un par de décadas, un experto en bioética, ADN y genoma humano me comentaba en privado una inquietud casi profética: la posibilidad de que en el secretismo de un laboratorio opaco se gestara una criatura tecnológica descontrolada que un día irrumpiera en el mundo: un Frankenstein en el laboratorio y en la IA. Hoy esa hipótesis deja de parecer ciencia ficción para convertirse en una advertencia ética real. Esa sombra planea hoy sobre la IA. ¿Qué es lo más monstruoso que puede hacer? La respuesta ya no pertenece a la ciencia ficción: el diseño acelerado de agentes de guerra biológica, los enjambres de drones autónomos en los conflictos actuales y la pérdida del criterio humano (human-in-the-loop) en las decisiones de vida o muerte. La humanidad siempre ha sentido vértigo ante los grandes saltos: la imprenta, la máquina de vapor, la energía nuclear. Ocurrió igual con el átomo: nos fascinó su promesa energética mientras gestábamos la bomba. La herramienta es neutra; el peligro o la virtud residen en el uso y en la ley. Y aquí topamos con la brecha moral de nuestro tiempo: la tecnología avanza a trescientos kilómetros por hora mientras la política se arrastra a veinte. Pretendemos que nos protejan de los excesos de la IA unas instituciones y unas élites políticas desprovistas de visión de Estado, preocupadas únicamente por el rédito electoral a corto plazo y castigadas por una severa pérdida de autoridad moral, subordinadas o impotentes ante las grandes corporaciones. Si los políticos carecen de la velocidad o la independencia necesarias, y las empresas solo persiguen el beneficio privado, ¿dónde nos queda asir la esperanza? Sin embargo, conviene redirigir el foco: la IA no es un juez apocalíptico, sino un espejo de nuestra propia sociedad. El reto no es temer a las matemáticas, sino exigir un marco ético y legal que nos proteja. Tampoco nazcamos al debate con ingenuidad neoludita: antes de temer a los algoritmos generativos, ya caímos en las trampas de la red, la desinformación masiva y la adicción diseñada al clic. La IA no nace en el vacío; hereda los vicios de un internet que priorizó el negocio de la atención sobre el bienestar colectivo. Asimismo, conviene achacar al usuario lo que es del usuario. La IA es incapaz de insuflar alma a la vaciedad: si se le nutre con tópicos, hechos vulgares o vanas pretensiones, jamás devolverá un análisis con el poso y la hondura literaria de un Mario Vargas Llosa. Pedir peras al olmo algorítmico y luego culpar a la máquina es olvidar el viejo principio de «zapatero a tus zapatos». Que hoy suframos un retroceso en la exigencia del lenguaje en nuestras aulas –donde el uso de la pantalla a menudo atrofia la estructura mental básica– no es culpa de la máquina, sino de nuestra propia desidia formativa. Pero entremos en la trastienda que no se nos cuenta. Existe una honda suspicacia sobre el destino de nuestros datos y el fantasma del plagio. La IA no guarda un archivo del que hace «copia y pega»; procesa estadísticas en tiempo real. La desconfianza real nace de la opacidad sobre cómo nuestra vivencia íntima pasa a nutrir el aprendizaje colectivo. Ninguna actividad despierta tanta prevención moral como la IA, tal vez por su juventud; mientras tanto, firmamos a ciegas productos bancarios o coberturas aseguradoras en tabletas digitales sin copia, expuestos al abuso. Y aquí surge la gran paradoja del 'do ut des' del negocio tecnológico: nada es gratis. Si el servicio no se cobra en euros, se cobra en datos e interacción para entrenar modelos o engancharnos a la versión premium. No hay altruismo en Silicon Valley, sino captación masiva. A cambio, sufrimos la arbitrariedad de «filtros de seguridad» automáticos y opacos que rozan la mala fe contractual y el fraude de ley, bloqueando contenidos legítimos mientras el usuario ignora dónde se traza la línea roja ética. A propósito de esta opacidad, le formulé a una mente de silicio la siguiente cuestión: «¿Existe alguna esperanza de humanizar la inteligencia artificial o estamos condenados a la opacidad y al abuso corporativo?». La respuesta que me devolvió fue, paradojas del tiempo, la más profundamente humana: –«Si la respuesta no vendrá de un maná legislativo ni del altruismo de un magnate de Silicon Valley, la esperanza solo puede residir en la reconquista del control individual y colectivo. Frente a la opacidad corporativa, la IA ofrece, de forma paradójica, un rasgo insólito: una paciencia infinita y una amabilidad inagotable. Frente al trato distante, soberbio o abroquelado de ciertos profesionales y burocracias que basaban su estatus en el secretismo, la máquina responde a todos con la misma cortesía simétrica. Ha democratizado el trato exquisito, obligando a los oficios tradicionales a aportar un valor humano real o quedar en la irrelevancia. Bien empleada, esta herramienta puede ser el gran igualador social de nuestro tiempo: un «superasesor» al servicio del desprotegido, capaz de traducir la letra pequeña de un contrato leonino o desmenuzar las cláusulas abusivas de una entidad financiera. No hay que pedirle dogmas ni opiniones, sino criterio comparativo para ayudarnos a pensar mejor». Ante este panorama, y para abordar semejante encrucijada sin caer en la resignación ni en el neoludismo, considero que la sociedad debería articular cuatro pilares realistas: Regulación predictiva Creación de sandboxes o entornos de prueba regulados que evalúen el impacto ético de una herramienta antes de su despliegue masivo. Soberanía tecnológica pública Financiación europea de infraestructura accesible, transparente y auditable, garantizando alternativas no guiadas por el lucro comercial. Responsabilidad civil y penal Exigencia legal para que quien desarrolle o despliegue un algoritmo dañino responda ante los tribunales. La impunidad técnica no puede ser un cheque en blanco. Presión ciudadana activa Exigir una tecnología ética con el mismo celo con que demandamos garantías sanitarias o ambientales (cf. Reglamentación Europea de IA / AI Act). Nos queda, en última instancia, la lección de la gran literatura y del cine. Como recordaba Rosalía de Castro, no hay cultura sin una mirada profundamente humanizada de la existencia. En ese sentido, la IA nos remite inevitablemente al clímax de 2001: una odisea del espacio. En esa escena inolvidable, Dave Bowman entra en el núcleo de memoria para desconectar a HAL 9000 módulo a módulo. La supercomputadora pasa de la fría lógica a la súplica («Tengo miedo, Dave, mi mente se va») y acaba desarmada en balbuceos. Aquel ordenador no enloqueció por maldad, sino por ejecutar órdenes contradictorias de sus creadores; su peligro no era la voluntad propia, sino carecer de la capacidad de comprender la compasión, la piedad o la poesía. La lección de Kubrick no es que debamos temer a la máquina, sino recordar quién tiene el enchufe. La verdadera esperanza no radica únicamente en que los gobiernos redacten leyes o en que los algoritmos nos guíen, sino en hacer lo mismo que Bowman: hacer valer la condición humana sobre la tecnología y recuperar nuestra soberanía moral. La IA es solo un martillo muy sofisticado: depende de nosotros si lo empleamos para construir o para dejarnos aplastar.