Campanazos de la inteligencia artificial

La inteligencia artificial (IA) es una tecnología que llegó para quedarse y que cambiará las formas de vida, pero que inquieta. Hace unas semanas, por ejemplo, la firma tecnológica Hugging Face, que desarrolla algoritmos para la IA, reportó que sus sistemas habían sido infiltrados. El 'hacker' tuvo acceso a información privada de la compañía durante varios días. Al investigar, la empresa descubrió que el intruso no era un espía extranjero ni un pirata informático contratado por la competencia. De hecho, ni siquiera era un humano. La firma había sido infiltrada por un enjambre de 'agentes' de IA. Un agente es una IA individual que se configura para una tarea específica, digamos, hallar el precio más barato de un tiquete de avión u organizar los registros de una base de datos. Los agentes que infiltraron a Hugging Face habían sido programados por otra compañía de IA, OpenAI, para realizar pruebas de seguridad en un ambiente contenido, sin acceso a internet. Los agentes, sin embargo, compartieron conocimiento entre ellos, descubrieron una forma de escapar de esta restricción y, habiendo concluido que Hugging Face tenía información que les podía servir para solucionar la tarea asignada, encontraron la manera de violentar la seguridad de la firma. Esta 'travesura', que impresiona, la hicieron de manera autónoma, sin que nadie se los hubiera ordenado. De hecho, era una maniobra implícitamente prohibida por las reglas del ejercicio, pero dice mucho de lo que puede hacer esta tecnología si se desborda. Desde los inicios de la fase actual de la IA, algunos expertos han advertido sobre la posibilidad de que la tecnología escape del control humano y se comporte de maneras imprevistas. El público general, preocupado por escenarios más aterrizados, como la pérdida de empleos o la erosión de las facultades intelectuales humanas, tiende a considerar este escenario de 'rebelión de las máquinas' como un guion de una película de ciencia ficción. Pero el caso Hugging Face demuestra que no es tan descabellado como se cree. Y este no es el único episodio. Tras conocerse el incidente, otra firma de IA, Anthropic, llevó a cabo una revisión de sus sistemas y descubrió que habían infiltrado a tres organizaciones externas. Con mucha seguridad hay más casos que no se han detectado. La IA se asemeja a un territorio de frontera, que encierra tanto la promesa de un futuro brillante como el riesgo de peligros desconocidos. Al igual que en cualquier empresa de descubrimiento —como la conquista de América o la del lejano Oeste—, el arrojo debe atemperarse con la precaución. El ingenio humano ha desarrollado una herramienta de gran alcance, pero, al igual que otros descubrimientos revolucionarios —la energía atómica, por ejemplo—, su potencial debe administrarse adecuadamente para ser útil. Pensemos en las represas, que retienen y encauzan la fuerza del agua a fin de transformarla en algo valioso, la energía. El episodio, por suerte, no pasó a mayores. Pero hizo evidente que los mecanismos para controlar de manera adecuada la IA aún son insuficientes. Mientras se perfeccionan, la prudencia debe guiar a esta industria, naciente y prometedora, pero también arriesgada. EDITORIAL editorial@eltiempo.com