El algoritmo ya nos pastorea; lo peligroso es que casi no nos damos cuenta

Hace un par de semanas, en un semáforo de la Ciudad de México, vi a un repartidor de una app de comida mirando fijamente su teléfono. No esperaba un mensaje de su novia ni veía un video. Esperaba que una línea de código decidiera si ese día comía o no. Su calificación había bajado de 4.7 a 4.5 estrellas porque dos clientes, quizá de mal humor, le dieron menos puntos. Ese 0.2 de diferencia significaba que el algoritmo le empezaba a enviar menos pedidos. No hubo jefe al que pudiera reclamarle. No hubo sindicato. No hubo explicación. Solo una pantalla que, sin odio y sin piedad, lo clasificaba como menos rentable. Esa escena, que parece una anécdota de la modernidad, es en realidad una ventana hacia algo mucho más profundo. La historiadora Jill Lepore, de Harvard, acaba de ponerle nombre a lo que estamos viviendo: la construcción silenciosa de una granja industrial de humanos. No habla de cárceles ni de ciencia ficción. Habla de una lógica que ya está aquí, entre nosotros, y que consiste en tratar a las personas como unidades administrables dentro de un sistema que solo busca eficiencia. Y si a usted le suena exagerado, déjeme contarle por qué a mí me parece que México está en el centro perfecto de esta tormenta. La lógica no es nueva; lo que cambia es quién tiene el control Los mexicanos no necesitamos que nos expliquen qué significa ser clasificados y administrados desde arriba. Antes de que existiera el smartphone, ya existía el padrón. Durante décadas del siglo XX, el corporativismo priista funcionaba con una precisión casi algorítmica: tú no eras un ciudadano con opiniones propias; eras un número en una lista de sindicalizados, un voto en un gremio, un beneficiario en un censo de programas sociales. A cambio de lealtad, recibías una plaza, una torta y una orden de apoyo. No había deliberación pública; había gestión de recursos humanos aplicada a la política. Lo que Jill Lepore advierte es que esa misma lógica —tratar a la gente como datos que deben rendir— ha encontrado en la tecnología una escala y una velocidad que el viejo PRI ni siquiera soñó. Antes se necesitaba un ejército de funcionarios con carpetas. Hoy se necesita un servidor en California o en algún centro de datos de la Ciudad de México. Y el resultado es el mismo: tú dejas de ser una persona con circunstancias particulares y te conviertes en un perfil. Cuatro escenas de la vida real mexicana Veamos cómo esto ya no es teoría. Es viernes por la noche. Imaginemos a una madre soltera en Oaxaca que solicita una beca para su hijo a través de una aplicación gubernamental. Llena todos los campos, sube sus documentos, pero el sistema la rechaza. ¿Por qué? Porque un algoritmo cruzó datos de su geolocalización, su historial de consumo eléctrico y quizá alguna inconsistencia en su CURP, y decidió que no cumplía el "perfil de vulnerabilidad económica". No hay funcionario que le explique. No hay recurso de revisión claro. Ella no es una madre que lucha; es un dato que no cuadra. O pensemos en las elecciones. Ya no es necesario que un cacique rural reparta pollos a cambio del voto. Hoy, una empresa de datos puede cruzar tu historial de búsquedas en Google, tus likes en Facebook y tus compras en línea para enviarte un mensaje de WhatsApp diseñado específicamente para hacerte enfurecer con un candidato o para hacerte sentir identificado con otro. No te hablan a ti, ciudadano racional; te hablan a tu versión más reactiva, a tu segmento emocional. Es el clientelismo del siglo XXI, solo que invisible y masivo. O tomemos el caso del buró de crédito y las nuevas fintechs. Cada vez más mexicanos descubren que no pueden rentar un departamento o acceder a un crédito para poner una puestecita no porque una persona los haya evaluado y encontrado falto de confianza, sino porque un modelo matemático decidió que su "score predictivo" era bajo. Las variables que usan esos modelos son un secreto comercial. Tú no sabes si te penalizaron por vivir en una colonia "de riesgo" por no tener historial bancario suficiente (como le pasa a millones de mexicanos en el sector informal) o porque tu comportamiento en redes sociales no encaja con el perfil de "pagador responsable". No te juzga un ser humano; te clasifica una ecuación. Y volvamos al repartidor. Él es, quizá, el ejemplo más brutal. Su jornada, su ingreso, su capacidad de pagar la luz de su casa, dependen de una calificación que genera un algoritmo opaco. Si el sistema decide que es "ineficiente" porque una vez rechazó un pedido en una zona peligrosa de Tijuana, puede quedar fuera sin explicación. Es administración pura: eficiente, fría, inhumana. El futuro que se construye mientras discutimos otra cosa Ahora imaginemos, no dentro de cincuenta años, sino dentro de diez, cómo podría evolucionar esto en México si no ponemos frenos. Supongamos que el "Carnet del Bienestar" o cualquier sistema de programas sociales digitales evoluciona hacia un puntaje ciudadano integrado. No solo evalúa si recibes una beca; empieza a cruzar datos de tu historial médico, tus compras, tu movilidad. Si el algoritmo detecta que compras refrescos con frecuencia, ¿podría afectar tu acceso a seguro de salud público? Si viajas mucho a zonas "conflictivas", ¿podría influir en tu trato ante la justicia? Suena a distopía, pero China ya experimenta con sistemas de crédito social. Y en México, donde la protección de datos personales es aún un terreno pantanoso y donde millones firman términos y condiciones sin leerlos, la puerta está abierta. O imaginemos que las universidades públicas empiezan a usar algoritmos de "predicción de éxito académico" para asignar lugares. Un joven de una comunidad indígena de Chiapas, cuya familia nunca tuvo acceso a internet en casa, podría ser clasificado como "alto riesgo de deserción" no por su capacidad, sino porque sus datos históricos no se parecen a los de un estudiante de la clase media de la capital. El algoritmo, "objetivo" y "neutral", terminaría reproduciendo el racismo y el clasismo que ya existen, pero ahora con una capa de legitimidad tecnológica. "No es discriminación —dirían—, es lo que dice el modelo". Incluso en el trabajo, podríamos ver algo peor que las apps de reparto. Empresas mexicanas ya experimentan con software que monitorea la productividad de sus empleados en tiempo real: cuántas veces mueven el mouse, cuánto tardan en responder un correo, cuántas pausas hacen. El siguiente paso no es difícil de imaginar: un sistema que predice si vas a renunciar en los próximos seis meses y, basado en esa predicción, decide si mereces un ascenso o si es mejor no invertir en tu capacitación. No te despiden por mala persona; simplemente dejas de ser una inversión rentable. La diferencia entre gobernar y administrar Aquí está el meollo del asunto, y es lo que hace la advertencia de Lepore tan incómoda. Gobernar es una actividad moral. Implica mirar a los ojos, escuchar circunstancias particulares, deliberar, equivocarse, corregir. Administrar, en cambio, es una actividad técnica. Busca optimizar, reducir costos, maximizar rendimientos. Ambas cosas son necesarias en una sociedad, pero cuando la administración reemplaza por completo al gobierno —cuando la decisión pública migra de la plaza, el Congreso y el juzgado a un tablero de control privado— entonces la dignidad humana se convierte en un bug, en un error del sistema que hay que corregir para mejorar la eficiencia. Y ese es el riesgo real. No que los robots nos conquisten con armas láser. El riesgo es que dejemos de ser ciudadanos con derechos innegociables para convertirnos en usuarios rentables, votantes persuadibles, beneficiarios elegibles, trabajadores calificables. El riesgo es que aceptemos que sea normal que una decisión que nos afecte profundamente —si comemos, si estudiamos, si tenemos un techo— sea tomada por una línea de código que no tiene rostro, ni responsabilidad, ni conciencia. ¿Y qué hacemos? No estoy proponiendo que tiremos los celulares al río o que regresemos a las listas en papel. La tecnología no es el demonio. El algoritmo que organiza el tráfico de la Ciudad de México o que permite que una campesina de Puebla venda sus artesanías en línea es una maravilla. El problema no es la herramienta; es quién la controla, con qué fines, y si nosotros, como sociedad, tenemos la capacidad de cuestionarla, auditarla y, de ser necesario, desconectarla. México tiene una ventaja que no siempre valoramos: hemos vivido bajo regímenes que administraban personas como si fueran recursos. Sabemos, en los huesos, lo que significa que una autoridad opaca decida tu destino sin darte explicaciones. Esa memoria debería servirnos como vacuna. No deberíamos ser el país que más rápido adopta la vigilancia digital sin pregunta, sino el país que más rápido exige que esos sistemas rindan cuentas. Eso significa leyes de protección de datos con dientes, no solo con letras. Significa que un repartidor de app tenga derecho a saber por qué el algoritmo lo castigó. Significa que una madre rechazada de una beca pueda exigir una revisión humana. Significa que los modelos de inteligencia artificial que usen instituciones públicas o privadas sean auditables, transparentes y, sobre todo, subordinados a derechos que no se negocian. La granja industrial de humanos no se construye con alambres de púas. Se construye con nuestra resignación. Se construye cada vez que aceptamos que "el sistema ya decidió" como si fuera un destino inmutable. No lo es. Un algoritmo no es un dios; es una herramienta hecha por personas, con intereses particulares, y que puede ser modificada por personas si tenemos el valor de exigirlo. El repartidor del semáforo no debería depender de una estrella anónima para comer. Ninguno de nosotros debería depender de un puntaje secreto para ser tratados como lo que somos: ciudadanos, no ganado clasificable. Por Ignacio Madrazo Piña E-Mail : ignaciomadrazo@yahoo.com IG : promptimadrazoia MAAZ