Una distopía sobre la dependencia algorítmica

Un hombre apareció entrando en un ascensor, iba escuchando música con sus cascos y se apreciaban las frecuencias altas de Everything’s Gonna Be Alright de Bob Marley. Se llamaba Ramón y estaba sonriendo. Apretó el botón del piso menos 13 y se fijó en la fecha que salía en la interfaz gráfica, 26 de junio del 2054, aquel era un día especial. Ramón tenía 68 años, había sobrevivido a tres recesiones y dos colapsos climáticos antes de que la Inteligencia Artificial tomara el mando. Era un hombre de estructura ósea ancha pero ya desgastada, se movía con una economía de gestos absoluta, no daba un paso de más ni desperdiciaba una sola caloría.
Se abrieron las puertas del ascensor. Un zumbido familiar le hacía vibrar hasta el esternón, era esa frecuencia que emitía su setup de gamer cuando el altavoz se acoplaba. Hacía fresquito, la pantalla marcaba 19 grados centígrados y una humedad relativa del 45 por ciento. Con su presencia, comenzaron a encenderse las luces del centro de datos. Estaba en el Nodo de Procesamiento Central de la Villa Verde (Antigua zona industrial de Villaverde, Madrid). Era donde se procesaban los destinos de millones de personas.
Ramón se dirigió a la sala de limpieza, ahí era donde se guardaban los utensilios de limpieza y donde los elegidos se descontaminaban para entrar a las salas de procesamiento para limpiar. Y ahí estaba Marta. Marta tenía 25 años, era delgada y tenía la tez pálida, propia de quien pasa el día delante de una pantalla leyendo y desprendía una energía nerviosa. —¡Hola! ¿Te ha tocado el sector 4 también? —preguntó Ramón al verla allí, mostrando su código QR de asignación.
—Sector 4. Turno de Noche. —Marta escupió las palabras—. Parece que el Algoritmo tiene sentido del humor. Sabe que odio este lugar y me obliga a sacarle brillo.
No eran limpiadores de profesión. En el año 2054, «limpiador» no era un oficio, era un impuesto.
Se llamaba el Protocolo de Mantenimiento Compartido, pero en la calle todos lo llamaban «El Tributo». Una vez al año, tu terminal vibraba con una notificación ineludible en letras rojas. No importaba si eras neurocirujano, ingeniero de datos o poeta. El Algoritmo no distinguía rangos. Durante veinticuatro horas, tu tiempo, tus manos y tu sudor pertenecían a la Infraestructura.
La justificación oficial: «La cohesión social requiere que todo ciudadano comprenda y cuide el soporte físico de su bienestar». Era obligatorio. Inapelable. Faltar a esta cita significaba la «Desconexión Cívica»: el bloqueo inmediato de las cuentas bancarias, el acceso al transporte y la sanidad.
Así que allí estaban: un viejo que creía en el sistema y una joven que lo detestaba, unidos por un mandato digital para fregar el suelo del dios que gobernaba sus vidas.
—No es humor, Marta, es optimización —corrigió Ramón, ajustándose los guantes y sonriendo—. Te asignan donde más falta hace tu perfil. A mí me traen porque soy constante. A ti… —la miró de reojo, esbozando una sonrisa, evaluando su rabia contenida, le era conocida esa actitud—. Quizás te traen para que veas que la máquina no es mágica. Que tiene polvo. Que es real.
Ramón pasaba la mopa con movimientos largos y económicos. No era un autómata, era un profesional, disfrutaba haciendo las cosas bien. Miraba las luces verdes parpadear en los racks negros con una mezcla de respeto y familiaridad.
—Estás dejando marcas de agua, Marta —dijo, sin dejar de mirar al suelo—. El sensor de humedad del pasillo B va a saltar si no escurres bien.
Marta resopló, pero apretó el escurridor del cubo. Tenía juventud y esa frustración tensa de quien se siente estafada por la historia. —¿Y qué si salta? —replicó ella—. Que venga un dron a secarlo. Para eso pagamos.
Ramón se detuvo y se apoyó en el palo de la mopa. La miró a los ojos. No había reproche en su mirada, solo una paciencia gastada. —El dron cuesta energía. La energía se resta del presupuesto de Parques y Jardines. Si salta el sensor, mañana hay menos luz en tu calle, por ejemplo. Todo está conectado, chica. Es un sistema de vasos comunicantes. Eficiencia pura. ¿No es virtuoso hacer las cosas bien? —Guiñó el ojo, quiso hacerle una broma con esta última pregunta, solo para ella.
—Eficiencia… —Marta escupió la palabra—. Esa es la única palabra que conoce este sitio. «Eficiencia». ¿Sabes qué me llegó ayer al terminal? La denegación de la beca de investigación. Otra vez.
Ramón asintió levemente. En el almuerzo habían estado compartiendo un rato sobre sus vidas, sabía que Marta pasaba las noches escribiendo ensayos sobre ética que nadie leía.
—¿Qué razón te dieron?
—La de siempre: «Redundancia cognitiva». Dicen que mi propuesta sobre la ética de la virtud en la era digital ya ha sido simulada por el Modelo Central en 0,04 segundos y que no aporto «novedad estadística significativa». No me prohíben escribir, Ramón. Me dejan hacerlo todo lo que quiera. Pero me avisan de que el tiempo que invierto en ello vale cero créditos. Soy un hobby caro para el sistema.
—Es oferta y demanda, Marta —dijo Ramón con suavidad, volviendo a fregar—. La máquina ya se ha leído a Aristóteles, a Kant y a todos los que vinieron después. ¿Para qué vamos a gastar recursos en que tú llegues a las mismas conclusiones más despacio?
—Porque el valor no está en la conclusión —insistió ella, apretando los dientes—. El valor está en el proceso de pensar. En la duda. Si delegamos el pensamiento porque es «más barato» que lo haga la máquina, dejamos de ser humanos para ser mascotas bien cuidadas.
Ramón sonrió con media boca. Una sonrisa triste. —Mascotas bien cuidadas… —repitió—. Yo viví la década del 30, Marta. Tú eras un bebé. ¿Sabes qué era la «humanidad» sin correa? Eran pensiones que no llegaban porque un político se gastaba el fondo en obras ilegales o prostitutas. Eran juicios que tardaban diez años porque el juez estaba saturado o era corrupto. La humanidad libre era sucia, lenta y cruel. Señaló a los servidores con la cabeza. —Esta cosa es fría, sí. No le importan tus ensayos. Pero tampoco le importa tu apellido, ni de quién eres hija, ni a quién rezas. Es el primer gobernante en la historia que no tiene ego. Y eso, para un viejo como yo, es lo más parecido a la justicia.
Avanzaron hacia el sector de Procesamiento Penal. Aquí el zumbido era más denso, cargado de decisiones irreversibles.
—Justicia… —murmuró Marta, deteniéndose frente a un panel de cristal líquido que mostraba flujos de datos en tiempo real—. Dile eso a Javi Marcos Bouazza.
Ramón suspiró. Sabía que la conversación llegaría ahí. Javi, el chico del Barrio de Salamanca, condenado la semana anterior. —Javi cometió un delito, Marta. El sistema lo detectó. —Javi forzó la entrada del almacén porque el sistema de reparto había fallado, algo constatado en el juicio, y no entregó la insulina de su abuela durante tres días. Entró por una puerta de acceso restringido empujándola con su hombro. La IA lo procesó como «Robo con fuerza en instalaciones críticas». Pena automática: 18 meses de trabajos forzados y pérdida de nivel de ciudadanía. —El sistema no puede hacer excepciones —dijo Ramón, aunque su voz sonó menos firme—. Si empieza a valorar las «buenas intenciones», volvemos a la arbitrariedad. Antes, siendo de ese barrio, el chico no habría pisado la cárcel. Ahora la ley es igual para todos.
—No es arbitrariedad, es contexto —Marta se giró, furiosa—. La máquina es perfecta procesando cantidades: kilos robados, minutos de intrusión, valor del daño. Es una maravilla para lo cuantitativo. Pero es estúpida para lo cualitativo. No entiende la desesperación. No tiene «sana crítica». Para ella, un acto de amor desesperado y un acto de codicia son el mismo vector numérico. Hemos cambiado la justicia por la aritmética, Ramón. Y tú aplaudes porque los trenes llegan a su hora.
Ramón miró las luces rojas del servidor. —Prefiero una aritmética ciega que una «sana crítica» humana que siempre fallaba en contra de los pobres, Marta. Los jueces humanos también tenían sesgos, pero los escondían bajo palabras bonitas. La máquina al menos es predecible. Es una tiranía, sí. Pero es una tiranía estable.
—Es un Gestell —dijo ella, usando una palabra que Ramón no conocía—. Un «marco». La máquina reduce el mundo a recursos y datos para poder gestionarlo. Todo lo que no cabe en su hoja de cálculo, como la angustia de Javi, simplemente lo recorta. Vivimos en un mundo recortado para que quepa en ese procesador.
Marta, agitada por el debate, dio un paso atrás sin mirar. Llevaba las botas de seguridad reglamentarias, pesadas y torpes.
En el suelo, sobresaliendo de una canaleta mal cerrada —un error humano de mantenimiento de hacía años, invisible para los sensores y procesadores de imagen—, había un cable grueso, negro, con un conector trifásico antiguo. Era la línea de alimentación principal del sistema de refrigeración del gateway que coordinaba todo el sector.
El talón de Marta se enganchó. Ella tropezó. Intentó recuperar el equilibrio, cayó de culo encima del cable, su peso tiró del cable. El enchufe salió de la pared con un clack seco y ridículo.
Fue instantáneo. El sistema de seguridad de los servidores detectó la caída de la refrigeración y, para proteger los núcleos de procesamiento de un sobrecalentamiento fatal, ejecutó el protocolo de emergencia: Parada total inmediata sin alarma exterior, dado que el gateway también coordinaba la comunicación entre sistemas.
El zumbido murió. Las luces de los racks se apagaron. Los ventiladores, que movían toneladas de aire por segundo, frenaron con un quejido hasta detenerse.
De repente, el sector 4 estaba en silencio. Un silencio absoluto, geológico. Solo se oía la respiración agitada de Marta y el goteo lejano de una tubería.
Las luces de emergencia bañaron la sala en un rojo sangre. Ramón se quedó petrificado, con la mopa en el aire. Sus ojos se abrieron con un terror que Marta no había visto nunca en ninguna película. No era miedo a un jefe. Era miedo al vacío.
—¿Qué… qué ha pasado? —susurró Ramón. Su voz temblaba en la acústica muerta de la sala. —¡He tropezado! ¡Lo he desconectado, ha sido sin querer! —Marta miró el cable en el suelo. El plástico del conector tocaba un pequeño charco que salía de la fregona.
Miraron a su alrededor. El cerebro del mundo. La entidad que decidía precios, rutas de transporte, sentencias judiciales y diagnósticos médicos… estaba apagada. Marta sintió un vértigo extraño. Esperaba sentirse liberada, pero se sintió abrumada.
—¿Te das cuenta? —dijo ella, con voz temblorosa—. Nos venden que es una Superinteligencia divina, una entidad superior… pero depende de un cable recubierto de plástico y de que yo no sea torpe. Es… es patético.
—Enchúfalo —ordenó Ramón. No fue una petición. Fue un ruego desesperado.
—Espera —Marta miró el enchufe. Tenía el poder en la mano. La «Voluntad Política» pura. Podía negociar. Podía dejarlo apagado cinco minutos. Una hora. Recordarles a todos allá afuera que la máquina no es mágica o destrozarlo todo. —¿Y si lo dejamos un rato? Que la gente recuerde qué se siente al no ser vigilado. Que se den cuenta de que el sistema es frágil. ¿Y si nos vamos y lo dejamos desactivado? Nadie sabrá qué ha pasado ni cómo solucionarlo en mucho tiempo, esto es gigante — Abrió las manos a la inmensidad del lugar.
Ramón soltó la mopa. Se acercó a ella, agarrándola por los hombros. Sus manos de viejo, callosas, temblaban. —¿Tú crees que van a sentir «libertad»? —le espetó Ramón, con una lucidez feroz—. En diez minutos, los semáforos de la Castellana se bloquearán. En veinte, los respiradores de la UCI del Doce de Octubre pasarán a baterías de reserva. En una hora, cuando las cuentas bancarias no respondan, la gente no se pondrá a leer filosofía, Marta. Saldrán a la calle a saquear los supermercados.
Ramón apretó suavemente sus hombros. —Tú crees que el problema es la Máquina. El problema somos nosotros. La Máquina es lo único que contiene a la bestia. Es un dique. Si quitas el dique, no tienes un río libre. Tienes una inundación. ¿Quieres ser responsable de eso? ¿Esa es tu ética?
Marta miró el cable. Recordó la teoría de Bostrom sobre el riesgo existencial. Siempre pensó que el riesgo era que la IA se volviera demasiado lista. Nunca pensó que el riesgo fuera que la IA se apagara y dejara a los humanos a solas consigo mismos. Ramón no defendía a la IA porque fuera ignorante. La defendía porque tenía miedo de la naturaleza humana. Y quizás, pensó Marta con amargura, tenía razón.
—No es un dios —dijo Marta, sintiendo el peso de la derrota—. Es solo un parche. —Es lo que tenemos —sentenció Ramón.
Marta se agachó. No había heroísmo en el gesto. Solo pragmatismo. La aceptación de que la humanidad había olvidado cómo vivir sin un tutor. Alineó las clavijas. Empujó con fuerza.
CLACK.
Hubo un segundo de duda. Luego, un pitido. “Reiniciando sistema. Integridad verificada. Recalculando Rutas de Optimización.”
El zumbido volvió. El aire comenzó a moverse. El frío artificial regresó, secando el sudor helado de sus frentes.
Ramón se dejó caer contra la pared, exhalando todo el aire de sus pulmones. Se pasó la mano por la cara. Parecía haber envejecido diez años en dos minutos. —Gracias —murmuró.
Marta recogió su cubo. Miró a los servidores, que ya parpadeaban de nuevo, indiferentes a su breve muerte. —Tienes razón, Ramón —dijo ella, con una voz nueva, dura—. Somos mascotas. Pero no porque la máquina nos obligue. Sino porque nos aterra salir de la jaula.
Ramón cogió su mopa. Volvió a fregar el suelo, con el mismo ritmo de antes, pero ahora sus movimientos parecían más pesados. —Limpia bien esa esquina, Marta —dijo él, sin mirarla—. Si no, mañana nos bajarán la puntuación.
Y bajo el zumbido eterno de la eficiencia, Ramón se puso de nuevo la música, ahora sonaba Get Up, Stand Up de Bob Marley; siguieron limpiando el suelo inmaculado de un futuro que no les pertenecía.

Deja un comentario