Entre la tecnofobia y el hipercontrol

La aplicación de los algoritmos e inteligencia artificial al consumo y al control social vienen a consagrar las matemáticas al servicio del poder. O, quizás, llegó la hora de reivindicar un utopismo tecnológico que promueva una aplicación social de todas esas máquinas que tanto miedo nos dan.

A nadie se le escapa su influencia en nuestras vidas: música que escuchamos, gente que conocemos, información que recibimos… Pero ¿qué es el algoritmo? Un algoritmo es, básicamente, un conjunto ordenado de operaciones que permite hacer un cálculo para hallar la solución a un problema u ordenar resultados que faciliten la toma de decisiones. Esto se ha convertido en la base de la inteligencia artificial (IA), que no nos ha traído aún a HAL 9000 y su angustia humana ni las lágrimas en la lluvia de Blade Runner, pero está omnipresente para mostrarnos publicidad presuntamente personalizada.

Hoy día se aplican algoritmos que marcan nuestra vida hasta la médula. Es como mil burócratas y un ejército de videntes y psicomagos tomando nota y decidiendo acciones, comerciales mayormente, pero también administrativas, judiciales o de vigilancia. Además, están las consabidas aplicaciones de citas que te hacen 400 preguntas para crear tu perfil, de manera que te facilite los mejores emparejamientos para una cópula matemáticamente organizada. Así, miles de aplicaciones de toda índole, acumulando datos anónimos y no tan anónimos de distintas fuentes: compras con la tarjeta, búsquedas en internet, perfiles en redes, etc…

Aunque en el fondo el algoritmo no es bueno ni malo, nos ponemos un poco tensitxs al hacer una mínima reflexión ética sobre la influencia algorítmica en las cosas de la vida. Como la cucharilla, lo mismo puede usarse para remover el té que para fumar heroína o sacarle el globo ocular a alguien. Su diseño no está desprovisto de los prejuicios y sesgos propios de quienes los diseñan y utilizan, conscientes o inconscientes; como el racismo, el machismo, la clase, la etnia, la edad, la condición física, etc. Ya lo demostró Microsoft con su bot Tay, una IA que aprendía, sin filtros, de los comportamientos de otros usuarios de Twitter. En 16 horas hubo que desconectarlo por sus aberrantes expresiones de estos sentimientos de odio.

El algoritmo se diseña según una perspectiva e intereses concretos. Igual que se diseñan para crear mercados, opiniones o ahorrar gastos de producción, también se pueden idear para que faciliten la equidad, la inclusión y la buena vibra. Mientras estén solamente en manos de los poderosos, serán tan peligrosos como un mono con dos pistolas.

Pese a ello, quizás haya un equilibrio entre la tecnofobia y el hipercontrol. Como dijo Bertrand Russell —el de Gladiator no, el otro—, «una máquina es como un djin de Las mil y una noches, hermosa y beneficiosa para su amo, espantosa y terrible para sus enemigos». En sus Ensayos escépticos replica a los filósofos naturalistas que se oponían al uso de máquinas en los inicios de la era industrial «de una manera puramente sentimental y esencialmente reaccionaria».

Como no queremos pecar de ambas cosas, merece la pena hacer una reflexión. En este mundo en venta, esdrújulo y algorítmico de hoy, la mayoría de los cacharritos buscan modificar la conducta para orientar el consumo o el voto. A partir de datos como el código postal, los horarios de uso, los favs y likes en tus redes sociales o los votos emitidos a La Isla de las Tentaciones, el algoritmo hace que dejes de ser usuarix para pasar a ser mercancía al margen de la publicidad. Por ejemplo, en Tennessee, ahí al lao, el proveedor de seguro médico Blue Cross y la firma tecnológica Fuzzy Logix crearon un algoritmo que analizaba hasta 742 variables para evaluar el riesgo de abuso e identificar posibles adictos.

Los algoritmos pueden condicionarnos, pero también pueden servirnos para tomar decisiones inteligentes basadas en pasos verificados. Autores como Adam Greenfield advierten del peligro de caer en el «utopismo tecnológico» según el cual las tecnologías digitales incrementarán nuestra libertad personal y nos liberarán de las élites burocráticas. Otros, como Iain Banks —autor de cabecera de Elon Musk, a nuestro pesar—, imaginan sin embargo una sociedad libertaria donde las tecnologías tienen un papel fundamental, casi simbiótico, para los humanos o humanoides. En su serie La Cultura el autor escocés —recientemente fallecido— describe una sociedad post-escasez anarquista donde la mayoría de la planificación y la administración corre a cargo de inteligencias artificiales, haciendo innecesario el trabajo y asegurando la abundancia de recursos. Zerzan debe estar encantado. Pero incluso en la utópicamente ambigua Anarres, la sociedad anarquista descrita por Ursula K. Leguin —también fallecida, se nos van las mejores—, sometida a duras condiciones ambientales y pobre en recursos, son las computadoras las que eligen, de forma aleatoria y sin distinción de sexos, el nombre de sus habitantes.

Hasta aquí el análisis profundo. Ya que no tenemos competencias para sacar conclusiones, es oportuno reivindicar algo tangencialmente más loco. Un diseño de algoritmos, que tenga en cuenta otros parámetros y que no sirvan para nada, ni para tomar decisiones inteligentes, ni éticas ni leches. Mejor, que funcionen como nuestras cabecitas, a lo loco, mezclando raciocinio e instinto, irracionalidad y conocimiento. Que no guarden datos ni administren nada, sino que se dediquen a coleccionar estupideces o no, las mezclen y las agiten como un cóctel, para ver si así promovemos la imaginación y la creatividad, algo que mejore nuestro mundo de verdad. O quizás lo mejor sea aceptarlo. Te acompaña todo el día, te conoce, sabe más de ti que cualquiera de tus familiares, incluso que tú mismx. Te pone música, te sugiere pelis, te propone recetas, te presenta a gente, te instruye, te influye, te provoca. Acéptalo. Acógelo, convíalo, dale datos, aunque sean reguleros, y que él ya vea. O también puedes trolearlo. Busca todoterrenos de segunda mano en Forocoches, mira el vídeo homenaje a Paco Gento en Youtube, lee la biografía de Stalin y ojea entradas para Morante de la Puebla… Puedes empacharlo un poco y también explorar su creatividad.

En definitiva, sería deseable que los amos del machine learning ayuden a administrar y gestionar eficientemente los recursos, que pongan la vida —y no los beneficios o el control— en el centro, que ayuden a dialogar, a convivir, a crear redes, a trabajar menos… Amén.

Por

La Cúpula