7 de septiembre de 2021

Esteban Magnani

Perfeccionados por Google en los 90, hoy dominan internet y determinan qué vemos, consumimos y hasta pensamos. Privacidad, datos personales y concentración.

SHUTTERSTOCK

Es el algoritmo», se repite cada vez más en conversaciones cotidianas para explicar lo que ocurre, sobre todo, en el mundo digital y no se termina de entender. ¿Por qué cuando hago una pregunta a Google me responde algo a mí y otra cosa a un amigo? ¿Por qué el que entró después al banco es atendido antes que yo? «Es el algoritmo…».
Pero, ¿qué son los algoritmos? Lejos de lo que uno podría suponer, acompañan a la especie humana desde que comenzó a razonar. Ya en la tribu primitiva existían «protoalgoritmos» mentales del tipo: «Si pasa un ciervo, tiro la lanza para cazarlo. Si se me acerca un enemigo, me defiendo con el hacha». Es que, en concreto, los algoritmos son instrucciones que se accionan cuando se dan ciertas condiciones. Para Wikipedia, un algoritmo «es un conjunto de instrucciones o reglas definidas y no-ambiguas, ordenadas y finitas que permite, típicamente, solucionar un problema, realizar un cómputo, procesar datos y llevar a cabo otras tareas o actividades».
Por ejemplo, los pasos que damos al hacer una multiplicación o una división son algoritmos que nos permiten llegar a un resultado. La formalización de estas herramientas se produjo en el siglo IX, de la mano del matemático y astrónomo persa al-Juarismi (de ese nombre deformado proviene la palabra «algoritmo»), también una de las fuentes que tomó Occidente para comenzar a usar los números arábigos.

La revolución informática
Los primeros pasos de la informática en la segunda mitad del siglo XX permitieron llevar a los algoritmos a otro nivel gracias al poder de las máquinas. En las últimas décadas se aceleró el desarrollo de software, la capacidad de procesamiento y la cantidad de datos disponibles para producir una verdadera revolución digital.
El algoritmo que explotó las nuevas oportunidades al máximo y mostró el camino a los demás fue desarrollado por Serguei Brin y Larry Page, los fundadores de Google. En 1998 publicaron un paper llamado «La anatomía de un motor de búsqueda de la web hipertextual y de gran escala» en el que planteaban los límites de los buscadores anteriores, como Altavista. Uno de los problemas es que necesitaban intervención humana para mejorar, algo que los hacía muy lentos como para acompañar el crecimiento de la web. Esos buscadores priorizaban aquellas páginas en las que aparecían más veces las palabras clave, algo evidentemente muy limitado: alguien podía simplemente repetir «comida para perros» 1.000 veces en su web para destacarse cuando se buscara ese término.

La gran innovación del algoritmo de Page y Brin fue imitar la jerarquización que se aplica a las citas académicas: cuanto más citado, más valioso es. ¿Cómo se puede medir eso en la web? Mirando cuántos sitios tienen enlaces hacia una página. Además, quien aparece como referencia en las más reconocidas aumentará también su importancia relativa. A este principio básico se le pueden sumar otros datos: ¿Los usuarios no eligen las primeras opciones que se les ofrecen? Y, si hay datos sobre quién busca, como su edad, ubicación geográfica, intentos anteriores, ¿se puede prever qué página responderá mejor a su interés?
El algoritmo de Google comenzó así a nutrirse de la inteligencia colectiva, dispersa, para aprender qué es relevante para cada uno. Pequeñas decisiones individuales sumadas y procesadas por el algoritmo permitieron mejorar enormemente la efectividad de las búsquedas que cada persona necesitaba. Era el sueño de internet: el conocimiento antes fragmentado en individualidades ahora se podía reunir en un algoritmo al servicio del conjunto.
El algoritmo era muy disruptivo, pero ¿cómo transformarlo en un negocio? Google recibió dinero de distintas empresas y fondos que esperaban recuperar su inversión. El problema era que no se podía cobrar por el uso del buscador sin limitar, a la vez, las mismas búsquedas que permitían al algoritmo mejorar. Hasta tal punto Page y Brin se encontraron en un callejón sin salida que ofrecieron la empresa a Altavista por un millón de dólares en 1998. La oferta fue rechazada.

El negocio metió la cola
En Google notaron que la información fluía interminable hacia sus servidores. De allí se podía deducir qué interesaba a la gente minuto a minuto. ¿Había quienes buscaban síntomas de la gripe? ¿Por qué no ofrecerles productos para combatirla? La publicidad, nutrida ahora de muchos datos, podía afinarse de acuerdo con los intereses de los usuarios a niveles inalcanzables para el mejor estudio de marketing y de esa manera ofrecer los consumidores más probables a los anunciantes.

Según Shoshanna Zuboff, filósofa y autora de La era del capitalismo de vigilancia, los datos sirvieron como insumo «para predecir el comportamiento de sus usuarios». Por eso, «la invención de la publicidad dirigida por parte de Google allanó el camino para el éxito financiero de la compañía, pero también constituyó la piedra angular de un fenómeno de más largo alcance: el descubrimiento y la elaboración del capitalismo de la vigilancia». Para Zuboff, lo que caracteriza a la sociedad actual es que el capital se basa en conocer detalladamente el comportamiento social presente para producir comportamientos futuros y ofrecerlos en el mercado. Google mostró el camino para lograrlo.
En dos décadas se subió al podio de las empresas de mayor valor bursátil del mundo y se transformó en un faro al que todos querían acercarse. Con la potencia de su algoritmo construyó la base de un monopolio sobre las búsquedas que ya nadie podría desafiar: no solo sería imposible tener los datos necesarios para competir, sino que Google los usó como base para construir un ecosistema completo ubicuo, que incluye todo tipo de herramientas y hasta un sistema operativo como Android.

Este modelo tan exitoso no podía pasar desapercibido para otras empresas: Amazon, fundada en 1994, ya automatizaba tareas de recomendación de libros o CD. Facebook, fundada en 2004, encomendó a su algoritmo lograr que la gente pasara más tiempo frente a la pantalla para mostrarle más publicidad. Por eso aprendió a dosificar los posteos adecuados para retener a un usuario durante horas. Netflix, Spotify y tantos otros imitaron el modelo para analizar los modos de consumo e incentivar aquellos más rentables. Su modelo de negocios también afecta la forma de producir contenidos: por ejemplo, el algoritmo de Spotify detecta qué personas dejan una canción antes de los 30 segundos, barrera a partir de la cual los músicos cobran por una reproducción. Por esa razón los artistas deben asegurarse de enganchar a su público desde la primera nota. La fiebre por algoritmos se expandió hacia otras áreas como la llamada Industria 4.0 que busca conocer en detalle qué hace cada máquina y mejorar su productividad.

La caja negra
Desde el Estado también se implementan algoritmos para reducir la carga de trabajo: por ejemplo, en los Estados Unidos hay jueces a los que un algoritmo les indica la probabilidad de que un convicto reincida en caso de ofrecerle libertad condicional. O también se delega a veces la decisión de si se le renovará un contrato a un docente en base a los resultados de los exámenes de sus estudiantes (ver Despidos sin causa). El problema es que los algoritmos no siempre explican cómo llegaron a determinada conclusión y ni siquiera los programadores pueden entender siempre cómo jugaron todas las variables involucradas en ella.
Hay un dicho que asegura: «La tecnología no es ni buena ni mala, pero tampoco es neutral». Las decisiones de los algoritmos suelen ser presentadas como pura matemática aséptica, pero están determinadas por los supuestos de los programadores que los escribieron, muchas veces inconscientes de sus propios sesgos. El mundo está manejado cada vez más por algoritmos desarrollados por varones blancos, occidentales y jóvenes que habitan en Silicon Valley. Su mirada del mundo está plasmada en esos algoritmos pensados mayoritariamente para aumentar las ventas.
Otra cuestión que influye enormemente es la calidad de los datos con los que se carga al algoritmo. Por ejemplo, como cuenta la matemática Cathy O’Neill en su libro Weapons of math destruction (Armas de destrucción matemática), la policía suele detener con más frecuencia y vehemencia a jóvenes de color para revisarlos en busca de drogas. El algoritmo aprende de esta información fundada en un prejuicio humano y la reproduce guiando a los policías a repetir el sesgo aprendido, confirmando así el prejuicio. Lo mismo ocurre con quienes pagan más intereses porque los algoritmos los consideran riesgosos por ser pobres, algo que profundiza esa pobreza. Así es como los algoritmos tienden a profundizar las desigualdades existentes en una espiral sin fin. «El modelo se optimiza para la eficiencia y la ganancia, no para la justicia o el bien del equipo. Esta es, por supuesto, la naturaleza del capitalismo», asegura O’Neil en su libro.

«Los sesgos algorítmicos pueden ser producto de los datos que se usan para entrenarlo o por cómo está diseñado el mismo algoritmo», explica Carolina Martínez Elebi, docente de la Facultad de Ciencias Sociales (UBA) y especialista en derechos humanos y tecnología. «Un sistema de selección de personal, por ejemplo, puede ser entrenado con una base de datos producto de todo el historial de trabajadores de esa empresa. Si ha habido una tendencia a contratar hombres y el algoritmo ve ese patrón, por ejemplo, en las fotos de los empleados, puede preferir contratar hombres y no mujeres. Si no tiene supervisión humana que pueda detectar este sesgo en esos datos, algo que suele suceder y de hecho ha sido un caso concreto en Amazon, se reproduce ese sesgo profundizándolo para seguir sin contratar mujeres», ejemplifica. Los algoritmos, sin un control humano multidisciplinario, pueden ser utilizados de manera tremendamente conservadora, confirmar prejuicios y profundizar desigualdades existentes.
Hay cuestiones éticas, de sensibilidad social, de visión política que se escapan a la mirada de los algoritmos que solo ven lo que hay como si eso fuera lo único posible e, incluso, lo deseable. De esta manera pueden transformarse en reproductores de injusticias. Por eso existe una creciente preocupación por comprender qué hay en la caja negra de los algoritmos y asegurarse de que sirvan como guías, pero siempre supervisados por humanos capaces de comprender qué está ocurriendo para, tal vez, ayudar a mejorarlo.