El poder de los algoritmos

La observación de Keynes (en su Teoría general) de que “los hombres prácticos que se consideran exentos de toda influencia intelectual suelen ser esclavos de algún economista difunto” necesita una actualización. Hay que reemplazar “economista” por “algoritmo” y eliminar “difunto”, ya que los algoritmos que ahora conforman buena parte de nuestra conducta no están en absoluto muertos. Es probable que ya hayan influenciado nuestras compras de Navidad, por ejemplo. Sin duda ya determinaron la marcha de nuestro fondo de pensión y si la solicitud de hipoteca que presentamos tendrá éxito. Algún día hasta podrían llegar a determinar cómo votamos.

Los algoritmos –“procedimientos paso a paso para cálculos”– parecen inesperados candidatos al papel de tiranos. Su poder surge del hecho de que son el elemento clave de todo programa de computación, y su lógica determina qué hacen esos programas. En ese sentido, los algoritmos son el arma secreta de un mundo digitalizado.

Sin duda son secretos. Cada tanto se levanta el velo cuando hay un escándalo. En agosto, por ejemplo, un “algoritmo rebelde” de las computadoras de una firma bursátil de Nueva York, Knight Capital, se embarcó en 45 minutos de negociación automatizada que llevó a sus propietarios a perder 440 millones de dólares antes de que lograra detenérselo.

En su mayor parte, sin embargo, los algoritmos hacen su trabajo de forma discreta y en un segundo plano. Acabo de entrar a Amazon para ver un nuevo libro sobre el tema:Automate This: How Algorithms Came to Rule Our World, de Chistopher Steiner. Al pie de la página, Amazon me dice que “con frecuencia se compran” otros dos libros junto con el de Steiner: The Signal and the Noise, de Nate Silver, y Antifragile, de Nassim Nicholas Taleb. Esa conjunción de intereses es producto de un algoritmo: no hubo participación humana alguna en la decisión de que alguien a quien le interesa el libro de Steiner también podría estar interesado en lo que escribieron Silver y Taleb.

Pero las recomendaciones sobre libros son relativamente poca cosa, si bien sospecho que en diciembre habrán influenciado buena parte de las compras online mientras la gente buscaba ideas de regalos con desesperación. El algoritmo más poderoso del mundo es PageRank, el que usa Google para determinar los rankings de los resultados de búsquedas en la web, y lo es por la simple razón de que, si nuestro sitio no aparece en la primera página de resultados, entonces efectivamente no existe. No es extraño, entonces, que haya una perpetua carrera armamentista (a la que se hace referencia con el eufemismo “optimización de buscadores”) entre Google y la gente que intenta triunfar en el juego PageRank. Google modifica el algoritmo de forma periódica y desencadena una ola de sorpresas desagradables en toda la web a medida que la gente descubre que sus actividades de nicho, que hasta ese momento tenían un modesto éxito, de pronto –y sin previo aviso– han desaparecido.

PageRank da así un poder inmenso a Google, y desde los tiempos de Lord Acton sabemos qué le hace el poder a la gente, y a las instituciones. Así el poder de PageRank plantea serias cuestiones de regulación a los gobiernos. Por un lado, el algoritmo es un secreto comercial celosamente guardado. Los motivos son obvios: de no ser así, entonces los optimizadores de buscadores funcionarían a su antojo y todos los resultados de búsquedas serían sospechosos. Por otro lado, como es un secreto, no podemos estar seguros de que Google no esté influenciando los resultados para favorecer sus propios intereses comerciales, como sostienen algunos.

Por otra parte, el poder es más que influencia comercial. Hace muchos años, el sociólogo Steven Lukes señaló que el poder se presenta de tres formas: la capacidad de impedir que las personas hagan lo que quieren hacer, la capacidad de impulsarlas a hacer lo que no quieren hacer, y la capacidad de conformar la manera en que piensan. Esto último es el poder que tienen los medios, y es por eso que la investigación de Leveson sobre las prácticas y la ética de la prensa británica luego del escándalo de pinchaduras telefónicas de News International tuvo tanta importancia.

Pero en cierto sentido los algoritmos también tienen ese poder. Tomemos, por ejemplo, el de Google News, que hace poco fue objeto de un análisis esclarecedor de Nick Diakopoulos, del Nieman Journalism Lab. Google afirma que su selección de noticias está “generada en su totalidad por algoritmos de computación, sin la intervención de editores humanos. No se perjudicó a ninguna persona –ni siquiera se la usó– en la creación de esta página.” Lo que se implica es que el proceso de selección es en cierto modo más “objetivo” que un proceso que tenga una mediación humana. Diakopoulos aísla esa simpática premisa y estudia la forma en que funciona el algoritmo. No tiene nada de siniestro, pero destaca la importancia de entender cómo funciona el software. El dilema que enfrentan los ciudadanos en un mundo conectado es el siguiente: programar o ser programados.

©The Guardian, 2013.
Traducción de Joaquín Ibarburu

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *