La pal­abra «algo­rit­mo» vivía reclu­i­da has­ta hace no tan­to en el entorno espe­cial­iza­do de la cien­cia en gen­er­al, y de las matemáti­cas y la infor­máti­ca en par­tic­u­lar. Hoy en día, sin embar­go, y aunque aún nos cueste com­pren­der exac­ta­mente de qué se tra­ta, la may­oría de las per­sonas mín­i­ma­mente famil­iar­izadas con Inter­net saben al menos, si no cómo fun­ciona, sí para qué sirve: nos dicen que Face­book «ha cam­bi­a­do su algo­rit­mo» y que aho­ra ver­e­mos más pub­li­ca­ciones de nue­stros ‘ami­gos’ y menos de pági­nas de empre­sas, y enten­demos que detrás de esa decisión no hay miles de oper­ar­ios humanos que nos cono­cen per­sonal­mente, ded­i­ca­dos a reor­denar el con­tenido de nue­stro muro. Lo que enten­demos es que Face­book ha intro­duci­do una fór­mu­la capaz de ges­tionar todos nue­stros datos y ofre­cer, de for­ma más o menos automáti­ca, un resultado.

De hecho, un algo­rit­mo no es más que eso: una fór­mu­la; un con­jun­to orde­na­do de opera­ciones sis­temáti­cas que per­mite hac­er un cál­cu­lo y hal­lar la solu­ción a un prob­le­ma; un códi­go que proce­sa infor­ma­ción para lle­gar a un resul­ta­do, cuyos com­po­nentes esen­ciales son los datos de los que se nutre, y que, para bien o para mal, está cam­bian­do nues­tras vidas.

Los algo­rit­mos condi­cio­nan nues­tras búsquedas en Inter­net, en fun­ción de dónde esta­mos, qué hemos bus­ca­do antes, qué se bus­ca más, qué tiene más ‘cal­i­dad’ o ‘interés’, qué es más nove­doso, qué está cen­sura­do o no, patroci­na­do no, y muchos otros fac­tores, no siem­pre asép­ti­cos, que prob­a­ble­mente nun­ca conoceremos.

Tam­bién deter­mi­nan lo que vemos (y lo que no) en las redes sociales, los anun­cios que nos per­siguen de una pági­na a otra y se cue­lan en las apli­ca­ciones del móvil, y la serie con la que nos ten­tará esta noche nues­tra platafor­ma de stream­ing favorita.

Están pre­sentes en nue­stros telé­fonos móviles y en nues­tras tar­je­tas de crédi­to, ges­tio­nan transac­ciones financieras y han trans­for­ma­do el com­er­cio. Los algo­rit­mos nos pueden ayu­dar a ubi­carnos en un mapa, a encon­trar un empleo, a recono­cer una cara y has­ta a encon­trar pare­ja o un ligue de una noche.

Son, en defin­i­ti­va, la clave del éxi­to de empre­sas como Face­book, Google, YouTube, Ama­zon, Spo­ti­fy, Tin­der, Net­flix…

¿Convertidos en datos?

El cre­ciente empleo de algo­rit­mos en todos los sec­tores es crit­i­ca­do a menudo por el alto gra­do de des­per­son­al­ización que pueden con­ll­e­var, o por las posi­bil­i­dades que abren a la hora de con­ver­tir, aún más, a los seres humanos en mer­cancías o en sim­ples números y datos en el engrana­je del mer­ca­do, el con­sumo y la publicidad.

Con respec­to a lo primero, baste recor­dar el caso de los 200 pro­fe­sores des­pe­di­dos en 2010 en Wash­ing­ton DC (EE UU), después de que un algo­rit­mo eval­u­ase su rendimien­to. O el desar­rol­lo de algo­rit­mos capaces de pre­de­cir cuál será el sen­ti­do de una res­olu­ción judi­cial con un 79% de acier­to, iden­ti­f­i­can­do patrones, leyes y jurispru­den­cia, pero abrien­do tam­bién la puer­ta a incor­po­rar fac­tores como el entorno, la famil­ia o los ami­gos. O desnudos que son arte —o noti­cia—, trata­dos como pornografía por los algo­rit­mos de las redes sociales. O máquinas que selec­cio­nan y descar­tan cur­rícu­lums bus­can­do exclu­si­va­mente pal­abras clave.

Eso por no hablar de deci­siones financieras en las que, de nue­vo a través de algo­rit­mos, un ban­co puede con­ced­er o no un crédi­to depen­di­en­do de las predic­ciones de ries­go que la fór­mu­la aplique a quien lo solici­ta, o de estrate­gias políti­cas en las que un algo­rit­mo es capaz de deter­mi­nar qué esper­ar de, y qué prom­e­ter a, una base conc­re­ta de votantes poten­ciales. Los algo­rit­mos pueden resul­tar insusti­tu­ibles si lo que quer­e­mos es ‘leer’, o inclu­so per­pet­u­ar, la real­i­dad, pero tal vez no tan­to si lo que quer­e­mos es cambiarla.

Un ejem­p­lo: en octubre de 2016 la mon­e­da británi­ca cayó has­ta un 6,1% frente al dólar en los mer­ca­dos asiáti­cos, en lo que supu­so el may­or descen­so de la libra des­de el refer­én­dum que dio la vito­ria al brex­it. Según señalaron espe­cial­is­tas del Pew Research Cen­ter cita­dos por la BBC, el desplome se debió, en parte, a opera­ciones com­puta­rizadas con algo­rit­mos. No sería la últi­ma vez que la veloci­dad con la que oper­an los mer­ca­dos autom­a­ti­za­dos hiciese ade­lan­tar deci­siones que, prob­a­ble­mente, no habrían sido tomadas por seres humanos.

Y uno más, tal vez el más cono­ci­do: según la may­oría de los exper­tos, los algo­rit­mos, y su difi­cul­tad para dis­tin­guir hechos incier­tos que se pre­sen­tan como reales, fueron uno de los prin­ci­pales fac­tores por los que platafor­mas como Face­book con­tribuyeron a difundir y sobred­i­men­sion­ar las famosas noti­cias fal­sas durante la cam­paña pres­i­den­cial de 2016 en EE UU. Des­de entonces nos dicen que se han mejo­ra­do y reforza­do los códi­gos, en para­le­lo al avance impa­ra­ble de la inteligen­cia arti­fi­cial. Nos recuer­dan, tam­bién, que un algo­rit­mo puede evi­tar, por ejem­p­lo, un sui­cidio o un asesina­to, detectan­do no solo el lengua­je del posi­ble sui­ci­da o del posi­ble agre­sor, sino inclu­so señales de alar­ma en sus pub­li­ca­ciones. La pre­gun­ta es: ¿lle­gare­mos al extremo de aplicar con­se­cuen­cias penales en base a las predic­ciones de una fór­mu­la matemáti­ca? La respues­ta ya la daba en 2002 la pelícu­la Minor­i­ty Report, basa­da, a su vez, en un rela­to cor­to de Philip K. Dick… de 1956.

Y, sin embar­go, sería absur­do obviar que los algo­rit­mos, al ten­er la capaci­dad de lle­var a cabo opera­ciones infor­máti­cas muy com­ple­jas que sería prác­ti­ca­mente imposi­ble realizar de otro modo, tam­bién sal­van vidasy nos hacen avan­zar como sociedad. Acotan, por ejem­p­lo, la zona de búsque­da en un rescate, orga­ni­zan una situación caóti­ca, facil­i­tan la logís­ti­ca tras un desas­tre, sir­ven para ahor­rar energía y usar recur­sos de for­ma más inteligente, ayu­dan en la lucha con­tra el crimen, pueden deter­mi­nar cómo dis­tribuir mejor una ayu­da human­i­taria, acel­er­an las inves­ti­ga­ciones médi­cas y nos per­miten detec­tar estrel­las y plan­e­tas a mil­lones de años luz.

La percepción limitada del mundo

El pasa­do día 13, el Cen­tro del Car­men de Valen­cia inau­guró una ambi­ciosa exposi­ción que, bajo el sug­er­ente nom­bre de Los algo­rit­mos suaves, com­bi­na videoarte y escul­turas para invi­tar a reflex­ionar sobre la influ­en­cia de los códi­gos de la inteligen­cia arti­fi­cial en la vida cotid­i­ana. Tal vez no por casu­al­i­dad, la mues­tra coin­cide con un momen­to espe­cial­mente caliente en la polémi­ca sobre el uso com­er­cial o políti­co de datos per­son­ales en redes sociales como Face­book (lejos aún de recu­per­arse tras el escán­da­lo de Cam­bridge Ana­lyt­i­ca), cuyos algo­rit­mos «lim­i­tan la per­cep­ción de la real­i­dad y el mun­do y supo­nen una meta­cen­sura, ya que se estable­cen a par­tir de los gus­tos de los inter­nau­tas», según señal­a­ba a la agen­cia Efe el direc­tor del Con­sor­cio de Museos de la Comu­ni­tat Valen­ciana, José Luis Pérez Pont.

Los algo­rit­mos, con­tinúa Pérez Font, impli­can «una for­ma suave de inter­venir en nues­tras deci­siones» y «están trascen­di­en­do mundial­mente», ya que los ges­tio­nan «empre­sas con intere­ses económi­cos y geopolíticos».

El comis­ario de la mues­tra, Rafael Bar­ber, desta­ca­ba por su parte, tam­bién a Efe, que el auge de estos códi­gos coin­cide con un «momen­to de cri­sis», en el que «se impul­sa el fas­cis­mo y se acen­túa el cam­bio climáti­co», entre otros prob­le­mas. Según Bar­ber, Los algo­rit­mos suaves plantea el hecho de que «una inteligen­cia arti­fi­cial no puede hac­er arte», pero no bus­ca «posi­cionarse a favor o en con­tra de los algo­rit­mos, sino rep­re­sen­tar qué podemos hac­er den­tro de ese discurso».

Coviene no olvi­dar, en cualquier caso, las pal­abras de la cien­tí­fi­ca de datos Cathy O’Neil, auto­ra del libro Weapons of Math Destruc­tion, cuan­do advertía, como recuer­da el por­tal Xat­a­ca, que «los algo­rit­mos no son jus­tos de for­ma inher­ente porque la per­sona que con­struye ese mod­e­lo es la que define el con­cep­to del éxito».