El timo de los algoritmos: son la gran excusa de las tecnológicas

Hay una serie de conceptos indiscutidos en nuestra sociedad, como la innovación, el talento, la tecnología o el poder del big data sobre los que parece absurdo siquiera establecer un debate. Su validez y potencia son parte del sentido común de nuestra época y constituyen la respuesta que se da a casi todos los problemas, desde los laborales hasta los sanitarios. Es complicado ponerlos en cuestión, además, porque esta sociedad ama especialmente hacer crítica de la crítica, lo que suele apagar las reflexiones y cual porque genera más inconvenientes personales que ventajas. Sin embargo, el elevado nivel de confianza en estas ideas, a veces demasiado cerca de la fe, suele ser sinónimo de graves problemas, de forma que no estaría de más que profundizásemos un poco de vez en cuando.

La idea de fondo que une todos estos conceptos, que hemos integrado como inevitable, es la siguiente: vamos a vivir grandes cambios en los próximos años causados por los adelantos tecnológicos y en una o dos décadas nuestro mundo se habrá transformado por completo. Estamos sometidos a un ciclo que no es lineal sino exponencial, de manera que lo disruptivo va a ser la norma y en ese escenario hay poco que pueda preverse. Lo importante será nuestra capacidad de adaptación y nuestra habilidad para amoldarnos a los que viene. Que será radical: los automóviles serán autónomos, los diagnósticos médicos los realizarán máquinas, la mayoría de los trabajos desaparecerán, las ciudades serán inteligentes y los seres humanos viviremos muchos más años, entre otras cosas.

Si hace tres semanas nos dicen que Sánchez estaría gobernando nos habría hecho gracia; como para anticipar lo que pasará dentro de diez años

Sorprende la rotundidad de estas afirmaciones, dado que se refieren al futuro, que es esencialmente desconocido. Podemos hacer previsiones, trazar planes e intentar adivinar lo que ocurrirá pero lo cierto es que no lo sabemos. Si hace tres semanas alguien nos dice que estaría gobernando Pedro Sánchez nos habría hecho bastante gracia, de modo que como para anticipar lo que pasará en diez años. Pero más llamativa que la creencia ciega en esa gran revolución que espera tras la esquina es la ausencia de reflexión sobre ella. No se analiza si lo que viene será bueno o malo, simplemente se constata que será. Y no deberíamos ser tan irracionales.

La verdad sobre el coche autónomo

Un ejemplo, para que nos entendamos: el coche autónomo. Se nos ha transmitido la idea de que en un plazo relativamente breve los automóviles actuales desaparecerán y serán sustituidos por vehículos automatizados que funcionarán sin conductor. La ciencia y la técnica habrán producido una innovación que implicará una gran mejora en nuestra vida. Dado que la mayor parte de accidentes se producen por errores humanos, al eliminar el factor que causa el problema (los conductores), los accidentes se reducirán drásticamente hasta que llegue el momento en que desaparecerán por completo.

El algoritmo que regularía el tráfico mundial sería propiedad de una o dos firmas, lo cual supondría una concentración innecesaria y perjudicial

Esto podrá ser cierto o no, pero todo el mundo lo da como inevitable, y se celebra como si ya hubiera ocurrido. Pero sería conveniente poner en cuestión el asunto. En primer lugar, no basta con describir el objetivo como si fuera una realidad ineludible, sino que en algún momento se tendrán que dar pruebas de que esa afirmación tiene una base real. Y no se trata de difundir una filmación en la que un automóvil funciona por sí mismo, sino de saber si el tráfico de una gran ciudad o de un país entero puede regularse con éxito gracias a este tipo de vehículos y de los algoritmos que ordenarán la circulación, y de si con ese sistema el número de accidentes será bastante menor que el actual. De momento, en ese sentido, no tenemos prueba alguna. Sabemos que están trabajando en ello, pero todo lo que nos cuentan son promesas. Y quienes las formulan son precisamente quienes están captando fondos y ganando mucho dinero con ellas, lo cual debería prevenirnos: no es buena idea creer la descripción que el vendedor hace de un producto por el que va a cobrar mucho.

Mercados cautivos

Pero imaginemos que fuera así, y que ese potencial tuviera visos reales de concretarse; que los coches autónomos fueran a convertirse en realidad, que los accidentes se reducirían enormemente y se perderían muchas menos vidas en el tráfico. Sería una excelente noticia que encontraría nula resistencia en la sociedad. Sin embargo, celebrar ese hecho no debería evitar que, también por prever el futuro, pensásemos un poco acerca de cómo quedarían las cosas en el nuevo escenario. Como bien aseguraba Yuval Noah Harari, si eso ocurriese, la estructura social sería diferente. Entre otras cosas, veríamos cómo empresas muy poderosas cobrarían mayor poder: el algoritmo que regularía el tráfico mundial sería propiedad de una o dos firmas, lo cual supondría una concentración innecesaria y un evidente problema para los ciudadanos y los consumidores. De hecho, esto es una constante en el mundo tecnológico,

El sector tecnológico actual no trata de producir bienes o servicios, sino modelos de negocio con los que monopolizar un ámbito concreto

Peter Thiel lo explica muy bien: su objetivo principal es construir monopolios. Las enormes inversiones iniciales en sectores con potencial, que sufragan años sin producir beneficios, son una vía para dar salida a los excedentes de capital que apuestan por un modelo distinto. Su ventaja y lo hemos visto con Google, Amazon, Microsoft o Facebook, es que si consigues el éxito el mercado es tuyo, lo cual asegura permanentes ingresos cautivos.

Eso era antes

Nada que ver con la idea típica de que una vez producida la innovación, habrá un tiempo de precios elevados, pero luego otros actores entrarán en el mercado con lo que harán los productos accesibles a las masas. Eso era en la época en que se inventaron los teléfonos móviles y el ordenador. Ya no funciona así: lo que el ámbito tecnológico actual trata de producir son nuevos modelos de negocio a través de los cuales monopolizar un ámbito concreto, y los coches autónomos forma parte de esta visión, tanto en lo que se refiere a la fabricación de los vehículos como a la creación de los algoritmos que ordenarán el tráfico. Podemos hacernos idea del negocio que supondría que todas las ciudades del mundo tuvieran que pagar por su utilización, por ejemplo.

¿Quién va a construir y pagar las infraestructuras necesarias para que el coche autónomo funcione de verdad? ¿Los Estados? ¿Y de quién será el negocio?

Pero el problema no se agota aquí, porque para que el coche autónomo pueda existir en las dimensiones precisas se requiere de una infraestructura que está por construir. La intención de muchos de los apologistas tecnológicos, como es el caso de Jeremy Rifkin, es que los Estados la construyan y sufraguen; y si no es posible, que al menos exista un partenariado público privado (como en tantas ocasiones se insiste con las ciudades inteligentes). Lo cual es llamativo, porque se generaría un notable gasto público para que esas empresas pudieran conseguir que su negocio funcionase de verdad, ya que ellas mismas no pueden acometer la creación de esas infraestructuras por su elevado. Esto ya ocurrió con las innovaciones del pasado, como el teléfono o la electricidad, y la solución que les dimos fue distinta: las empresas fueron públicas durante mucho tiempo precisamente porque era el mejor modo de asegurar el suministro. Ahora ya no estamos en esa situación, pero las privadas tampoco quieren realizar la inversión por sí mismas y pretenden que sean los poderes públicos los que hagan posible su negocio. No suena muy razonable.

Los términos de uso

Después estaría el problemilla de los precios. Sabemos que el sistema de transporte actual desaparecería, pero conocemos poco de cómo sería el nuevo. ¿Serían automóviles con un precio similar al actual o mucho más caros? ¿Estarían a la venta o sólo podrían alquilarse? ¿Habría dos velocidades, los ricos que tendrían coche propio y los demás pagarían por el uso? ¿Quién y cómo fijaría los precios en un régimen oligopolístico?

No nos quedemos en el coche autónomo, un ejemplo entre otros: es más relevante la utilización de la tecnología como algo dado, mecánico, divino

Y ya para terminar, y como bien ha señalado Evgeny Morozov, el coche autónomo funcionaría gracias a la recolección de datos y su sistema se afinaría cuanto más y mejores datos se obtuvieran. El problema es si también aportaría los datos de quien lo utiliza, y sería un instrumento más a la hora de reducir al mínimo nuestra privacidad, ya que permitiría conocer gran cantidad de información sobre los usuarios de los automóviles que quizá querríamos que permaneciese privada. Lo mismo suena algo paranoico, pero dada la experiencia con Google, Facebook y los teléfonos móviles (y de lo que sabemos de Cambridge Analytica o lo que nos fue narrado por Snowden), quizá deberíamos valorar esta perspectiva durante un instante.

En definitiva, el coche autónomo traería muchos cambios, pero apenas se habla de ellos. Se citan las palabras tecnología, innovación o futuro, y toda reflexión parece apagarse.

El algoritmo de Uber

No nos quedemos en el asunto del coche autónomo, que no es más que un ejemplo entre otros: es más relevante la utilización de la tecnología como algo dado, mecánico, casi divino. Un buen ejemplo de esta abstracción la tenemos con Uber. Existe una convicción generalizada en los sectores tecnológicos de que para nosotros, los usuarios, el modelo Uber sería mucho mejor, dado que es más eficiente, introduce competencia en un sector cautivo y tal. Sin siquiera analizar aspectos obvios, como las ventajas con las que cuentan estas compañías, derivadas de una dimensión global que les autoriza a diseñar relaciones laborales que no se permiten en otros sectores o a pasar por encima de las normas fiscales de cada país (a menudo mediante evasivas legalmente toleradas), quizá esa convicción debería ser puesta entre paréntesis.

En lugar de justificar el precio aleatorio mediante un “lo cobro porque quiero”, dirían que “lo ha decidido el algoritmo” y sonaría más convicente

Desde el punto de vista del consumidor, ¿es mejor un modelo de negocio que cobra cantidades diferentes por el mismo trayecto, según decida un algoritmo que sólo conoce la empresa, en función de la disponibilidad de los vehículos o del tiempo que haga o de cualquier otro factor que tome en consideración un algoritmo que nadie sabe cómo funciona? ¿No es un mecanismo que deja en manos del prestatario del servicio la determinación de la cantidad a pagar? ¿No sería razonable pensar que si Uber se extiende como forma principal de transporte urbano no público aprovecharía esa posición dominante para cobrar al usuario cantidades mayores? Es verdad que en lugar de justificar el precio de ese precio aleatorio mediante un “lo cobro porque puedo”, diría que “lo ha decidido el algoritmo”, y todo sonaría mucho más mecánico, como si la empresa no tuviera nada que ver, como si el algoritmo funcionara por sí mismo al margen de los deseos de quienes lo han creado, lo utilizan y lo modifican.

“El sistema no lo permite”

Esta remisión a lo angelical la sufrimos ya en muchos pequeños ejemplos cotidianos, como cuando un teleoperador de una empresa te dice que esa gestión no la puede hacer porque “el sistema no se lo permite”; o cuando una firma señala que su gran reto es la digitalización y acto seguido despide a buena parte de su plantilla, y el resultado es que el trabajo de los que se van lo absorben los que quedan y no las máquinas; o cuando señalan que la innovación va a cambiarlo todo, y en realidad lo que está cambiando es la cantidad del dividendo que se llevan los accionistas. En estos casos, la tecnología no es más que una excusa; es responsabilizar al algoritmo, la innovación o la cuarta revolución industrial de las decisiones concretas y personalizadas que se están tomando. De modo que hacer algo de análisis social y de economía política sobre lo que ya está ocurriendo y lo que vendrá es indispensable si no queremos ser engañados.

Decir estas cosas, en general, suele generar efectos adversos porque provoca acusaciones de ludismo, de ser un enemigo del futuro o un conservador retrógrado. Pero seamos sinceros, la tecnología no es más que un instrumento. Y como tal, admite usos muy diferentes; estar en contra de algunas de las formas en que es empleada no te convierte en adversario del progreso, sino en un amigo de la sensatez, por lo que sería razonable pensar que estas reflexiones partieran desde el mismo sector tecnológico. No suele ser así. En su lugar, parece un ámbito preso de la celebración continua de lo nuevo, de lo reluciente y de las promesas de enormes cambios, por lo que termina cayendo en una suerte de fe religiosa que va declarando anatemas por todas partes. Un poco de reflexión sobre si lo que viene es bueno en lugar de si es nuevo no vendría mal, la verdad.