Neutralidad tecnológica y diversidad cultural

Para evitar la falta de neutralidad tecnológica en sus aplicaciones y en el momento de su creación, debemos contar con equipos de diversidad cultural, algo que no siempre sucede

Foto:

Cuando hablamos de diferentes tecnologías siempre solemos referirnos a las aplicaciones de las mismas. Es decir, a cómo pueden cambiar nuestra relación con el entorno, mejorar procesos o reducir costes. En el mejor de los casos encontraremos aplicaciones que implicarán una fuente de ingresos mientras incrementan el bienestar social de nuestros clientes. Ese tipo de ejemplos se refieren a las aplicaciones positivas de cualquier nueva tecnología, ya sea 'blockchain', inteligencia artificial, Big Data, etc.

Con el transcurso del tiempo, y una vez que hemos asimilado la tecnología como algo cotidiano, empiezan a surgir dudas. ¿Qué ocurre si un gigante tecnológico tiene todos los datos sobre nuestras vidas y los vende? ¿Pensábamos en ello cuando colgábamos fotos de nuestras vacaciones y de nuestras vidas de forma explícita? ¿Qué ocurre si alguien es capaz de unir el rastro que dejamos en nuestra vida digital? Es en ese momento en el que empezamos a pensar en la parte negativa.

Foto: Reuters.
Foto: Reuters.

Cuando nos referimos a la neutralidad tecnológica normalmente hablamos de que la tecnología en sí misma es neutra y es su aplicación la que puede ser positiva o negativa. Por ejemplo, una aplicación negativa sería la utilización de un sistema de 'rating' inmutable y de acceso público para los ciudadanos de China; una positiva, disminuir o eliminar el tiempo necesario para dar un parte mediante el uso de 'blockchain' cuando tenemos un pequeño percance con el coche. Quizás también podría ser aplicado de manera positiva por el sistema bancario implementando una 'blockchain' a la que tenga acceso (proyecto actualmente en desarrollo en Singapur) para satisfacer sus necesidades regulatorias relativas a políticas KYC, 'Know your Customer'.

Saltando a otra tecnología, como la anteligencia artificial, pensemos en un algoritmo de reconocimiento facial con un 99,99% de precisión y que puede ser utilizado en aeropuertos y fronteras. Ese 0,01% de un millón de personas significa que 100 no serán reconocidas correctamente. ¿Y si son confundidas con un terrorista? (seguirá existiendo la intervención humana para reducir este número). Todas las consecuencias negativas tienden a agudizarse si además pensamos en que se puedan sufrir ciberataques.

Cuando hablamos de las diferentes aplicaciones tecnológicas y cómo se desarrollan en sus orígenes, se descubre que normalmente no se generan por gigantes tecnológicos. Es más bien gente trabajando de forma conjunta para resolver un problema local. Una vez que la primera prueba de concepto ha pasado satisfactoriamente su peculiar examen, dicha tecnología despierta el interés de las compañías. Es entonces cuando se empieza a aplicar de forma global y los posibles problemas aparecen.

Cuando nos referimos a la neutralidad tecnológica hablamos de que la tecnología es neutra y es su aplicación la que puede ser positiva o negativa

Por ejemplo, cuando estamos entrenando un algoritmo de reconocimiento facial, si nos dejamos a una parte importante de la población fuera del entrenamiento perderemos la oportunidad de utilizarlo en condiciones reales. Esto ya sucedió cuando se entrenaban algoritmos de reconocimiento facial y no se incluyeron mujeres de raza africana. El algoritmo no era capaz de reconocerlas y generaba dos problemas: el primero, que la tecnología por diseño deja de ser neutra, ya que no se puede aplicar por igual a toda la población (es exclusiva, no inclusiva); y el segundo, trasciende las fronteras de la propia tecnología. ¿Cómo encaja dicha tecnología con otras y cómo funcionarán conjuntamente? ¿Qué problemas podría plantear? ¿Serán exponenciales?

Para evitar no solo la falta de neutralidad tecnológica en sus aplicaciones sino también en el origen, debemos prestar especial atención a la necesidad de contar con equipos de diversidad cultural. Aunque en muchos equipos se publicita dicha diversidad, a la hora de la verdad adolecen de la misma. En la mayoría de los casos tiene menos riesgo cubrir una parte crucial de un equipo con alguien que replique lo anterior, que asumir el riesgo e introducir cambios que estimulen la cooperación y una cultura más abierta, viendo la diversidad cultural como algo normal. Es ese el punto de partida que abrirá las puertas para derribar los tan temidos silos que inhiben las transformaciones digitales que vemos venir y que ya están ocurriendo. ¿Será ese el momento en que dejemos de hablar de 'ellos' y 'nosotros' y seamos capaces de asumir el cambio como una constante?

Ignición