Éticos y artificialmente inteligentes

Si bien los beneficios de implementación de la IA son bastante claros, esta tecnología tiene también sus riesgos que no podemos, ni debemos, obviar

Foto:

La inteligencia artificial (IA) es uno de los últimos desarrollos tecnológicos que permiten a las empresas mejorar, crecer y competir. Es difícil establecer lo que es inteligencia artificial o lo que deja de ser, pero a grandes rasgos, se podría definir como las capacidades 'cognitivas' de los sistemas tecnológicos (como aprender y ejecutar tareas sobre la base de ese aprendizaje) que los humanos, por analogía, percibimos como inteligentes.

En otras palabras, es tecnología que aprende por sí misma al igual que los humanos lo hacemos: tomando información de datos anteriores, de sus aciertos y errores y modificando su comportamiento de acuerdo con ello. Dados su desarrollo y potencial, es fundamental que el avance de la IA se guíe de forma ética desde las empresas que la utilizan.

La IA permite que las empresas aceleren procesos que ya abarcan el reconocimiento del lenguaje hablado y el procesamiento de vídeo, audio e imágenes, los sistemas de conducción autónoma de vehículos o los complejos sistemas de predicción y analítica en ciencia y economía. Su implementación no solo permite a las empresas obtener mejores análisis de sus datos, o automatizar procesos internos, sino optimizar el tiempo de atención y respuesta a los clientes: de acuerdo con el informe de Capgemini, basado en una encuesta global realizada a más de 800 organizaciones y 2.900 consumidores, el 49% de los entrevistados confía en el potencial de la IA para solucionar sus problemas, cuando era tan solo un 30% en 2018 el que tenía esa opinión. La tendencia de crecimiento de este porcentaje se está acelerando desde la llegada de la pandemia del covid-19.

Si bien los beneficios de implementación de la IA son bastante claros, esta tecnología tiene también sus riesgos que no podemos, ni debemos, obviar: por ejemplo, se ha demostrado que sin un correcto manejo ético, ocurren casos en los que las IA discriminan a ciertos colectivos, sean las mujeres, las minorías raciales o los colectivos LGTBI+. El informe también muestra cómo datos incorrectos que induzcan a la IA a tomar acciones hacia un resultado injusto ponen en riesgo la relación de la compañía con sus 'stakeholders': el 60% de las empresas encuestadas se ha enfrentado a escrutinio legal en los últimos dos o tres años debido a decisiones de sus IA y el 22% ha recibido fuertes críticas de sus clientes en el mismo periodo y por la misma razón. Problemas como estos han llevado a una caída de 14 puntos porcentuales entre 2019 y 2020 en los consumidores que consideran que las compañías son transparentes con el manejo de sus datos (76% en 2019 vs. 62% en 2020).

Estos problemas se pueden evitar mediante dos iniciativas conjuntas: la implementación de una IA ética como política de empresa y la creación de un cargo responsable de ella dentro de las organizaciones. ¿Pero qué es la ética en la IA? De acuerdo a la Comisión Europea, es la aplicación de siete principios a estas tecnologías, a saber: que debe haber supervisión humana con capacidad de tomar medidas de contingencia; que los sistemas sean resistentes y resilientes; que se garantice la privacidad y el correcto manejo de los datos; que los procesos sean transparentes para el usuario; que apliquen criterios que aseguren la justicia y la no discriminación; que el sistema tenga en cuenta su impacto social y medioambiental, y que sea auditable interna y externamente.

El 60% de las empresas encuestadas se ha enfrentado a escrutinio legal en los últimos dos o tres años debido a decisiones de sus IA

Las organizaciones que apliquen estos principios deben esforzarse por poder explicar cómo funciona su IA, qué datos usan, para qué y por qué, además de poder ejemplificarlo con casos concretos que demuestren su funcionamiento y que aseguren al usuario transparencia, seguridad y privacidad. Además, las decisiones del sistema deben poder ser revisadas por contrapartes humanas con eficiencia y claridad, de forma que un usuario no sea discriminado o sometido a una decisión injusta por error.

Es vital contar con un directivo que sea responsable de ética de IA, pero solo el 53% de las compañías encuestadas cuenta con un encargado de esta cuestión: su misión es asegurar que la empresa cuente con el respaldo y los controles debidos para que las ventajas y beneficios de un buen sistema de IA no se vean eclipsados por sus riesgos y para que pueda seguir compitiendo desde la mejor posición con herramientas que ya tanto los usuarios como los clientes no solo aceptan, sino que ahora exigen.

*Francisco Bermúdez es consejero delegado de Capgemini España.

Tribuna
Escribe un comentario... Respondiendo al comentario #1
2 comentarios
Por FechaMejor Valorados
Mostrar más comentarios