No te emociones con la inteligencia artificial (o te venderá más cosas)

En la sede de Google, en Mountain View, hace unos seis años tenían unas flores artificiales que cambiaban de color dependiendo de si los humanos que nos acercábamos a ellas sonreíamos o fruncíamos el ceño. No era un simple entretenimiento para visitantes curiosos, sino un entrenamiento soterrado de un negocio millonario. Hace mucho que las tecnológicas están entrenando sistemas de inteligencia artificial para la identificación de las emociones. Y de cómo lo hagan va a depender cómo nos comunicamos los humanos con las máquinas e incluso entre nosotros. También en qué nos gastamos, o dejamos de gastar, el dinero. Quien controle las emociones controlará también la publicidad.

Estos sensores que identifican las emociones ya no están en laboratorios de Silicon Valley para entretener a los periodistas curiosos que se pasean por allí de visita. Los pasajeros del metro de Londres llevan más de un año siendo examinados por una inteligencia artificial que estaba vigilando, sin ellos saberlo, sus emociones. Según la revista Wired, las cámaras de vigilancia han estado un año monitorizándolas, sin permiso ni conocimiento de los viajeros, cómo se sienten. Es un sistema de monitoreo pensado teóricamente para garantizar la seguridad en trenes y estaciones, los robos de bicicletas y las aglomeraciones. Sin embargo, el verdadero filón de esta tecnología desarrollada por Amazon podría ser su uso en los sistemas publicitarios del futuro.

Eso que en Minority Report, aquella película de Steven Spielberg, que hace 20 años era ciencia ficción, ya existe. La tecnología para saber cómo se sienten los transeúntes del metro de Londres, según sospecha el grupo de libertades civiles Big Brother Watch, que son los que han descubierto este sistema llamado Rekognition, analiza si los rostros están tristes, enojados o contentos en Waterloo o Picadilly.

El objetivo no solo es la seguridad. El verdadero filón de la detección de las emociones es el de la persuasión. A la gente se les pueden vender más cosas haciéndoles llegar mensajes personalizadísimos en los momentos que más vulnerables fueran sus emociones a según qué estímulos y productos. Con los mensajes publicitarios servirá para vendernos más cosas, pero el truco podría funcionar también con mensajes políticos. La distopía se escribe sola.

TE PUEDE INTERESAR

'Pausa' | La inteligencia artificial y el caos: dónde están los límites de ChatGPT

Marta García Aller

Los riesgos de utilizar la tecnología de vigilancia para identificar emociones son enormes, pero todavía poco polémicos por puro desconocimiento. ¿Quién ha autorizado a que se experimente con las emociones de los viajeros del metro de Londres? Y lo que es más inquietante, ¿dónde más se está aplicando ya esta tecnología que experimenta con las emociones humanas sin que lo sepamos?

Hay más ejemplos no menos inquietantes. Esta semana conocíamos un nuevo sistema de inteligencia artificial que trabaja para eliminar el enfado de la voz. Para que la gente irritada deje de sonarle enfadada a quienes le están escuchando al otro lado del teléfono, según el Financial Times. Al pasar la voz por ese filtro que distorsiona en tiempo real la indignación, la agresividad desaparece. Emotion Cancelling Voice Conversion Engine lo llaman, o máquina para la cancelación de emociones de la voz. Muy orwelliano todo.

Opinión

TE PUEDE INTERESAR

No es quitarte el trabajo, el mayor riesgo de chatGPT es lo mucho que te miente

Marta García Aller

Es un sistema que SoftBanky la Universidad de Tokyo están desarrollando teóricamente por el bien de los empleados de los call center, para evitar que los que llaman les griten enfadados, con el consiguiente deterioro de la salud mental que supone estar expuestos a la ira de los clientes insatisfechos. Sin embargo, si algo hemos aprendido de las distopías es que suelen empezar con tecnologías que nacieron con la mejor de las intenciones.

A esta IA con filtro de las emociones la están entrenando actores que interpretan frases en diferentes tonos para que la inteligencia artificial aprenda a detectar la ira y eliminarla, como los filtros que eliminan las arrugas de las fotos de Instagram o cambian en tiempo real el idioma para hacer que parezca que Chiquito de la Calzada sabe hablar inglés, este deep fake del alma cambiará el estado de ánimo (a oídos del interlocutor). Igual que pasa con las arrugas, la ira seguirá estando ahí aunque no la veamos.

Está pensada para los call center. ¿Pero qué otros usos puede tener este sistema de alteración de emociones de la voz en tiempo real? ¿Podrán las empresas no solo detectar, sino también cambiarnos las emociones con fines comerciales? ¿Qué consecuencias pueden tener estos deep fake de nuestro estado de ánimo? ¿Podrán las empresas controlar nuestras emociones?

TE PUEDE INTERESAR

La IA se está envenenando a sí misma y las tecnológicas no quieren hablar de ello

Albert Sanchis

Este filtro para suavizar el cabreo de los interlocutores solo atempera el tono, no el vocabulario. Los improperios seguirían sonando, pero con una voz dulcificada. Imaginemos poner la tele o la radio y poderle no solo bajar el volumen, también la agresividad. O a un ex que nos llama pegando voces. ¿Funcionaría el filtro anti-enfados con el pinganillo del Congreso de los Diputados? Así podríamos por fin saber cómo sonarían sus señorías eliminando esa agresividad, a menudo impostada, de la conversación pública. Al fin y al cabo, hay una teatralización del enfado político en el Congreso que tiene mucho de artificial. No sé si de inteligencia.