Reglamento europeo de IA, un paso más hacia 'El Gran Hermano'

Sería de necios negar que con el paso del tiempo, los cambios sociales que generan los avances tecnológicos se acompañan de una merma progresiva de los derechos fundamentales. La circulación constante de datos, la recopilación de información derivada de la monitorización del individuo, y su acumulación y conservación en piscinas de datos resultan necesarios para el funcionamiento de los sistemas, pero también suponen un riesgo evidente para los derechos fundamentales de los ciudadanos, generando multitud de incógnitas y de inseguridad ante su uso.

La respuesta a estas incógnitas, al menos en un primer filtro, lo encontramos en el novedoso Reglamento de la IA, el cual define, en principio, los usos que pueden determinar un mayor riesgo para los ciudadanos.

Pero además, el Reglamento lista las prácticas consideradas prohibidas en el uso de la inteligencia artificial, e incluye excepciones que permiten su uso, lo que habilita un puente de plata para utilizar la IA de esas formas prohibidas a priori, siguiendo las instrucciones para aplicarlos bajo unos supuestos tasados. La importancia de esto es clave, ya que, estas prácticas ponen en riesgo los derechos fundamentales de los ciudadanos de la UE, y por esto son consideradas prohibidas, pero la norma, paradójicamente, y en el mismo artículo, enmarca los casos concretos en los que se valida su uso.

* Si no ves correctamente el módulo de suscripción, haz clic aquí

Así, se habilita la posibilidad del uso de sistemas de identificación biométrica remota, con tecnología de inteligencia artificial, en tiempo real en espacios públicos, pudiendo monitorizar y captar la imagen de los individuos, para luego pueda procesar, interpretar, y localizar a determinadas personas. Esta práctica, que podemos encontrar proyectada años atrás en películas de ciencia ficción, de títulos tan famosos como 1984, con su Gran Hermano, ahora se podrá trasladar a la vida real.

El Reglamento plantea, de inicio, que solo pueda ejecutarse estas prácticas prohibidas, en los supuestos que enumera, bajo una suerte de numerus clausus, entre los que destaca la localización de aquellas personas que estén en situación de sospecha, —atención a esta posibilidad—, o hayan cometido una infracción penal que tenga prevista en el país en el que se ha realizado una pena de prisión de más de 3 años.

Opinión

TE PUEDE INTERESAR

Cómo adecuar tu empresa al Reglamento de inteligencia artificial: primeros pasos

Carlos Alberto Saiz Peña

Si bien no es la única excepción, es la que sin duda crea un escenario en el que el riesgo de que se vulneren los derechos fundamentales de los ciudadanos de la Unión Europea se magnifica, y esto abre un escenario en el que resulta clave que se ponga el foco en la necesidad de que se adopten estas medidas con proporcionalidad y procurando que se respete y protejan los derechos de los posibles afectados, visto que estos usos de la IA, son, como poco, invasivos y realizados en contra de la voluntad del afectado y de muchos ciudadanos, que no entienden ni comprenden la utilidad de la captación de su imagen en zonas públicas.

Por supuesto, la norma parte siempre de la base de que la autorización de estas prácticas tiene que ser ponderada y autorizada por la autoridad judicial, pero la introducción de estas medidas de localización de personas en sí ya es revolucionario por dos circunstancias, se cambia la dinámica en la localización de personas en búsqueda y captura, y además, se abre la posibilidad de que se adopten estas medidas de localización incluso para personas de las que pese sobre ellas, “sospecha” de una posible comisión de delitos graves.

"El Reglamento hace inevitable la ponderación de derechos, donde encontramos en todos y cada uno de los casos colisión entre los derechos fundamentales del afectado"

Otro punto a considerar, es que el Reglamento se remite a otra norma para localizar el listado de delitos que permiten la adopción de estas medidas. Lo esperable sería que este listado estuviera compuesto por delitos de máxima gravedad y con gran repercusión para la sociedad, afectando a la seguridad ciudadana, como el terrorismo, que por supuesto está incluido, y la pertenencia a banda armada. Pero es que también se incluyen delitos de diferente categoría, más cercanos a los conocidos como white collar, es decir, estafa o corrupción, siendo, por supuesto, el listado completado con los tradicionales delitos dolosos, como el secuestro, extorsión y chantaje.

La posibilidad de aplicar estas medidas de localización en tantos casos, a pesar de ser reconocidas como prácticas prohibidas en general por el propio Reglamento, hace inevitable la ponderación de derechos, una valoración necesariamente casuística, donde encontramos en todos y cada uno de los casos colisión entre los derechos fundamentales del afectado, como por ejemplo, la libertad de circulación o su intimidad, versus la necesidad de garantizar la seguridad ciudadana.

TE PUEDE INTERESAR

¿Quién paga el pato si la IA se inventa una sentencia o una ley: ChatGPT o el abogado?

Pedro del Rosal María Jesús Labarca

Parece que las predicciones realizadas por autores como Philip K. Dick o el gran Isaac Asimov, que fueron emitidas por estos autores hace un tiempo relativamente amplio, pensando en un futuro muy lejano, está cada vez más cerca, y se han transmutado con todas sus problemáticas.

No puede negarse que los grandes avances de la sociedad y cambios de estilo de vida, suponen la renuncia a cierta comodidad conocida, nos despedimos del mundo como era, para ganar un futuro que viene con otras ventajas, pero cuando los avances vienen acompañados necesariamente con renuncias a derechos fundamentales, lo que parece un avance como sociedad, se puede convertir en un arma de doble filo.

Tendrá que ser nuestra conciencia, atributo inherente a la condición humana, la que defina los límites de los nuevos retos que se nos plantean, sin duda la IA está revolucionando el mundo, esperemos que no dinamite los ya manidos derechos de los ciudadanos.

* Rocío Arce Peñafiel, abogada en Cículo Legal