El reglamento de inteligencia artificial: la visión europea de la sociedad digital

Tras un proceso legislativo largo y complejo, no exento de dificultades y en el marco de una maratoniana sesión de negociación, se ha alcanzado un acuerdo entre Consejo, Comisión y Parlamento Europeo en relación con la nueva AI Act, o reglamento de inteligencia artificial.

No es de extrañar esa complejidad si se tiene en cuenta que esta norma regula uno de los avances tecnológicos llamados a tener mayor impacto en las compañías y en la sociedad en general. Si bien cada cierto tiempo el proceso de digitalización nos ofrece novedades que en principio parece que van a cambiarlo todo, nada será comparable a la repercusión que va a tener la generalización en el uso de los sistemas de IA en la sociedad, en la economía y en las empresas.

Por esas razones y con el objetivo de lograr que la tecnología esté al servicio de las personas y no al revés y de proteger los derechos fundamentales y las libertades públicas, la Unión Europea (UE) ha decidido dar un paso adelante y regular esta tecnología. De nuevo, la UE se atribuye un papel de regulador mundial, creando un marco legal que sirva también de modelo a otros países no europeos, como ya ha ocurrido con el Reglamento General de Protección de Datos.

* Si no ves correctamente el módulo de suscripción, haz clic aquí

En este sentido, es especialmente relevante resaltar que la carga regulatoria y las nuevas obligaciones que genera esta norma recaen sobre todo en los sistemas clasificados como de alto riesgo, para los cuales se permiten ciertas prácticas, pero sujetas a obligaciones reforzadas. Es precisamente esta categoría de sistemas la que más controversia ha generado en cuanto a su definición y alcance, ya que la inclusión en este grupo supone una serie de obligaciones de cumplimiento legal muy elevadas referidas a la supervisión de su seguridad, de los datos que utilizan y del impacto en los derechos fundamentales y libertades públicas. Los sistemas que incidan en la gestión y funcionamiento de infraestructuras críticas, en la identificación biométrica, en la categorización de personas físicas, en el sistema educativo, en los sistemas de contratación o selección de trabajadores, o en el análisis de solvencia, entre otros, son considerados de alto riesgo. Además, se incluyen en la categoría de prohibidos ciertos sistemas de IA que sirvan para la manipulación del comportamiento humano o la categorización biométrica de las personas físicas, con alguna excepción incluida en el último momento.

Por otra parte, también los sistemas de riesgo bajo o limitado deben cumplir ciertos requisitos legales en materia de transparencia, de forma tal que los productos o servicios de los sistemas de IA que interactúan con personas y que se utilicen para detectar emociones o manipular contenidos, deberán ser siempre identificables por los ciudadanos sobre los que incide la utilización de estos sistemas.

TE PUEDE INTERESAR

"Más IA y menos júniors": las asesorías jurídicas aprietan a los bufetes para bajar sus facturas

Pedro del Rosal María Jesús Labarca

Una característica para destacar es que el reglamento tiene repercusiones en toda la cadena de suministro e incluye obligaciones para proveedores, desarrolladores, distribuidores y usuarios estén donde estén, siempre que el resultado de los servicios tenga impacto dentro del territorio de la UE. Por tanto, se prevé un contexto de aplicación caracterizado por su impacto fuera del territorio de la región. Además, el régimen sancionador que pretende asegurar el cumplimiento de esta nueva regulación es muy severo e incluye posibles sanciones financieras de mucha relevancia. A este respecto, se debe señalar que España ya ha creado la estructura de gobernanza pública que va a ser la autoridad competente en la materia. Así, se ha creado la Agencia Española de Supervisión de Inteligencia Artificial y se ha establecido un entorno controlado de pruebas (sandbox) para el ensayo del cumplimiento de la propuesta de reglamento.

Otro factor importante para tener en cuenta es el ingrediente principal para que la receta de la inteligencia artificial funcione: el uso de los datos.

Por un lado, están los datos de carácter personal que han sido ampliamente regulados en la UE y las autoridades de control de los Estados Miembros ya se han posicionado en que el uso de la IA no puede comprometer la privacidad. Como consecuencia de ello, se destaca la obligación de privacidad por el diseño en el uso de cualquier sistema de IA para que, entre otras cosas, los datos sean exactos y se procesen de forma transparente y segura.

"No cabe duda de que esta norma va a suponer que las empresas se enfrenten al reto de alinearse con la regulación y cumplirla"

Por otro, encontramos los datos no personales, pero igualmente valiosos. El conjunto de reglamentos europeos en materia de servicios digitales y de datos, sobre todo en el sentido de la reutilización de estos, también pretende buscar el equilibrio entre la correcta gestión de los datos y la innovación tecnológica desde un punto de vista legal y ético.

No cabe duda de que esta norma va a suponer que las empresas se enfrenten al reto de alinearse con la regulación y cumplirla, siendo hitos fundamentales de ese esfuerzo la configuración de un adecuado sistema de gobernanza interna de la IA, su coordinación con las estrategias de datos ya existentes en la compañía, o la necesidad de asegurar la organización mediante políticas y procedimientos adecuados que protejan frente a las posibles responsabilidades. Especialmente de las derivadas del uso de sistemas de IA proporcionados por terceros proveedores.

TE PUEDE INTERESAR

La realidad tras la IA: el segundo informe sobre digitalización pone deberes a los bufetes

Pedro del Rosal María Jesús Labarca

La incorporación de sistemas de IA a las operaciones y actividades de las empresas va a ser una poderosa palanca de transformación digital de las mismas. No obstante, las potencialidades y capacidades transformadoras de esta tecnología deberán tener en cuenta la existencia de un marco regulador completo, como es el Reglamento de IA, que en general va a dotar de seguridad jurídica a los operadores y usuarios de estos sistemas. Todo ello teniendo en cuenta que esta norma, al crear certidumbre legal, es al mismo tiempo un acelerador del desarrollo, de la innovación y de las inversiones, en esta nueva y prometedora tecnología llamada a cambiar muchas cosas.

* Rodrigo González, socio de Derecho Digital y Vicente Moret, of counsel de Derecho Digital de Deloitte Legal.