:format(png)/https%3A%2F%2Fdelorean.ecestaticos.com%2Fimg%2Fjournalist%2Fjournalist-default.png)
Tribuna
Por
Implicaciones del Reglamento de inteligencia artificial de la UE en el ámbito laboral
Esto marca el inicio de un proceso para poner en práctica las normas y obligaciones derivadas de la nueva norma de IA que implica que las empresas tendrán que prepararse para su cumplimiento
:format(jpg)/f.elconfidencial.com%2Foriginal%2Ff6b%2F71d%2Fe4b%2Ff6b71de4befd4cc4dc54cd063840be57.jpg)
El pasado 12 de julio de 2024 se publicó en el Diario Oficial de la Unión Europea el Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial (el Reglamento IA). La nueva norma entrará en vigor el próximo 1 de agosto, a los 20 días de su publicación. Esto marca el inicio de un proceso para poner en práctica las normas y obligaciones derivadas de la nueva norma de inteligencia artificial (IA) que implica que las empresas tendrán que prepararse para su cumplimiento.
El Reglamento es una norma ambiciosa que trata de armonizar el marco jurídico de la IA en la UE para impulsar el desarrollo, la utilización y adopción de la IA garantizando un alto nivel de protección de los intereses públicos como la salud, la seguridad y la protección de los derechos fundamentales, incluidos los de los trabajadores. Para ello, el reglamento establece un marco exhaustivo para regular el suministro, despliegue y uso de la IA en la UE con el fin de abordar las complejidades y los potenciales riesgos asociados al uso de la inteligencia artificial.
El enfoque del Reglamento IA está basado en el riesgo al categorizar los sistemas de IA en función de sus casos de uso y estableciendo requisitos de cumplimiento según el nivel de riesgo que supongan para los usuarios. Esto incluye la introducción de prohibiciones para determinadas aplicaciones de IA consideradas poco éticas o perjudiciales, junto con requisitos detallados para gestionar eficazmente las amenazas potenciales de las aplicaciones de IA consideradas de alto riesgo.
* Si no ves correctamente el módulo de suscripción, haz clic aquí
La Ley de la IA afecta a todos los operadores de sistemas de IA, incluidas las organizaciones privadas y públicas de todos los tamaños y sectores que ofrecen productos o servicios de IA en el mercado de la UE, incluidas las empresas no pertenecientes a la UE. La Ley de la IA se aplica a:
- Los proveedores que introduzcan sistemas de IA en el mercado de la UE.
- Proveedores e implantadores de sistemas de IA fuera de la UE, si el producto del sistema de IA se utiliza en la UE.
- Responsables del despliegue de sistemas de IA dentro de la UE.
- Importadores y distribuidores de sistemas de IA en el mercado de la UE.
- Fabricantes que comercializan en la UE productos con sistemas de IA incorporados a su marca.
Implicaciones para los empleadores
Muchos empresarios entrarán en el ámbito de aplicación de la Ley como "implantadores" de IA que utilizan un sistema de IA bajo su autoridad. El uso de la IA para la contratación de empleados, el análisis y filtrado de solicitudes de empleo o la evaluación de candidatos, la decisión sobre ascensos, la finalización de relaciones laborales o la asignación de tareas y la supervisión o evaluación del rendimiento y el comportamiento de un trabajador se clasifican como de alto riesgo. Los algoritmos y los procesos de toma de decisiones a través de estos sistemas de IA exigen protecciones sólidas para mitigar los posibles daños.
Las obligaciones de los responsables del despliegue de un sistema de IA en virtud de la nueva norma son:
- Aplicar las instrucciones del proveedor para el uso del sistema de IA
- Garantizar la supervisión humana
- Validar los datos de entrada para garantizar su idoneidad para el uso previsto
- Supervisar la actividad del sistema de IA
- Informar rápidamente al proveedor o distribuidor del sistema de IA de cualquier fallo de funcionamiento, incidente o riesgo
- Guardar los registros si están bajo su control
- Realizar una evaluación de impacto sobre los derechos fundamentales
Las infracciones de las obligaciones relativas a la IA de alto riesgo pueden acarrear importantes multas de hasta 15 millones de euros o, en el caso de las empresas, de hasta el 3% del volumen de negocio anual global. Llevar a cabo prácticas prohibidas puede dar lugar a multas incluso más elevadas, de hasta 35 millones de euros o, para empresas, hasta el 7% de su volumen de negocio anual global. Para otras aplicaciones de IA con riesgo limitado para las personas, el principal requisito es seguir determinadas normas de transparencia.
Próximos pasos
La legislación contiene ámbitos que aún no están completamente definidos. Se espera que se desarrollen, mediante actos delegados y de ejecución, directrices de las instituciones de la UE y normas armonizadas elaboradas por los organismos europeos de normalización. Por consiguiente, las empresas deberían esperar recibir orientaciones más detalladas en un futuro próximo.
Sin embargo, mientras tanto, los empresarios deberían considerar los siguientes pasos preparatorios:
- Comprender qué entra en el ámbito de aplicación realizando auditorías de las herramientas utilizadas o previstas teniendo en cuenta tanto el caso de uso.
- Identificar lo que debe cambiar. Es posible que ya se utilicen sistemas de IA en ámbitos de alto riesgo como la contratación. Los empresarios deben conocer las prácticas y procesos existentes, y saber si es necesario cambiar los procedimientos actuales para cumplir con el Reglamento de IA.
- Actualizar políticas y procedimientos. Las obligaciones de los implantadores exigen la adopción de una serie de medidas proactivas, ya sea la necesidad de mantener registros o la de garantizar la formación de quienes supervisan las herramientas pertinentes. Las políticas internas deben reflejar estos requisitos.
- Formación y concienciación. Asegurar que quienes utilizan los sistemas de IA entienden cómo utilizar las herramientas correctamente y cuáles son sus obligaciones con arreglo a las nuevas normas.
- Realizar controles de diligencia debida en la cadena de suministro. ¿Cumplirán las normas los proveedores de tecnología nuevos y existentes? ¿Es necesario modificar sus contratos?
- Informar a los representantes de los trabajadores y, en su caso, a los trabajadores conforme a las normas correspondientes.
- Comprender las preferencias de la IA. Conocer hasta qué punto puede explicarse una decisión individual de IA, será una parte importante para evitar el riesgo de sesgos al utilizar un sistema de IA.
Por otra parte, en España ya contamos con algunas normas que regulan esta cuestión en el ámbito laboral y de protección de datos, cuya aplicación se mantiene. En materia de protección de datos el artículo 22 del Reglamento General de Protección de Datos (RGPD) reconoce el derecho de toda persona a no ser objeto de una decisión únicamente basada en el tratamiento automatizado de sus datos, si ello produce efectos jurídicos en la persona o le afecta significativamente de modo similar. Además, el artículo 13.2.f) del RGPD establece que las empresas que utilicen herramientas para tomar decisiones automatizadas deberán informar a los trabajadores sobre la lógica aplicada en la decisión automatizada en cuestión, así como la importancia y las consecuencias previstas de dicho tratamiento para el interesado.
En el ámbito laboral, el artículo 64.4 d) del Estatuto de los Trabajadores (ET) ya establece la obligación de informar a la representación legal de los trabajadores acerca de los parámetros, reglas e instrucciones de los algoritmos o sistemas de inteligencia artificial que puedan incidir en las condiciones de trabajo, el acceso y mantenimiento de empleo. De igual forma, se establece en el texto de la nueva Directiva de Plataformas Digitales la obligación de informar a los trabajadores de las mismas acerca de la utilización de sistemas automatizados de supervisión y de toma de decisiones que afecten a su contratación, sus condiciones de trabajo y sus ingresos, entre otras cuestiones, además de prohibir el uso de tales sistemas para el tratamiento de algunos datos personales, como datos biométricos, o referidos al estado emocional o psicológico de las personas.
En definitiva, sin duda el uso de la IA puede ayudar a las empresas a mejorar su eficiencia, optimizar sus recursos y a mejorar y su competitividad, pero también plantea muchos riesgos por lo que espero que las empresas abordemos su uso como el de una tecnología centrada en el ser humano, desde un enfoque ético y respetuoso con los importantes derechos fundamentales que podrán verse dañados en su utilización.
* Pilar Menor, Employment Global Co-chair y Senior Partner de DLA Piper.
El pasado 12 de julio de 2024 se publicó en el Diario Oficial de la Unión Europea el Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial (el Reglamento IA). La nueva norma entrará en vigor el próximo 1 de agosto, a los 20 días de su publicación. Esto marca el inicio de un proceso para poner en práctica las normas y obligaciones derivadas de la nueva norma de inteligencia artificial (IA) que implica que las empresas tendrán que prepararse para su cumplimiento.