La gobernanza tecnológica y los deberes fiduciarios en la era de la inteligencia artificial

Vivimos una transformación silenciosa, pero radical: la tecnología ya no es solo un instrumento operativo, sino una herramienta que reconfigura el poder, la ética y la responsabilidad dentro de las organizaciones.

Las tecnologías digitales y, en particular la inteligencia artificial, constituyen palancas de innovación para las empresas y sus negocios.

Las funcionalidades que ofrecen estas tecnologías, su alcance y su constante evolución justifican un marco regulatorio claro que favorece su desarrollo y uso responsable. Un ejemplo es el Reglamento Europeo de Inteligencia Artificial que ya está en vigor y con el que la Unión Europea ha dado un paso sin precedentes en la regulación de tecnologías emergentes.

Lo notable es que esta norma no se limita a establecer casos de uso, categorías de riesgo o requisitos técnicos. Va más allá: exige a las empresas dotarse de una arquitectura interna capaz de auditar, supervisar y justificar el uso de sistemas de IA.

Opinión

TE PUEDE INTERESAR

¿Cómo adecuar las relaciones laborales al Reglamento europeo de Inteligencia Artificial?

Fide

La peculiaridad de este reglamento comunitario es que se ocupa de regular algunos casos de uso de sistemas de inteligencia artificial, pero también pone el foco en esquemas sólidos de gobernanza de las empresas para garantizar su correcta aplicación.

¿Afecta este reglamento a los deberes fiduciarios de los administradores? Esta cuestión que ya se ha debatido previamente en relación con las directivas sobre comunicación de la información sobre sostenibilidad y diligencia debida (CSRD y DDD respectivamente, por sus siglas en inglés), se resuelve considerando que no crea un nuevo deber para los administradores pero sí afecta al contenido del deber de diligencia, y por supuesto a la potencial responsabilidad.

Opinión

TE PUEDE INTERESAR

El dilema digital de Europa: ¿árbitro o jugador?

Miguel Otero Gonzalo Rodríguez

Si el deber de diligencia de un administrador pasa por realizar sus funciones con los estándares de un ordenado empresario, adoptando las medidas precisas para la buena dirección y el control de la sociedad, parece lógico pensar que el administrador deberá conocer y entender el funcionamiento de estas tecnologías digitales. De otro modo, no podrá impulsar la transformación de la compañía ni aprobar un sistema de gobernanza adecuado que articule el uso de las nuevas tecnologías conforme a las exigencias legales y éticas de la corporación, ni supervisar su ejecución, ni controlar adecuadamente los riesgos que son propios de estas nuevas tecnologías.

Por tanto, en clave de gobernanza, el consejo de administración debería impulsar la elaboración de políticas, procedimientos y reglas que regulen el uso corporativo de tecnologías digitales, atribuir responsabilidades para su desarrollo y aplicación y reporte sobre su cumplimiento. Estos mecanismos están llamados a garantizar que, por ejemplo, los algoritmos no reproduzcan sesgos discriminatorios, que se revise que las decisiones automatizadas sean trazables, auditables y justas o que se anticipen los impactos de la tecnología y proteja a los afectados.

Un sistema de IA que rechaza sistemáticamente a un género en procesos de selección o que niega préstamos a minorías, representa un fallo técnico que a su vez representa una brecha ética, reputacional y un incumplimiento legal.

TE PUEDE INTERESAR

La española que vigila a Google y Facebook para que sus algoritmos no te engañen

Cristina Sánchez

La implementación de políticas y la formación especializada es crucial para cumplir con las nuevas normativas y asegurar decisiones justas y éticas, evitando riesgos legales y reputacionales.

Por ello, entender el funcionamiento de las nuevas tecnologías y estar informado sobre cómo afectan a decisiones estratégicas o de negocio, es también clave a la hora de aplicar la protección que dispensa la business judgement rule o regla de la discrecionalidad empresarial.

¿Quiere esto decir que necesariamente haya que incorporar a los consejos de administración expertos en estas nuevas tecnologías?

TE PUEDE INTERESAR

Europa ante el desafío tecnológico: el difícil equilibrio entre inversión, regulación y competencia

Tomás Muñoz M. Fotografía: F. Calderón Vídeo: A. Masa

De acuerdo con la información que publican las principales empresas de este país acerca de las matrices de competencias de sus órganos de administración, la experiencia y conocimientos en innovación, tecnologías de la información o ciberseguridad se abren paso entre los ámbitos que las compañías consideran que han de estar cubiertos en los consejos de administración para supervisar adecuadamente la ejecución del correspondiente plan estratégico.

En todo caso, dado que la realidad es que los consejos cuentan con perfiles más transversales, la formación e información que puedan obtener sobre tecnologías son esenciales para que el consejo pueda cumplir su cometido y cada administrador atender su deber de diligencia y acreditar su cumplimiento.

En esta nueva era es irrenunciable que los consejos de administración se ocupen del uso y desarrollo adecuados de la tecnología en las diferentes unidades o negocios de la compañía. Eso sí, deben acompañar en el proceso de una gobernanza robusta que permita a la sociedad enfrentarse al nuevo reto para cumplir la ley, que proteja a sus propios consejeros y, en definitiva, que preserve a la compañía de sí misma.

*Rodrigo González. Socio responsable de derecho digital de Deloitte Legal.

*José María Elías de Tejada. Socio responsable de gobierno corporativo de Deloitte Legal. Abogado del Estado (E.V.).