Una regulación europea para la inteligencia artificial

La Unión Europea pretende ser un espacio en el que exista un necesario equilibrio entre la salvaguarda de los derechos de la ciudadanía y el fortalecimiento del desarrollo tecnológico

Foto: Imagen de Gerd Altmann en Pixabay.
Imagen de Gerd Altmann en Pixabay.

En un diálogo de la película de 1982 'Blade Runner', entre Rachael, una replicante que trabaja para una empresa que fabrica replicantes —robots humanoides dotados de inteligencia—, y Deckard, un cazarrecompensas que se gana la vida eliminando a los replicantes fuera de control, ella le inquiere:

Parece como si no creyeras que tu trabajo es bueno para la gente.

A lo que él le contesta:

—Los replicantes son como cualquier otra máquina, pueden ser un beneficio o un riesgo. Si son un beneficio, entonces no son de mi incumbencia.

La implantación masiva de la inteligencia artificial en todas las máquinas con las que interactuamos en el orden público, laboral y social va a suponer —supone— un salto tecnológico solo comparable con lo que implicó en su tiempo la Revolución Industrial. La vida nunca va a ser igual, se producirán cambios muy sustanciales en el mercado de trabajo, en la relación con los poderes públicos, en las relaciones personales y hasta en nuestra propia vida doméstica —pensemos en lo que supone el internet de las cosas en todos los aparatos de nuestros hogares—. Un salto tecnológico de tal calibre nos enfrenta a esa disyuntiva que planteaba el 'blade runner' en su respuesta: cualquier tecnología plantea beneficios y riesgos. Y cuando hablamos de inteligencia artificial, hablamos de beneficios y/o riesgos en una escala no antes conocida, teniendo en cuenta su potencia intrínseca.

Cuando las administraciones públicas nos acercamos a este fenómeno, por contra, no podemos quedarnos con el cinismo profesional de Deckard. Por ello, se han impulsado en los últimos años infinidad de debates, estudios y opiniones acerca de este fenómeno. La propia Comisión Europea publicó hace pocos meses un 'Libro Blanco sobre inteligencia artificial', junto con una estrategia digital. En el Parlamento Europeo, se han venido desarrollando también iniciativas en este ámbito, y el Comité de Asuntos Jurídicos encargó la primera iniciativa legislativa europea sobre 'Aspectos éticos sobre inteligencia artificial, robótica e industrias análogas', que acabamos de hacer pública.

Es un objetivo principal de esta norma que el diseño, desarrollo, control y supervisión de este marco regulatorio sean participados por toda la ciudadanía y especialmente por aquellas personas y colectivos más implicados o afectados. El texto prevé un mandato a todos los organismos supervisores nacionales —que esta misma norma indica de creación obligatoria— para que cuenten necesaria y periódicamente con el concurso de la sociedad civil. De la misma forma, se establecen obligaciones exigentes en materia de transparencia y rendición de cuentas para los diseñadores, operadores y usuarios de inteligencia artificial. También se recogen obligaciones de comportamiento cívico para los usuarios y la necesaria protección que los mismos tienen en cuanto utilicen estas tecnologías de acuerdo a la buena fe.

Es tan importante impulsar la potencialidad que estas tecnologías tienen para el bienestar y la competitividad de Europa como controlar los riesgos inherentes —o prever las consecuencias de la sustanciación efectiva de alguno de esos riesgos—. Por ello, queremos ser pioneros en el establecimiento legal de un umbral ético que por un lado proteja a la ciudadanía europea de las posibles adversidades que conlleve esta evolución tecnológica y, por otro, provea de un valor añadido de confianza a la inteligencia artificial europea en el mundo. Un umbral ético consecuente con nuestros principios y valores europeos, reflejados en la Carta de Derechos Fundamentales de la Unión Europea y congruentes también con nuestro proyecto civilizatorio. Una normativa inspirada por una aproximación humanística y humanocéntrica en el desarrollo tecnológico. Una regulación que no solo se aplique a la inteligencia artificial desarrollada en Europa, sino que suponga un exigente imperativo normativo para todo aquel que pretenda operar en la Unión.

Es imperativo que el marco de derechos y deberes sea compartido por todos los países miembros de la Unión Europea. Una sucesión de regulaciones nacionales sin una referencia común podría significar la ruptura del mercado único y lastrar nuestro esfuerzo colectivo para alcanzar el liderazgo tecnológico en el mundo. Estimo que la creación de una agencia europea encargada de supervisar el desarrollo de esta regulación acabará por armonizar el marco jurídico y técnico que se desarrolle en cada uno de los países miembros.

Frente a quien defiende abandonar la ordenación de este sector a la autorregulación, sostengo la necesidad de una implicación pública que salvaguarde objetivos más allá de la rentabilidad económica. Evitar la discriminación (cualquiera que sea su raíz) en la fórmula de toma de decisiones, aprovechar la potencia de cambio de estas tecnologías para avanzar en una sociedad más justa —con especial incidencia en la reducción de la brecha de género— y más sostenible medioambientalmente, son otros de los objetivos a salvaguardar por las instituciones públicas de Europa. Es objetivo también de esta norma combinar un elevado marco de exigencia junto con la sencillez normativa, huyendo de alambicados sistemas regulatorios y/o pesadas cargas burocráticas para los agentes implicados. También se persigue un marco suficientemente flexible para poder acoger los avances en una realidad extremadamente cambiante, al tiempo que se permita el desarrollo sectorial de normas que ahormen realidades más concretas.

El texto pone un especial énfasis en las prevenciones cuando hablamos de tecnologías que se definen 'de alto riesgo', esto es, cuando exista una alta probabilidad de generación de externalidades negativas y/o cuando estén implicadas materias sensibles que merecen una especial protección —que son las que se definen en esta misma norma—. Se regula una cuestión tan delicada para los derechos individuales como las técnicas de reconocimiento remoto, estableciendo muchas salvaguardas para su uso; también se regula un marco material y temporal muy estricto, para que se puedan utilizar por los poderes públicos excepcionalmente en caso de grandes emergencias —pensemos en los retos que enfrentamos hoy con la crisis del covid-19—.

Estamos todavía muy lejos de que un algoritmo pueda hacer realidad el nacimiento de la psicohistoria, de la que nos hablaba Isaac Asimov en 'Fundación'. Por lo tanto, el mismo concepto de libre albedrío, consustancial a la condición humana, no parece correr peligro por el momento. Ni siquiera cuando de lo que se trata es de anticiparse al surgimiento de las grandes corrientes de la historia. Los poderes democráticos nos vamos a asegurar de que las grandes y pequeñas decisiones que se toman con la asistencia de tecnologías de inteligencia artificial no serán como consecuencia de oscuras e inaccesibles fórmulas matemáticas. La comprensibilidad, la transparencia, la rendición de cuentas y la responsabilidad serán características indispensables en la inteligencia artificial que se desarrolle y que opere en la Unión Europea.

La comprensibilidad, transparencia, rendición de cuentas y la responsabilidad serán características indispensables en la inteligencia artificial

En definitiva, la Unión Europea pretende ser un espacio en el que exista un necesario equilibrio entre la salvaguarda de los derechos de la ciudadanía y el fortalecimiento del desarrollo tecnológico. Nuestra regulación y el desarrollo que de esta haga el/los organismo/s supervisor/es debe ser un ejemplo para el resto del mundo y una primera piedra para asegurar una adecuada gobernanza de este fenómeno a escala mundial.

*Iban García del Blanco. Eurodiputado socialista y ponente del informe del Parlamento Europeo sobre 'Aspectos éticos de la inteligencia artificial, robótica e industrias análogas'.

Tribuna
Escribe un comentario... Respondiendo al comentario #1
3 comentarios
Por FechaMejor Valorados
Mostrar más comentarios