Cómo garantizar la integridad de la información ante el avance de la IA

La Inteligencia Artificial (IA) está llamada a transformar radicalmente el mundo del periodismo. ¿Cómo garantizar la integridad de la información cuando la mayoría de los contenidos de Internet estén generados por IA? ¿Cómo salvaguardar la independencia editorial si en las redacciones se utilizan modelos de lenguaje opacos, regidos por intereses privados o lógicas arbitrarias? ¿Cómo evitar la fragmentación del espacio informativo en una multitud de flujos alimentados por bots conversacionales?

Aventurarse a anticipar todas las consecuencias que tendrá la IA en los medios de comunicación es arriesgado, pero una cosa es cierta: la innovación no conduce al progreso per se. Debe acompañarse de una reglamentación adecuada y de salvaguardias éticas si realmente quiere beneficiar a la humanidad.

La historia de la tecnología, desde la prohibición de la clonación humana hasta los tratados de no proliferación nuclear o el control sanitario de los medicamentos, ofrece numerosos ejemplos en los que el desarrollo tecnológico se ha interrumpido, reorientado o controlado en nombre de la ética. Del mismo modo, la innovación en el periodismo debe obedecer a normas éticas claras, un requisito esencial para proteger el derecho a la información, que sustenta nuestras libertades fundamentales de opinión y expresión.

Reporteros Sin Fronteras (RSF) auspició la creación de una comisión internacional para guiar a los medios de comunicación en la era de la IA

En el verano de 2023, Reporteros Sin Fronteras (RSF) auspició la creación de una comisión internacional para elaborar lo que se convertiría en la primera referencia ética mundial para guiar a los medios de comunicación en la era de la IA. Congregó a 32 personalidades de 20 países diferentes, todas ellas especialistas en periodismo o en IA y fue presidida por Maria Ressa, Premio Nobel de la Paz 2021, cuya figura encarna todos los desafíos de la libertad de prensa, y, al tiempo, el compromiso frente a las grandes transformaciones tecnológicas (desde la tribuna en Oslo, denunció la "bomba atómica virtual" de lo digital).

Transformar la industria

El objetivo era claro: establecer un conjunto de principios éticos fundamentales para proteger la integridad de la información en la era de la IA, cuando estas tecnologías están empezando a transformar la industria de los medios. Cinco meses de reuniones, 700 comentarios, una consulta internacional: los trabajos de la comisión evidenciaron convergencias de puntos de vista y trazaron líneas de fractura.

No es fácil reunir perspectivas tan diferentes como las de las ONG que defienden el periodismo, las de organizaciones de medios de prensa y televisión, los consorcios de periodismo de investigación, una importante federación de periodistas o un relevante centro de investigación. Quienes se sentaron en torno a esta mesa digital lograron conformar una alianza sin precedentes.

En respuesta a las sacudidas causadas por la IA en el espacio de la información, la Carta hecha pública en París en noviembre de 2023 establece diez principios esenciales para garantizar la integridad de la información y proteger la función social del periodismo. Es esencial que la comunidad internacional coopere para garantizar que los sistemas de IA preserven los derechos humanos y la democracia, pero esto no exime al periodismo de responsabilidades éticas y profesionales específicas en el uso de estas tecnologías.

De los principios centrales de la Carta, mencionaremos aquí sólo cuatro.

En primer lugar, la ética debe guiar las decisiones tecnológicas en los medios de comunicación. El ritmo de adopción de una de las tecnologías más transformadoras de la historia no debe estar dictado por la presión de la competencia económica. Las encuestas indican que una gran mayoría de ciudadanos preferiría que la IA se desplegara más lentamente y con mayor seguridad. Tengámoslo en cuenta.

Además, el juicio humano debe seguir siendo el eje central de las decisiones editoriales. Los sistemas de IA generativa son algo más que herramientas: adoptan una forma de agentividad, de capacidad de hacer, e interfieren en nuestras intenciones. Aunque no tenga voluntad propia, la IA está llena de certezas, reflejos estadísticos de sus datos e instrucciones de aprendizaje. Sin embargo, cada vez que se automatiza una decisión, se pierde la oportunidad de ejercer el juicio humano. Aspiramos a un periodismo aumentado, no a un juicio humano disminuido.

En tercer lugar, los medios de comunicación deben ayudar a la sociedad a discernir con confianza entre contenidos auténticos y sintéticos. La IA generativa, más que ninguna otra tecnología en el pasado, es capaz de crear el artificio de la evidencia y la ilusión de los hechos. Los medios tienen una responsabilidad especial en ayudar a la sociedad a discernir con confianza los hechos de la ficción. Pero, la confianza no se puede decretar: se construye. La verificación de la fuente, la autentificación de las pruebas, la trazabilidad de los contenidos y la responsabilidad editorial son cruciales en la era de la IA.

Compañías tecnológicas

Para no añadir más a la confusión general, los medios deberán ocuparse de mantener una distinción clara entre el material auténtico (el captado en el mundo real) y el material sintético (el generado o alterado significativamente por IA).

Por último, a la hora de negociar con las compañías tecnológicas, los medios y los titulares de los derechos de propiedad intelectual deberán priorizar el interés público y la misión social del periodismo. Los chatbots podrían convertirse pronto en una de las principales vías de acceso a la información. Es crucial exigir a sus propietarios una remuneración justa para los creadores y propietarios de contenidos, así como garantías sólidas en cuanto a la calidad, el pluralismo y la fiabilidad de la información. Este principio es tanto más importante cuanto que ya se están firmando las primeras alianzas entre la prensa y los proveedores de IA, y los medios están emprendiendo acciones legales contra empresas tecnológicas.

Los medios de comunicación se hallan en una encrucijada. Utilizada con ética y discernimiento, la IA ofrece oportunidades sin precedentes

Los medios de comunicación se hallan en una encrucijada. Utilizada con ética y discernimiento, la IA ofrece oportunidades sin precedentes para enriquecer nuestra comprensión de un mundo complejo. En un momento en el que los deepfakes pueden intensificar la desinformación y erosionar la confianza del público en todos los contenidos audiovisuales, y en el que los modelos de lenguaje prometen aumentar la productividad en detrimento de la integridad de la información, esta Carta promulga un enfoque en el que el discernimiento humano y la ética periodística se erigen en pilares de la función de “tercero de confianza” que desempeña el periodismo.

En un mundo poseído por el ruido, sólo hay dos formas de captar la atención: sustraerla o ganársela. Las redes sociales, con la ayuda de sus algoritmos de recomendación, se han decantado por la primera opción, con las consabidas consecuencias en términos de desinformación y polarización de la opinión. En un terreno de juego en el que todo vale, el periodismo de calidad no tiene ninguna posibilidad de ganar si no es renunciando a lo que lo define: la búsqueda de la verdad factual, el matiz y la imparcialidad. Por ello, los medios de comunicación deben ganarse nuestra atención centrándose en la confianza, la autenticidad y la experiencia humana.

Animamos a todos los medios y profesionales de la información a adoptar los principios de la Carta de París sobre IA y periodismo.

Firmantes: Charlie Beckett, profesor de la London School of Economics (LSE) y Director del LSE Journalism and AI Project.

Christophe Deloire, Secretario General de Reporteros Sin Fronteras (RSF) y Presidente del Foro sobre Información y Democracia.

Gary Marcus, fundador y CEO del Center for the Advancement of Trustworthy AI y profesor Emérito de la Universidad de Nueva York.

Maria Ressa, Premio Nobel de la Paz 2021, periodista y cofundadora del medio digital Rappler, presidenta de la Comisión de la Carta de París sobre IA y Periodismo.

Stuart Russell, catedrático de Informática de la Universidad de California (Berkeley) y fundador del Center for Human-compatible AI (CHAI).

Anya Schiffrin, directora de la especialización en Tecnología, Medios y Comunicaciones de la Escuela de Asuntos Internacionales y Públicos de la Universidad de Columbia.