Inteligencia artificial: ¿Problema o solución para los contenidos ilícitos y nocivos en línea?

La inteligencia artificial (IA) generativa está revolucionando la manera en que nos comunicamos, creamos y trabajamos en muchos ámbitos de nuestra vida. Esta tecnología está basada en sistemas de IA, como ChatGPT, diseñados específicamente para generar, con distintos grados de autonomía, contenido como textos complejos, imágenes, audio y vídeo.

El avance de la IA generativa también plantea un debate público relevante. Esto, teniendo en cuenta que su uso promete aportar beneficios colosales tanto para empresas como para personas, puede ofrecer opiniones, aportar ideas, responder a preguntas de investigación, explicar conceptos y crear contenidos. También puede aplicarse IA generativa como parte de otro servicio como las redes sociales y los motores de búsqueda.

Al mismo tiempo, hay que considerar que, a nivel ético y legal, los posibles riesgos asociados con cualquier tecnología emergente son tan importantes como sus beneficios potenciales.

Por ejemplo, la IA generativa podría ser utilizada para crear desinformación y contenido falso convincente y difundirla a gran escala y de manera instantánea. Si se combina con la omnipresencia y rapidez del internet, podría tener efectos potencialmente catastróficos. La calidad del contenido falso y engañoso que puede generarse con ayuda de esta tecnología podría dar lugar a una percepción errónea de la realidad. Esto puede suponer un peligro considerable para la confianza que la sociedad deposita en los medios de comunicación, proporcionando a los actores malintencionados una herramienta poderosa para manipular e influir sobre el debate público y potencialmente poner en riesgo la democracia y el Estado de derecho.

La IA generativa también facilita a estos actores malintencionados la creación y difusión de contenido nocivo. Puede generar contenidos deep fakes, imágenes y videos manipulados digitalmente para sustituir la imagen de una persona por la de otra de manera convincente, como las recientes imágenes explícitas falsas de Taylor Swift circuladas en la plataforma X.

TE PUEDE INTERESAR

Taylor Swift, “furiosa” por las imágenes pornográficas de IA que se han viralizado en X

R. Badillo

Asimismo, como se comentó en un artículo anterior, los modelos de IA generativa se entrenan con datos obtenidos del mundo real, lo que significa que tienen el potencial de amplificar los prejuicios o sesgos que existen en la sociedad.

Cuando los usuarios comparten contenido ilícito en línea, los prestadores de servicios tienen la responsabilidad de prevenir su difusión a través de sistemas de notificación y retirada. Esto significa que un proveedor de servicios de alojamiento (hosting) solo será responsable del contenido ilícito si, una vez que tiene conocimiento efectivo de la ilegalidad, no actúa con rapidez para retirarlo o restringir su acceso. Asimismo, las plataformas en línea también tienen la obligación de justificar de forma clara y detallada sus decisiones de moderación de contenidos de conformidad con la nueva ley europea de servicios digitales.

Opinión

TE PUEDE INTERESAR

Los retos de armonizar la inteligencia artificial con los derechos fundamentales

Ceyhun Necati Pehlivan

El debate sobre la manera en que las plataformas digitales deben ser obligadas a combatir contenidos que no solo sean ilegales, sino también nocivos, como el discurso de odio y las noticias falsas, desempeña un papel fundamental en la estrategia digital de la Unión Europea. La IA generativa puede ser parte de la solución para abordar los daños en línea cuando se integra adecuadamente en los procesos de moderación de contenido para facilitar la detección y eliminación automática y eficiente de contenido ilícito o nocivo a gran escala.

De hecho, las plataformas en línea están recurriendo cada vez más a sistemas de IA para moderar enormes cantidades de contenido generado por terceros. Los filtros automáticos y algoritmos de revisión pueden identificar materiales inapropiados de manera muy eficaz. La IA generativa puede escanear la plataforma en busca de contenido ilícito o nocivo para eliminarlo rápidamente. También puede brindar a los usuarios una explicación rápida y automática sobre por qué se eliminó o restringió el acceso a sus contenidos.

"Parece que, en relación con el contenido generado por los usuarios, la IA generativa es parte tanto del problema como de la solución".

La confianza de los usuarios es un pilar esencial del entorno en línea. Por lo tanto, la moderación de contenidos desempeña un papel importante para crear un ambiente online seguro y confiable. A su vez, la IA generativa puede ser clave en la moderación de contenidos en línea, abarcando desde redes sociales hasta marketplaces, tiendas de aplicaciones, plataformas de videojuegos, servicios de alojamiento en la nube y aplicaciones de citas.

De cara al futuro, será fundamental garantizar que el impacto positivo de la IA generativa en las soluciones de moderación de contenido supere su propio “lado oscuro”. Parece que, en relación con el contenido generado por los usuarios, la IA generativa es parte tanto del problema como de la solución.

* Ceyhun Necati Pehlivan, abogado y counsel en Linklaters.