LegalToday

Por y para profesionales del Derecho

Portal jurídico de Aranzadi, por y para profesionales del Derecho

04/10/2024. 20:18:51
04/10/2024. 20:18:51

LegalToday

Por y para profesionales del Derecho

¿Puede la inteligencia artificial resolver el problema de las ‘fake news’?

Fernando Biurrun Abad

Abogado.
Fundador de Law&Trends
Consultor de Social Media @fbiurrun

La proliferación de noticias falsas y la rapidez con la que se difunden, está creando un problema en todo el mundo sobre la credibilidad o no de lo que leemos y nos informamos. La facilidad de su difusión a través de redes sociales y herramientas de mensajería las convierten en auténticas bombas de relojería para influenciar de una u otra forma en la sociedad.

Hace unos días, el Gobierno español aprobaba un procedimiento de actuación contra las fake news, mediante el cual monitorizará la información y podrá solicitar colaboración a los medios de comunicación para perseguir la «difusión deliberada, a gran escala y sistemática de desinformación, que persiguen influir en la sociedad con fines interesados y espurios». Diversos organismos de la Administración participarán en la monitorización. Esta acción del Gobierno no ha estado ajena de críticas. Así, ha sido calificada como un nuevo modelo de censura, al ser el propio Gobierno y no una entidad independiente la que certifique la veracidad o no de las noticias.

Está claro que las fake news son un verdadero problema no solo en España, sino en todo el mundo, sobre todo cuando se percibe la influencia de determinados países en promover y distribuir noticias que pueden desestabilizar la imagen y la economía de otros Estados.

Ante esta problemática, surgen iniciativas como la de la Universidad de Zúrich, en la que sus investigadores están tratando de averiguar si mediante el uso de inteligencia artificial se puede resolver este problema mediante el «aprendizaje profundo» para identificar sesgos en la cobertura de noticias de todo el espectro ideológico.

Según informa Tad Simons, periodista de tecnología / Instituto Thomson Reuters, el proyecto está financiado por la Academia de Ciencias de Heidelberg y dirigido por el Dr. Karsten Donnay, profesor asistente de Comportamiento político y medios digitales en la Universidad de Zurich.

Este investigador destacó, en un encuentro organizado por Thomson Reuters, que “el encuadre de las noticias es importante”. «Importa cómo se cubren las noticias», dijo, y agregó que es especialmente importante que las personas puedan identificar «información sesgada, falsa y, a menudo, sensacionalista difundida bajo la apariencia de informes de noticias».

Veamos, por ejemplo, las siguientes dos oraciones que describen el mismo evento:

Los inspectores de armas de la ONU dijeron que habían retirado dos aviones de reconocimiento U-2 sobre Irak por razones de seguridad.

Los aviones de combate iraquíes amenazaron a dos aviones de vigilancia U-2 estadounidenses, obligándolos a abortar su misión y regresar.

En la primera oración, las palabras “retirada, reconocimiento y seguridad” son relativamente neutrales. En la segunda oración, sin embargo, las palabras “amenaza, vigilancia y forzar” tienen un tono más amenazador. Ambos pueden ser técnicamente correctos, pero las palabras transmiten diferentes significados sub-textuales, por lo que su encuadre es diferente.

Según Donnay, el objetivo final del proyecto es crear un sitio web de agregación de noticias que utilice una herramienta de inteligencia artificial para identificar sesgos y engaños en las noticias diarias, y luego clasifique y presente historias de una manera ideológicamente neutral que los lectores puedan entender fácilmente.

Pero el proyecto se encuentra todavía en sus primeras fases y no está exento de retos y dificultades. En primer lugar, la herramienta de inteligencia artificial debe aprender a reconocer el sesgo, lo que significa que debe ser capaz de analizar los matices en el lenguaje y el contexto que, incluso, los lectores humanos tienen problemas para distinguir.

La dificultad de identificar sesgos

Programar una computadora para identificar los prejuicios humanos al escribir significa esencialmente enseñarle a leer. El equipo de Donnay está intentando enseñar a su IA a reconocer los prejuicios imitando los procesos subconscientes que los seres humanos utilizan para evaluar la veracidad de la información que absorben. Desafortunadamente, los seres humanos tampoco son muy buenos para identificar sesgos; y toda la idea de determinar el grado de «verdad» en cualquier noticia puede conducir a varios agujeros filosóficos que impidan a la ciencia abordar correctamente.

Entre los primeros desafíos a los que se enfrentan Donnay y su equipo se encuentra la tarea de crear un conjunto de datos suficientemente grande de ejemplos lingüísticos para que una herramienta de inteligencia artificial lo utilice como marco de análisis.

En un proyecto piloto, el equipo se centró primero en el análisis de sentimientos para ilustrar y, así, sopesar el grado en que las ideas de una noticia se enmarcan como «positivas» o «negativas». El siguiente gran desafío fue expandir la lógica del análisis sentimental para construir una base de datos anotada lo suficientemente grande como para aplicar técnicas de modelado neuronal que imitan cómo el cerebro humano deduce significados e intenciones de palabras más complejas.

El proceso pasa por procesos excesivamente complejos, según comentó el investigador, que les permitirá desarrollar un prototipo de sitio web en algún momento del próximo año. Aunque aún les queda muchos por hacer: para empezar, los conjuntos de datos requeridos para un modelado neuronal preciso deben ampliarse significativamente; es necesario codificar una amplia muestra de noticias en todos los dominios y fuentes; y la calidad de la codificación, que se realiza por humanos, debe mantener un alto nivel.

El sitio web pretende ser un referente mundial, más si son capaces de incorporar otros idiomas, además del inglés, en el proyecto. Un reto para tener en cuenta en los próximos meses.

Si quieres disponer de toda la información y la opinión jurídica para estar al día, no pierdas de vista a Actualidad Jurídica Aranzadi

Valora este contenido.

Puntuación:

Sé el primero en puntuar este contenido.

RECOMENDAMOS