Flor Plaza del Arco, informática: “La calidad de los datos es fundamental para detectar los sesgos de la IA”

Flor Plaza del Arco: la investigadora que lucha contra el discurso de odio en las redes sociales

Investigación estadística en el mundo de la inteligencia artificial

Flor Plaza del Arco, una joven investigadora de 29 años de Villacarillo, Jaén, se dedica a analizar las emociones presentes en los textos de las redes sociales en busca de delitos de odio. Su trabajo se centra en detectar comentarios discriminatorios basados en características como el género, la raza, la procedencia o la discapacidad. Además, busca métodos para identificar y mitigar los sesgos y estereotipos presentes en modelos de lenguaje como ChatGPT. Por su labor, ha sido galardonada con el Premio por la Sociedad Científica Informática de España (SCIE) y la Fundación BBVA.

La importancia de la detección del discurso de odio en las redes sociales

En una entrevista, Plaza del Arco revela que los delitos de odio más frecuentes en las redes sociales suelen estar relacionados con el sexismo y la migración, así como con la misoginia. Destaca la necesidad de desarrollar modelos y recursos para detectar estos delitos, evitando los sesgos y estereotipos que puedan surgir en el proceso.

La lucha contra los sesgos en los modelos de IA

La investigadora explica que es fundamental evaluar la calidad de los datos con los que se entrenan los modelos de inteligencia artificial para evitar la propagación de sesgos y estereotipos. Además, destaca la importancia de la colaboración interdisciplinaria para desarrollar modelos más inclusivos, éticos y responsables.

El papel de la inteligencia artificial en la detección de delitos de odio

Plaza del Arco enfatiza la necesidad de recursos en español para la detección del discurso de odio, adaptados a la expresión propia de este idioma. Asimismo, destaca la importancia de entrenar a los modelos en español para mejorar su capacidad de comprensión y generación de lenguaje humano.

Promoviendo un entorno seguro en las redes sociales

La investigadora subraya la importancia de la investigación para combatir el discurso de odio y la desinformación en las redes sociales. Destaca el papel de la inteligencia artificial en la detección de contenido ofensivo y en la identificación de perfiles falsos o bots.

Educación y concienciación en el uso de las redes sociales

Plaza del Arco aboga por una educación temprana sobre los riesgos de las redes sociales, incluyendo el ciberacoso y los delitos de odio. Destaca la importancia de saber cómo actuar frente a situaciones de ataque en línea y de promover un uso ético y responsable de la tecnología.

La IA como aliada en la lucha contra el discurso de odio

En caso de ser víctima de un delito de odio en redes sociales, la inteligencia artificial puede ayudar a detectar y combatir los mensajes ofensivos. Plaza del Arco menciona un proyecto en el que se genera una contranarrativa para hacer reflexionar a quienes propagan el odio en línea.

Sigue a EL PAÍS Tecnología en Facebook y Twitter para estar al tanto de las últimas novedades en tecnología e inteligencia artificial.