Telegram, los foros de internet y las redes sociales son canales intoxicados por discursos extremistas dirigidos, desinformación o ciberacoso dirigido a colectivos vulnerables. Se difunden no solo entre la comunidad, sino también a través de bots o algoritmos que alientan el odio en la red
El investigador del Departamento de Informática y Sistemas de la Universidad de Murcia (UMU) José Antonio García Díaz impartirá la penúltima conferencia del ciclo 'La UMU y la Cultura Científica' titulada Desenmascarando la toxicidad: El discurso de odio en internet. El próximo 28 de mayo a las 18:30 horas en la Sala Ámbito Cultural de El Corte Inglés se navegará a través de los perfiles que propagan de manera impune el machismo, la homofobia o el racismo alentados por la ira y la desinformación. En este cibermundo hostil, se descubrirá si la Inteligencia Artificial puede desenmascarar los prejuicios y estereotipos ofensivos que inundan las redes y si esta nueva tecnología puede, o no, promover un entorno digital más seguro y equitativ
Como consecuencia del ascenso de los delitos de odio las empresas tecnológicas han desarrollado campañas, sistemas de detección o filtrado de contenido, actuando como intermediarios entre un uso responsable y seguro por parte de los usuarios y el derecho a la libertad de expresión. El anonimato y la impunidad hace que los haters posteen, comenten y difundan el odio a la sombra de un @, y en esta octava charla García Díaz desencripta estos mensajes para valorar qué papel tiene la Inteligencia Artificial (IA) en el entorno digital.
Un modelo de aprendizaje… ¿machista?
Aunque la IA pueda ayudar a procesar de manera rápida y eficiente los discursos de odio en internet, la UNESCO ha publicado un informe en el que advierte que las grandes herramientas de Meta y OpenAI mostraron que los contenidos que generaban sobre "personas de culturas minoritarias a menudo eran más repetitivas y estaban basadas en estereotipos". Cada vez son más las personas que utilizan estas nuevas tecnologías y, discretamente, tienen el poder de moldear las percepciones de los usuarios.
Esta conferencia promete ofrecer una versión sin pixelar sobre discriminación y concienciar a los y las consumidoras de redes sociales del poder de las palabras. No son solo los 280 caracteres de un tuit o la difusión de una fake new por el grupo de WhatsApp.