Ensenada, Baja California, 21 de junio de 2024 — En un esfuerzo pionero para mejorar la seguridad en las redes sociales, el Departamento de Ciencias de la Computación del CICESE ha dado un paso significativo hacia la detección automatizada de violencia y sexismo en plataformas digitales. Este avance se ha logrado mediante la combinación de técnicas de inteligencia artificial (IA), específicamente el aprendizaje automático y el procesamiento del lenguaje natural.

El Dr. Irvin Hussein López Nava, investigador adscrito al CICESE, destacó que actualmente no existen herramientas capaces de detectar en tiempo real los contenidos violentos en redes sociales, lo que permite que estas publicaciones nocivas permanezcan visibles durante horas antes de ser eliminadas. Frente a esta problemática, Esteban Ponce León y Martha Paola Jiménez Martínez, ambos estudiantes de maestría en Ciencias de la Computación, han desarrollado algoritmos avanzados para abordar estos desafíos.

El Éxito en Competencias Internacionales

Esteban Ponce León participó en la competencia DA-VINCIS, organizada como parte del evento IberLEF, donde su trabajo se centró en el diseño de algoritmos capaces de detectar y clasificar eventos violentos en redes sociales. Su tesis, titulada «Detección de eventos violentos en publicaciones de redes sociales», le valió el segundo lugar en la tarea de detección de eventos y el primer lugar en la tarea de clasificación de tipos de violencia.

El Dr. López Nava explicó que uno de los mayores desafíos en la detección mediante técnicas de IA es la interpretación del contexto en el uso del lenguaje, evitando así errores como confundir una expresión coloquial con un evento violento real. Para superar este obstáculo, se utilizan modelos de aprendizaje profundo que analizan grandes volúmenes de datos para entender mejor el contexto de las palabras.

Combatir el Sexismo con Tecnología

Por su parte, Martha Paola Jiménez Martínez ha dirigido su investigación hacia la detección automática de sexismo en redes sociales, un proyecto codirigido por el Dr. López Nava y el Dr. Manuel Montes del Instituto Nacional de Astrofísica Óptica y Electrónica (INAOE). Participando en la competencia internacional EXIST, Martha y su equipo obtuvieron el primer lugar en la categoría de memes, demostrando la eficacia de sus algoritmos para identificar y clasificar sexismo en textos e imágenes.

El Dr. López Nava subrayó la complejidad de este desafío debido a las subjetividades relacionadas con el sexismo, que varían según la edad y el género de los usuarios. Sin embargo, con un volumen significativo de ejemplos y un análisis contextual adecuado, es posible entrenar a las máquinas para que realicen detecciones más precisas.

Un Futuro Prometedor

A pesar de los avances, el Dr. López Nava reconoce que aún queda camino por recorrer para alcanzar una detección completamente automatizada. Sin embargo, competencias como DA-VINCIS y EXIST están impulsando el desarrollo de estas tecnologías, gracias al interés y la dedicación de grupos de investigación y estudiantes comprometidos.

«Se están dando pasos importantes. Lo relevante es que hay mucho interés de grupos de investigación en seguir trabajando en el área, incluso de estudiantes que se meten a este tipo de proyectos, y mientras exista este interés se irá avanzando poco a poco», concluyó el Dr. López Nava.

Estos esfuerzos reflejan un compromiso firme con la creación de un entorno digital más seguro y libre de violencia y sexismo, abriendo nuevas oportunidades para la aplicación de la inteligencia artificial en la protección de los usuarios de redes sociales.

Paso 2: Incluye este código en el lugar donde quieras que aparezca el plugin en tu página.

¡Descubre el descanso perfecto con Super Colchones Ensenada! No importa dónde vivas, nuestro camión de Súper Colchones llegará hasta la puerta de tu casa con las mejores marcas: Sealy, Spring Air, Therapedic y América. Disfruta de noches de sueño reparador con colchones diseñados para brindarte el máximo confort y soporte. Estamos ubicados frente a Smart & Final, listos para ofrecerte calidad y comodidad inigualables. Aprovecha nuestras promociones exclusivas y encuentra el colchón ideal para ti. Podemos entregarlo el mismo día o programar la entrega según tu conveniencia. ¡Llama ahora al 646 173 5704 y transforma tu manera de dormir! En Súper Colchones Ensenada, tu descanso es nuestra prioridad. 🌙🛏️🚚✨ #SúperColchones #Ensenada #DescansoPerfecto #Sealy #SpringAir #Therapedic #América #EntregaRápida #Comodidad #Calidad #PromocionesExclusivas #ColchonesDeCalidad #TuDescanso #Bienestar #SmartAndFinal #EntregaMismaDía #DormirBien #Confort #Salud #SueñoReparador #LlamaAhora

Publicada por Ensenada 1 en Martes, 18 de junio de 2024
WhatsApp Chat