Moderador de contenidos en aplicaciones de mensajería
Este trabajo tiene como finalidad implementar un sistema automatizado de moderación de contenido multimedia en plataformas de mensajería instantánea (Telegram en este caso), centrado en la detección y gestión de material sensible o NSFW (Not Safe For Work). Su objetivo es proteger a los usuarios, es...
| Autor: | |
|---|---|
| Tipo de documento: | Dissertação de mestrado |
| Data de publicação: | 2025 |
| País: | España |
| Recursos: | Universitat Oberta de Catalunya (UOC) |
| Repositório: | O2, repositorio institucional de la UOC |
| OAI Identifier: | oai:openaccess.uoc.edu:10609/153072 |
| Acesso em linha: | https://hdl.handle.net/10609/153072 |
| Nível de acesso: | Acesso aberto |
| Palavra-chave: | ciberseguridad NSFW moderador Telegram bot Computer security -- FMDP Seguretat informàtica -- TFM |
| Resumo: | Este trabajo tiene como finalidad implementar un sistema automatizado de moderación de contenido multimedia en plataformas de mensajería instantánea (Telegram en este caso), centrado en la detección y gestión de material sensible o NSFW (Not Safe For Work). Su objetivo es proteger a los usuarios, especialmente a grupos con presencia de menores, garantizando un espacio digital seguro y respetuoso. El contexto de aplicación se basa en la integración de un bot de Telegram que actúa como intermediario entre los usuarios y un servicio centralizado. Este servicio es una API REST especializada en analizar imágenes y animaciones (GIFs) haciendo uso de modelos de inteligencia artificial especializados en la detección de contenidos NSFW, permitiendo una moderación efectiva y configurable en tiempo real. La metodología de trabajo adoptada fue el modelo en cascada, que estructura el desarrollo en fases secuenciales: análisis, diseño, implementación, pruebas y despliegue. Esta aproximación permitió planificar y controlar el proyecto con claridad, garantizando la calidad en cada etapa y facilitando la identificación y corrección temprana de errores. Los resultados evidencian una detección efectiva y configurable, con capacidad para filtrar y anonimizar contenido inapropiado, manteniendo una baja tasa de falsos positivos. Además, la solución facilita la administración y mejora los resultados en la moderación de comunidades y grupos de Telegram. En conclusión, el trabajo demuestra la viabilidad de un sistema automatizado que contribuye a un entorno digital más seguro y ético, con potencial de ampliación para cubrir múltiples plataformas y tipos de contenido. |
|---|