Moderador de contenidos en aplicaciones de mensajería
Este trabajo tiene como finalidad implementar un sistema automatizado de moderación de contenido multimedia en plataformas de mensajería instantánea (Telegram en este caso), centrado en la detección y gestión de material sensible o NSFW (Not Safe For Work). Su objetivo es proteger a los usuarios, es...
| Author: | |
|---|---|
| Format: | Master's thesis |
| Publication date: | 2025 |
| Country: | España |
| Institution: | Universitat Oberta de Catalunya (UOC) |
| Repository: | O2, repositorio institucional de la UOC |
| OAI Identifier: | oai:openaccess.uoc.edu:10609/153072 |
| Online Access: | https://hdl.handle.net/10609/153072 |
| Access Level: | Open access |
| Keyword: | ciberseguridad NSFW moderador Telegram bot Computer security -- FMDP Seguretat informàtica -- TFM |
| _version_ | 1878735502210760704 |
|---|---|
| author | Tarí Gómez, Chrístopher |
| author_browse | Tarí Gómez, Chrístopher |
| author_facet | Tarí Gómez, Chrístopher |
| author_role | author |
| collection | O2, repositorio institucional de la UOC |
| description | Este trabajo tiene como finalidad implementar un sistema automatizado de moderación de contenido multimedia en plataformas de mensajería instantánea (Telegram en este caso), centrado en la detección y gestión de material sensible o NSFW (Not Safe For Work). Su objetivo es proteger a los usuarios, especialmente a grupos con presencia de menores, garantizando un espacio digital seguro y respetuoso. El contexto de aplicación se basa en la integración de un bot de Telegram que actúa como intermediario entre los usuarios y un servicio centralizado. Este servicio es una API REST especializada en analizar imágenes y animaciones (GIFs) haciendo uso de modelos de inteligencia artificial especializados en la detección de contenidos NSFW, permitiendo una moderación efectiva y configurable en tiempo real. La metodología de trabajo adoptada fue el modelo en cascada, que estructura el desarrollo en fases secuenciales: análisis, diseño, implementación, pruebas y despliegue. Esta aproximación permitió planificar y controlar el proyecto con claridad, garantizando la calidad en cada etapa y facilitando la identificación y corrección temprana de errores. Los resultados evidencian una detección efectiva y configurable, con capacidad para filtrar y anonimizar contenido inapropiado, manteniendo una baja tasa de falsos positivos. Además, la solución facilita la administración y mejora los resultados en la moderación de comunidades y grupos de Telegram. En conclusión, el trabajo demuestra la viabilidad de un sistema automatizado que contribuye a un entorno digital más seguro y ético, con potencial de ampliación para cubrir múltiples plataformas y tipos de contenido. |
| eu_rights_str_mv | openAccess |
| format | masterThesis |
| id | ES_7dfa3cdfec3a75d05f4a67a775c4236d |
| institution | Universitat Oberta de Catalunya (UOC) |
| instname_str | Universitat Oberta de Catalunya (UOC) |
| network_acronym_str | ES |
| network_name_str | España |
| oai_identifier_str | oai:openaccess.uoc.edu:10609/153072 |
| publishDate | 2025 |
| publishDateSort | 2025 |
| publisher | Universitat Oberta de Catalunya (UOC) |
| publisherStr | Universitat Oberta de Catalunya (UOC) |
| reponame_str | O2, repositorio institucional de la UOC |
| spelling | Moderador de contenidos en aplicaciones de mensajería Tarí Gómez, Chrístopher ciberseguridad NSFW moderador Telegram bot Computer security -- FMDP Seguretat informàtica -- TFM Este trabajo tiene como finalidad implementar un sistema automatizado de moderación de contenido multimedia en plataformas de mensajería instantánea (Telegram en este caso), centrado en la detección y gestión de material sensible o NSFW (Not Safe For Work). Su objetivo es proteger a los usuarios, especialmente a grupos con presencia de menores, garantizando un espacio digital seguro y respetuoso. El contexto de aplicación se basa en la integración de un bot de Telegram que actúa como intermediario entre los usuarios y un servicio centralizado. Este servicio es una API REST especializada en analizar imágenes y animaciones (GIFs) haciendo uso de modelos de inteligencia artificial especializados en la detección de contenidos NSFW, permitiendo una moderación efectiva y configurable en tiempo real. La metodología de trabajo adoptada fue el modelo en cascada, que estructura el desarrollo en fases secuenciales: análisis, diseño, implementación, pruebas y despliegue. Esta aproximación permitió planificar y controlar el proyecto con claridad, garantizando la calidad en cada etapa y facilitando la identificación y corrección temprana de errores. Los resultados evidencian una detección efectiva y configurable, con capacidad para filtrar y anonimizar contenido inapropiado, manteniendo una baja tasa de falsos positivos. Además, la solución facilita la administración y mejora los resultados en la moderación de comunidades y grupos de Telegram. En conclusión, el trabajo demuestra la viabilidad de un sistema automatizado que contribuye a un entorno digital más seguro y ético, con potencial de ampliación para cubrir múltiples plataformas y tipos de contenido. This project aims to implement an automated multimedia content moderation system for instant messaging platforms, focusing on the detection and management of sensitive or NSFW (Not Safe For Work) material. Its primary goal is to protect users, especially groups with minors, ensuring a safe and respectful digital environment. The application context involves the integration of a Telegram bot that acts as an intermediary between users and a centralized service. This service consists of a REST API specialized in analyzing images and animations (including GIFs) using artificial intelligence models trained for NSFW content detection, enabling effective and configurable real-time moderation. The development methodology followed the waterfall model, structuring the project into sequential phases: analysis, design, implementation, testing, and deployment. This approach allowed for clear planning and control, ensuring quality at each stage and facilitating early error detection and correction. The results demonstrate effective and customizable detection capabilities, with the ability to filter and anonymize inappropriate content while maintaining a low false positive rate. Additionally, the solution streamlines administration and improves moderation outcomes in Telegram communities and groups. In conclusion, this work validates the feasibility of an automated moderation system that contributes to a safer and more ethical digital space, with potential for extension to multiple platforms and content types. Universitat Oberta de Catalunya (UOC) https://hdl.handle.net/10609/153072 |
| spellingShingle | Moderador de contenidos en aplicaciones de mensajería Tarí Gómez, Chrístopher ciberseguridad NSFW moderador Telegram bot Computer security -- FMDP Seguretat informàtica -- TFM |
| title | Moderador de contenidos en aplicaciones de mensajería |
| title_full | Moderador de contenidos en aplicaciones de mensajería |
| title_fullStr | Moderador de contenidos en aplicaciones de mensajería |
| title_full_unstemmed | Moderador de contenidos en aplicaciones de mensajería |
| title_short | Moderador de contenidos en aplicaciones de mensajería |
| title_sort | Moderador de contenidos en aplicaciones de mensajería |
| topic | ciberseguridad NSFW moderador Telegram bot Computer security -- FMDP Seguretat informàtica -- TFM |
| topic_facet | ciberseguridad NSFW moderador Telegram bot Computer security -- FMDP Seguretat informàtica -- TFM |
| url | https://hdl.handle.net/10609/153072 |