Detén el odio, refuerza el debate: por qué debemos actuar ahora y cómo ayuda Fanpage Karma
La cultura del debate digital está cambiando, y no precisamente para mejor. Desde que Meta y X relajaron sus directrices de moderación, contenidos que antes estaban restringidos alcanzan de repente millones de personas, incluso si difunden odio en redes sociales o desinformación. Casi uno de cada dos jóvenes usuarios se ha enfrentado ya al discurso de odio en redes sociales (Fundación Amadeu Antonio). Los más afectados son las cuentas públicas: marcas, medios de comunicación, políticos.
Una carga para los community managers, las marcas y las agencias
Los community managers se encuentran en primera línea entre el alcance viral y las escaladas en las secciones de comentarios. Quien se hace visible atrae el odio: ataques selectivos, oleadas organizadas de trolls, lenguaje despectivo.
Esto supone un estrés emocional, temporal y estructural.
La carga es enorme. El contacto constante con comentarios de odio provoca agotamiento emocional, miedo a cometer errores y tensión constante. Hay que revisar los contenidos y, a menudo, tomar decisiones bajo presión. ¿Qué es una opinión y qué es incitación al odio? El discurso de odio en redes sociales no siempre es claro y quien reacciona tarde o no reacciona, pone en riesgo la reputación de su marca.
Al mismo tiempo, aumenta la presión externa, ya que las comunidades esperan hoy más que nunca. Las marcas deben asumir su responsabilidad mediante respuestas rápidas y una moderación clara. Sin embargo, la mayoría de los equipos carecen de recursos tales como soporte técnico, procesos definidos o directrices coherentes.
El resultado: los gestores de redes sociales hablan de sobrecarga, inseguridad y sensación de abandono.
Cuando el odio se apodera del debate y la sociedad se calla
Hace tiempo que el discurso de odio en redes sociales no afecta solo a empresas individuales o a los community managers. Se ha convertido en una amenaza real para nuestra sociedad democrática. El Digital News Report 2023 muestra que cada vez más personas se retiran de los debates en línea por miedo a las hostilidades y las tormentas de críticas. Esta autocensura digital afecta sobre todo a las voces que, en realidad, defienden la diversidad, la información y la participación democrática. La Agencia Federal Alemana para la Educación Cívica también advierte de que, a largo plazo, el discurso del odio puede socavar los pilares fundamentales de las sociedades democráticas.
El papel de las plataformas es preocupante. Son ellas las que deciden en gran medida qué contenidos son visibles. Sin embargo, en lugar de asumir su responsabilidad, algunos actores se retiran cada vez más de la moderación activa.
Plataformas en transformación: cómo Twitter/X y Meta cambian su política de moderación y qué significa esto
Desde que Elon Musk se hizo con el control de Twitter/X en octubre de 2022, la plataforma ha relajado o eliminado las directrices de moderación fundamentales, entre ellas medidas de protección contra la desinformación en las elecciones, el discurso del odio en redes sociales y medidas para proteger a las personas trans* (Kopps, 2024). El claro cambio de rumbo hacia la «máxima libertad de expresión» tiene graves consecuencias: según un estudio del Institute for Strategic Dialogue (ISD) y CASM Technology, el número de tuits antisemitas en Twitter/X aumentó un 106 % tras la adquisición, pasando de una media de 6204 a 12 762 por semana (ISD, 2023). El Reuters Digital News Report 2025 también demuestra que el algoritmo de Twitter/X promueve cada vez más las perspectivas de la derecha, distorsionando así el discurso público. En Alemania y el Reino Unido, Twitter/X se percibe ahora como una seria amenaza para la democracia, en parte debido a la influencia política de Musk (Digital News Report, 2025).
Meta (Facebook, Instagram, Threads) también sigue este camino. A principios de 2025, Mark Zuckerberg anunció la supresión del programa de verificación de datos establecido hasta entonces en Estados Unidos. En lugar de organismos de verificación independientes, en el futuro serán los propios usuarios, al igual que en Twitter/X, quienes marcarán la información falsa con las llamadas «notas de la comunidad». Al mismo tiempo, se han relajado las directrices de moderación sobre temas sensibles como la inmigración, el género o el racismo, y los contenidos políticos vuelven a tener más visibilidad en el feed (Meta, 2025).
Mientras que la UE apuesta por la regulación y las normas comunes, las grandes plataformas como Twitter/X y Meta se inclinan cada vez más hacia «más visibilidad, menos intervención». La responsabilidad de un discurso seguro y respetuoso recae así en los usuarios y las empresas. Por ello, son aún más importantes las soluciones concretas que actúan precisamente allí donde fallan las plataformas. Y se necesitan marcas que den ejemplo. No solo con palabras, sino con herramientas.
Nuestra postura en Fanpage Karma: asumir responsabilidad, mostrar actitud, proteger los espacios digitales
En Fanpage Karma estamos convencidos de que quien reúne a personas en espacios digitales debe participar activamente en su diseño y protección. Como herramienta de gestión de redes sociales, tenemos una responsabilidad especial hacia todos aquellos que crean, gestionan y moderan comunidades a diario. Porque la gestión de comunidades es mucho más que responder a «me gusta» y comentarios. Es un trabajo en el ámbito público digital.
Por eso nos posicionamos claramente en contra del odio en la red y a favor de los debates constructivos y la comunicación respetuosa. Queremos proporcionar a los equipos de redes sociales una herramienta real para combatir eficazmente el odio.
«La creciente visibilidad del discurso de odio en redes sociales no solo es una amenaza para nuestra cultura del debate y, por lo tanto, para la democracia, sino también una responsabilidad y una carga cada vez mayores para todos los community managers. En Fanpage Karma queremos contribuir activamente. Con nuestro Hate Speech Detector (detector del discurso de odio) queremos ofrecer a los equipos de redes sociales el apoyo técnico que se merecen y contribuir así a que el espacio digital sea más seguro y positivo» – Stephan Eyl, cofundador y director general de Fanpage Karma
Nuestra nueva función: el detector del discurso de odio
Con el Hate Speech Detector, introducimos una nueva función que alivia la carga de trabajo diario de los gestores de redes sociales, al tiempo que les ayuda a fomentar debates positivos.
¿Qué puede hacer el detector de discurso de odio?
Esta función basada en IA detecta automáticamente los contenidos problemáticos y actúa según tus especificaciones:
- Detección automática de discursos de odio en mensajes y comentarios
- Resumen: los contenidos problemáticos aparecen automáticamente en una carpeta propia
- Opciones de moderación: el contenido se puede ocultar, delegar o marcar de forma automática
- Se puede utilizar en todas las plataformas, integrado directamente en Fanpage Karma Engage
- Control total: los equipos pueden configurar individualmente el nivel de sensibilidad
Y lo mejor: la función está incluida en todas las versiones de suscripción de Fanpage Karma. No requiere ninguna activación adicional y se puede habilitar de inmediato.
Tus ventajas de un vistazo:
- Menos estrés con la moderación, más atención al diálogo real
- Actuación rápida ante el discurso del odio
- Señal clara al exterior: protegemos nuestra comunidad
- Responsabilidad digital activa
El detector de discurso del odio es más que una nueva función. Es una señal de responsabilidad digital. Para unas redes sociales que no solo rinden, sino que también protegen. Con la nueva herramienta, te ayudamos a recuperar el control sobre los comentarios, el tono de tu comunidad y la calidad de tu comunicación digital.
Ya seas una agencia, una empresa o un editor: ahora es el momento de pasar a la acción y defender unas redes sociales mejores.
Enlace a la página de inicio sobre el discurso de odio
