Los carretes de Instagram estaban llenos de contenido violento

Los carretes de Instagram generalmente muestran cosas divertidas que no tienen ningún propósito que entretenernos. Encontramos bailes, memes, videos de animales y más. Sin embargo, a veces todo cambia y es exactamente lo que está sucediendo ahora. Es solo que los carretes de Instagram que han llegado a muchas personas están repentinamente llenos de contenido violento, gráfico y sangriento. Pero, ¿qué está pasando después de todo?

Los carretes de Instagram se han movido a contenido violento

Los usuarios de Instagram han inundado las redes sociales con quejas sobre el hecho de que los carretes están repentinamente llenos de contenido gráfico. Algunos usuarios afirman que, si bien el «control de contenido sensible» de Instagram se activa en su más alta definición, continuaron encontrando este tipo de contenido violento.

El sistema de moderación de objetivos no pudo detectar estos videos, lo que les permite aparecer en carretes. Según la política de objetivos, este tipo de contenido incluye «videos con vísceras desmembradas y visibles o cuerpos carbonizados», así como «comentarios sádicos sobre imágenes que retratan el sufrimiento de humanos y animales».

Es por eso que, ocasionalmente, puede ver carretes con una advertencia de contenido sensible. Instagram bloquea automáticamente su reproducción. Los usuarios pueden elegir si quieren ver. Entonces, ¿por qué el objetivo permite a los usuarios ver estos videos? La compañía cree que algún contenido gráfico puede ayudar a aumentar la conciencia de ciertos sujetos.

Sin embargo, el objetivo se disculpó y resolvió el problema. “Corregimos un error que hizo que algunos usuarios vieran contenido en su feed de carretes de Instagram que no deberían haberse recomendado. Pedimos disculpas por el error.

Responsabilidad de Instagram a los usuarios

El objetivo puede haber corregido el problema de los carretes, pero este incidente destaca un problema mucho mayor. Las plataformas de redes sociales continúan teniendo dificultades para controlar el contenido que aparece en los feeds de los usuarios. Instagram no está solo en esta situación. Otras plataformas de redes sociales, como Tiktok, Twitter/X, Facebook e incluso YouTube, han enfrentado reacciones negativas en el pasado debido al contenido inadecuado, violento o engañoso que ha pasado por sus sistemas de moderación.

En el pasado, las empresas confiaban en gran medida en moderadores humanos para atrapar y eliminar este contenido antes de llegar a las masas. Sin embargo, esto no es eficiente, sin mencionar la ética subyacente al hecho de que somete a alguien más para ver este tipo de videos. Aquí es donde entra el uso de IA. Pero todos sabemos que la IA no es perfecta, todavía. Entonces, ¿qué pueden hacer estas empresas? Quizás es hora de que estas compañías dejen de actuar como si supieran lo que queremos.