Si estás en TikTok, probablemente te hayas topado con ellos: vídeos extraños, un tanto absurdos, con voces robóticas e imágenes claramente creadas por inteligencia artificial, publicados por decenas por cuentas que no hacen nada más. Porque la propia plataforma se ha hartado y acaba de anunciar que empezará a cazarlos.
Qué hará TikTok con la IA
Este viernes, TikTok anunció que reforzará los sistemas de detección para identificar cuentas dedicadas exclusivamente a publicar lo que denomina “spam generado por IA”. En las próximas semanas, la plataforma probará mejoras dirigidas principalmente a cuentas que publican automáticamente contenido sobre temas sensibles.
¿Y cuáles son estos temas? Precisamente los más peligrosos cuando la información es falsa o de baja calidad: política, actualidad, sanidad y asesoramiento financiero. Es decir, las áreas en las que un vídeo engañoso impulsado por IA puede causar un daño real, desde desinformación política hasta dinero malo o consejos de salud.
Después de todo, ¿qué es la “inclinación de la IA”?
El fenómeno tiene nombre y todo: se llama “AI slop”, algo así como “AI trash”. Describe contenidos producidos en masa por inteligencia artificial, de muy baja calidad y muchas veces sin pies ni cabeza, cuyo único objetivo es generar visualizaciones a un coste casi nulo.
La lógica de quienes hacen esto es simple y cínica. Con herramientas de inteligencia artificial generativa, una persona puede producir sin esfuerzo docenas de videos al día, incluirlos en el algoritmo y ver qué se “pega”. El problema es que esta avalancha de contenido automatizado roba visibilidad a los creadores reales. Aquellos que pasan horas haciendo vídeos auténticos quedan enterrados bajo una avalancha de basura.
Cómo identifica TikTok una cuenta «spam»
Según la plataforma, una cuenta se convierte en un objetivo cuando combina varios de estos signos: produce contenido de IA “de baja calidad y muy estandarizado”, se centra en temas de alto riesgo que pueden socavar la confianza del público y un detalle revelador compra o vende seguidores. Es el retrato robótico de la fábrica automática de contenidos configurada sólo para explorar el algoritmo.
TikTok no proporcionó detalles técnicos sobre cómo detectará estas cuentas, lo cual es normal, y reveló que el método sería entregar el mapa a quienes intenten evitarlo.
No es solo TikTok
Vale la pena señalar que este no es un caso aislado. TikTok también anunció una función de informes automáticos para contenido generado por IA. Sin embargo, no estás solo en esta lucha: otras redes, como Pinterest, ya están implementando medidas similares para filtrar la avalancha de contenidos artificiales.
Básicamente, asistimos al inicio de una batalla que marcará los próximos años: las redes sociales se construyeron para animar a quienes publican más y ahora se ven obligadas a distinguir entre lo que hacen las personas y lo que escupen las máquinas.
WhatsApp prepara nueva integración con Instagram y Facebook
Samsung puede haber creado la mejor forma de detener las llamadas spam que necesitamos en nuestro Galaxy
