Ofertas en tecnología

Experto advierte de riesgos en uso de deep fakes por niños

Altavoz inteligente Echo Dot

La tecnología deep fake es aquella que vive en el umbral entre la diversión y los problemas. Por cada video de Tom Cruise riéndose o de Margot Robbie realizando bailes de TikTok, por ejemplo, está la inserción de la cara de una celebridad en un video pornográfico o frases polémicas que salen de la boca de quien nunca las dijo. Para los niños, el peligro es mayor, especialmente a medida que las aplicaciones que permiten tales manipulaciones se vuelven populares.

La alerta es ESET, una empresa de seguridad de la información y detección de amenazas, que tiene una iniciativa enfocada en proteger a los niños en internet que también involucra deep fakes, llamada Digipais. Citan, por ejemplo, el uso de la herramienta en acciones de bullying o como forma de difundir información errónea, elementos que pueden causar perjuicios a quienes aún se encuentran en fase de formación.

@unreal_margot ¡Buenos días, mis dulces! #margotrobbie #charliesangels #outfit #fyp ♬ sigue a liz sanchez si eres sexy – LIZ SANCHEZ

Un ejemplo es la inserción de la cara de alguien en videos jocosos, explícitos o de abuso. “Las versiones más simples de estas manipulaciones se pueden realizar fácilmente usando aplicaciones como FaceApp o FaceSwap”, explica Camilo Gutiérrez, director del laboratorio de investigación de ESET. Aunque los creadores lo consideran una fuente inocente de entretenimiento, explica, la vergüenza puede generar situaciones desagradables o estropear la relación con el entorno escolar, por ejemplo.

En otros casos, se puede utilizar el mismo tipo de táctica para introducir un concepto falso o sesgado. Como decía, es un arma de doble filo, ya que la tecnología que le sirve también permite que los niños se diviertan metiendo su propio rostro en la piel de su superhéroe favorito, por ejemplo, o en iniciativas educativas como la del Museo Dalí. , en EE.UU., que creó una versión virtual del artista, vía deep fake, para interactuar con los visitantes.

El secreto, como en la mayoría de los tratos con niños y adolescentes, está en el diálogo. La recomendación de ESET a los padres es que hablen y vean juntos este tipo de contenido manipulado, analizando el tema e intentando identificar qué escenas son reales y falsas. Explicar cómo se usa la tecnología y cómo se puede usar para bien o para mal también ayuda, al igual que hablar sobre el consentimiento y la responsabilidad.

La lucha contra la desinformación pasa también por la atención a lo que se comparte, así como la búsqueda de medidas preventivas en internet. Las herramientas en línea, por ejemplo, ayudan a identificar un deep fake con tecnología artificial, mientras que elementos como fallas de iluminación y movimientos faciales, que generan extrañeza, también funcionan como alertas de que el contenido es falso.

Mientras tanto, para las empresas, ESET recomienda tomar medidas para frenar el mal uso de la tecnología. En Europa, por ejemplo, se estudian reglas para combatir la desinformación que pueden responsabilizar a las empresas por no contener la propagación de deep fakes negativos, mientras que empresas como Google ya prohibieron el uso de esta tecnología en una plataforma enfocada a la investigación con inteligencia artificial y alto flujo de datos para su procesamiento.

Tommy Banks
Estaremos encantados de escuchar lo que piensas

Deje una respuesta

TecnoBreak | Ofertas y Reviews
Logo
Enable registration in settings - general
Shopping cart