Noticias de Bariloche
Inicio » Tecno » Cómo detectar los deepfakes en las videollamadas

Cómo detectar los deepfakes en las videollamadas

Deepfake. (foto: Metaphysic)

El mes pasado salió a la luz una noticia en la que las estafas de entrevistas de trabajo remotas implicaba hacerse pasar por otra persona usando deepfakes. Y, aunque el propósito de estas acciones no tiene nada que ver con conseguir el trabajo, presenta un nuevo problema de seguridad.

Lo cierto es que, en mayor o menor medida, las videollamadas parecen existir aquí, no solo a nivel profesional sino personal. Por lo tanto, todos están expuestos a ser engañados. La pregunta es: ¿se pueden detectar fácilmente los deepfakes? La Compañía Metafísica ideó una técnica curiosa.

Una prometedora y sencilla táctica para detectar deepfakes

Un estudio reciente asegura que “captamos” menos de la mitad de los deepfakes que pasan ante nuestros ojos, aunque claro, no siempre tenemos la misma probabilidad de detectarlos.

Si se visualiza un vídeo compartido en redes sociales, salvo que los usuarios dispongan de herramientas especializadas, no les queda más remedio que estar atentos para intentar determinar si se trata de un engaño o no.

Sin embargo, si una persona se encuentra en una videollamada, las posibilidades de detectar un deepfake profunda aumentan. Se le puede pedir a la otra persona que realice una serie de gestos que falsean el funcionamiento del software que genera el deepfake en tiempo real, y así se podrá detectarla intentando hacerse pasar por otra persona.

El equipo de Metaphysic le pidió al actor Bob Doyle que participara en una serie de videollamadas usando DeepFaceLive, una versión falsa en tiempo real del popular software DeepFaceLab. Como se puede ver en la captura de pantalla, el sistema hizo un gran trabajo con la mayoría de los personajes.

Deepfake. (foto: Metaphysic)
Deepfake. (foto: Metaphysic)

Doyle se convierte en Sylvester Stallone, Ryan Reynolds, Nicolas Cage, Keanu Reeves, Tom Cruise, Vin Diesel y otros. Sin embargo, en medio del espectáculo, se le pidió que girara lentamente la cabeza hacia un lado. ¿Resultado? La calidad del deepfake se pierde cuando el ángulo alcanza los 90 grados.

Como explica el equipo, la mayoría de los sistemas deepfake no funcionan bien en situaciones de esquinas agudas.

De hecho, casi todos los puntos de referencia utilizados por el algoritmo de reconocimiento facial se asignan a la parte frontal de la cara. Entonces, cuando alguien muestra su rostro en un perfil falso, comienza a confundirse.

Deepfake. (foto: Metaphysic)
Deepfake. (foto: Metaphysic)

Una de las otras técnicas que Metaphysic ofrece para identificar deepfakes es pedirle a la persona con la que se está haciendo una videollamada que mueva su mano frente al rostro. Esto crearía una “situación grave para el modelo que podría mostrar un retraso y una mala calidad de superposición en la cara real”.

A medida que la tecnología avanza y los algoritmos se entrenan más, los deepfakes se vuelven más precisos y realistas. Por ahora, sin embargo, se le puede pedir a alguien que gire la cabeza 90 grados o que salude a la cámara para ver si está mintiendo.

Esta Inteligencia Artificial detecta deepfakes en TikTok

Un equipo de investigadores de Singapur ha desarrollado un sistema de inteligencia artificial capaz de determinar en un 98,53% si el vídeo analizado ha sido manipulado digitalmente.

Este sistema ha sido desarrollado por Wang Weimin, científico licenciado por la Universidad Nacional de Singapur y que actualmente trabaja en ByteDance, la empresa matriz de TikTok, que ha participado en un concurso con cientos de aspirantes organizado por la AISG, un programa nacional de IA lanzado por la Fundación Nacional de Investigación de Singapur.

El concurso ha tenido 5 meses de duración y Wang, quien tras ganar recibiendo un premio de USD$ 300.000 para comercializar su idea, ha asegurado que prefiere implementar su tecnología en su propia compañía para combatir la manipulación en las redes sociales.

Deepfake de Tom Cruise. (foto: Aweita)
Deepfake de Tom Cruise. (foto: Aweita)

Concretamente, Wang quiere incorporar esta tecnología capaz de detectar las imágenes manipuladas en BytePlus para que los usuarios puedan hacer uso de ella. Esta última plataforma mencionada es una subsidiaria de ByteDance, especializada en el desarrollo y la investigación en torno a la inteligencia artificial.

“Buena o mala, la deepfake es una tecnología emergente que sencillamente no se puede ignorar”, comentó Wang tras ganar el concurso. Según recoge la CNA, la televisión de Singapur, Wan decidió participar debido a que tiene un gran interés en resolver los grandes retos a los que se enfrentan los medios de comunicación.

SEGUIR LEYENDO

Qué es el deepfake y cómo podría ayudar a doblar las películas o series sin alterar la interpretación original de los actores

El tráiler que usa tecnología Deepfake para hacer a los espectadores parte de las películas

Cómo identificar si un video en TikTok es deepfake

Categorías

Hora actual en
San Carlos de Bariloche, Argentina