- Una nueva herramienta de detección de deepfake ayuda a eliminar el contenido falso
- “Deepfake Score” ayuda a los usuarios a detectar clips de audio y vídeo generados por IA
- La herramienta es de uso gratuito para ayudar a mitigar el impacto del contenido falso.
Usos de la tecnología deepfake inteligencia artificial Para crear imágenes, vídeos y clips de audio realistas pero completamente inventados, donde los medios manipulados a menudo imitan a personas famosas o personas comunes y corrientes con fines fraudulentos, incluidas estafas financieras y desinformación política. robo de identidad.
Para combatir el aumento de estas estafas, la empresa de seguridad CloudSEK ha lanzado un nuevo servicio Tecnología de detección profunda de falsificacionesestá diseñado para contrarrestar la amenaza de los deepfake y brindar a los usuarios una forma de identificar contenido manipulado.
La herramienta de detección de CloudSEK tiene como objetivo ayudar a las organizaciones a identificar contenido deepfake y prevenir posibles daños a sus operaciones y credibilidad, evaluando la autenticidad de los cuadros de video y enfocándose en rasgos faciales e inconsistencias de movimiento que pueden indicar manipulación deepfake, como expresiones faciales con transiciones no naturales, y movimientos inusuales. Texturas en el fondo y en las caras.
El auge de los deepfakes pero hay una solución
También se utiliza el análisis acústico, ya que la herramienta detecta patrones de habla sintética que indican la presencia de sonidos artificiales. El sistema también transcribe audio y resume puntos clave, lo que permite a los usuarios evaluar rápidamente la credibilidad del contenido que están revisando. El resultado final es una “puntuación falsa” general, que indica la probabilidad de que el contenido se modifique artificialmente.
Esta puntuación ayuda a los usuarios a comprender el nivel de manipulación potencial y proporciona información sobre si el contenido fue generado por IA, mezclado con elementos falsos o potencialmente generado por humanos.
Una puntuación falsa del 70% o más es el resultado de la inteligencia artificial, del 40% al 70% es cuestionable y posiblemente una mezcla de artículos genuinos y falsos, mientras que el 40% o menos probablemente sea creado por el hombre.
En el sector financiero, los deepfakes se están utilizando para actividades fraudulentas como manipular los precios de las acciones o engañar a los clientes mediante operaciones KYC basadas en vídeos falsos.
El sector de la salud también se ha visto afectado, ya que los deepfakes se utilizan para crear registros médicos falsos o hacerse pasar por médicos, mientras que las entidades gubernamentales enfrentan amenazas de deepfakes vinculados a elecciones o pruebas falsas.
Del mismo modo, los sectores de los medios de comunicación y las tecnologías de la información corren el mismo riesgo, ya que los deepfakes se utilizan para crear noticias falsas o dañar la reputación de las marcas.
“Nuestra misión de predecir y prevenir las amenazas cibernéticas se extiende más allá de las empresas. Por eso decidimos lanzar la herramienta Deepfakes Analyzer para la comunidad”, dijo Bhuvin Babu, cofundador de CloudSEK.