Lamentamos decepcionarte, pero si estás buscando una lista rápida de formas infalibles y fácilmente reconocibles de detectar videos generados por IA, no la encontrarás aquí. Se acabaron los días de la inteligencia artificial de Will Smith Comió espaguetis horriblemente. Ahora contamos con herramientas que pueden crear videos atractivos y realistas con solo unos pocos clics.
En este momento, los videos generados por IA son todavía un método relativamente incipiente en comparación con el texto, las imágenes y el audio generados por IA, porque obtener todos los detalles correctamente es un desafío que requiere una gran cantidad de datos de alta calidad. “Pero no existe ningún obstáculo fundamental para obtener datos de mayor calidad”, dijo Siwei Liu, profesor de informática e ingeniería de la Universidad de Buffalo en la Universidad Estatal de Nueva York.
Esto significa que puede esperar que los videos generados por IA mejoren muy pronto, eliminando los artefactos obvios (imperfecciones o imprecisiones), como las caras cambiantes y los objetos que cambian de forma que caracterizan las creaciones actuales de IA. La clave para identificar vídeos generados por IA (o cualquier método de IA) es la alfabetización en IA. “Entiende que [AI technologies] “La IA está creciendo, y tener esta idea básica de 'algo que veo puede ser creado por IA' es más importante que las señales individuales, por ejemplo”, dijo Liu, director del Laboratorio Forense de Medios de la UB.
Navegar por la web repleta de inteligencia artificial requiere utilizar su buen juicio en línea para reconocer cuándo algo podría estar roto. Es su mejor defensa contra ser estafado por deepfakes de IA, desinformación o simplemente spam de baja calidad. Es una habilidad difícil de desarrollar, porque todos los aspectos del mundo en línea luchan contra ella tratando de llamar tu atención. pero La buena noticia es que es posible afinar los instintos de detección de la IA.
“Al estudiar [AI-generated images]”Creemos que la gente puede mejorar su conocimiento de la IA”, dijo Nigar Kamali, científico investigador de inteligencia artificial de la Kellogg School of Management de la Universidad Northwestern, coautor del artículo. guía Seleccionar imágenes generadas por inteligencia artificial. “Incluso si no veo ningún artefacto [indicating AI-generation]”Mi cerebro piensa inmediatamente: 'Oh, algo anda mal'”, añadió Kamali, que ha estudiado miles de imágenes generadas por IA. “Incluso si no encuentro el artefacto, no puedo decir con seguridad que sea real, y eso es lo que queremos”.
Qué buscar: vídeos fraudulentos frente a vídeos de texto a imagen
Antes de que podamos identificar videos generados por IA, debemos distinguir entre los diferentes tipos. Los videos generados por IA generalmente se dividen en dos categorías diferentes: videos fraudulentos y videos generados por el modelo de publicación de texto a imagen.
Vídeos del anticristo
Se trata de vídeos editados por IA que consisten en intercambio de rostros (en los que el rostro completo de una persona se intercambia con el de otra persona (normalmente una celebridad o un político) y se le hace decir algo falso) y sincronización de labios (en los que se manipula y sutilmente la boca de una persona). reemplazado por una voz diferente..
Los vídeos de bromas suelen ser muy convincentes, porque la tecnología existe desde hace más tiempo y se basa en imágenes existentes en lugar de crear algo desde cero. ¿Recuerdas esos vídeos profundos de Tom Cruise de hace unos años que se volvieron virales por ser tan convincentes? Funcionaron porque el creador, Chris Omi, se parecía mucho a Tom Cruise, trabajó con un imitador profesional de Tom Cruise y realizó una edición muy cuidadosa, según un informe. entrevista Con Omi desde el borde. Hoy en día, hay una gran cantidad de aplicaciones que logran lo mismo y también pueden… Espantosamente – Incrustar audio de un clip de audio corto que el creador encuentre en línea.
Sin embargo, hay algunas cosas que debe buscar si sospecha de un video falso de IA. Primero, mira el formato del video. Los videos deepfake de IA generalmente se “filman” en un formato de cabeza parlante, donde solo se pueden ver las cabezas y los hombros de los oradores, con los brazos fuera de la vista (más sobre esto en un minuto).
Para reconocer las alteraciones faciales, busque imperfecciones o imperfecciones alrededor de los contornos del rostro. “Por lo general, se ven artefactos cuando la cabeza se mueve oblicuamente hacia la cámara”, dijo Hani Farid, experto en forense digital y profesor de informática en UC Berkeley. En cuanto a los brazos y las manos: “Si la mano se mueve, o algo cubre la cara, [the image] “Va a ser un poco complicado”, continuó Fred. Observe los brazos y el cuerpo para detectar movimientos naturales. “Si todo lo que ves es esto”, en nuestra llamada de Zoom, Fred mantiene los brazos rígidos y a los costados, “y la persona no se mueve en absoluto, es falso”.
Velocidad de la luz triturable
Si tienes dudas sobre la sincronización de labios, centra tu atención en la boca del sujeto, especialmente en los dientes. En el caso de las falsificaciones, “hemos visto personas con dientes de forma irregular” o el número de dientes cambia a lo largo del vídeo, dijo Liu. Liu dijo que otra señal extraña a la que hay que prestar atención es el “movimiento de la mitad inferior” de la cara. “Existe un procedimiento técnico en el que hay que coincidir exactamente con el rostro de esa persona”, dijo. “Mientras hablo, muevo mucho la cara y esa alineación, si hay un poco de inexactitud, los ojos humanos pueden notarlo”. Esto le da a la mitad inferior del rostro un efecto más fluido y gomoso.
Cuando se trata de deepfakes de IA, Aruna Sankaranarayanan, asistente de investigación en el Laboratorio de Ciencias de la Computación e Inteligencia Artificial del MIT, dice que su mayor interés no son los deepfakes de los políticos más famosos del mundo como Donald Trump o Joe Biden, sino figuras importantes que pueden no ser tan bien conocido. “La invención que proviene de ellos, que distorsiona algunos de los hechos, cuando no se sabe cómo se ven o suenan la mayor parte del tiempo, es algo realmente difícil de refutar”, dijo Sankaranarayanan, quien dijo. Enfoques de trabajo Sobre los deepfakes políticos. Una vez más, aquí es cuando entra en juego la alfabetización en IA; Vídeos como estos requieren un poco de investigación para verificarlos o refutarlos.
Convertir texto a vídeos de imagen
Luego están los recién llegados: modelos de publicación de texto a imagen que generan videos a partir de mensajes de texto o imágenes. OpenAI causó un gran revuelo cuando hizo esto Sora anunciósu propio generador de vídeo con IA. Aunque aún no está disponible, los videos de demostración han sido suficientes para sorprender a la gente con sus finos detalles, su vívido fotorrealismo y su seguimiento fluido, todo con simples indicaciones de texto.
Desde entonces, han aparecido muchas otras aplicaciones que pueden convertir tus memes favoritos en GIF y escenas de fantasía que parecen haber llevado a todo un equipo CGI con un presupuesto de Disney. creadores de hollywood Tienen razón al estar enojados por el auge de los modelos de texto a imagen, que… Probablemente estarán capacitados para su trabajo. Ahora amenaza con reemplazarlo.
Pero la tecnología aún no está ahí, porque incluso los videos de Sora probablemente requerirían una edición sofisticada y que consumiría mucho tiempo. Los vídeos de demostración de Sora consisten en una serie de ediciones rápidas, porque la tecnología aún no es lo suficientemente buena para crear vídeos más largos e impecables. Así que puedes estar especialmente atento a los clips cortos: “Si el vídeo dura 10 segundos, sé escéptico. Hay una razón por la que es corto”, dijo Fred. “Básicamente, la conversión de texto a vídeo no puede reproducir un solo clip de un minuto”, continuó, añadiendo que es probable que esto mejore en los próximos seis meses.
Farid también dijo que hay que buscar “inconsistencias temporales”, como “un edificio añadió una historia, o un coche cambió de color, cosas que no son físicamente posibles”. “Y a menudo el lugar donde sucede está lejos del centro de atención”. Entonces, concéntrate en los detalles de fondo. “Es posible que veas objetos que son anormalmente lisos o retorcidos, o que el tamaño de una persona cambia mientras camina por el edificio”, dice Liu.
Kamali dice que hay que buscar “inverosímiles sociales y culturales” o pistas contextuales donde la realidad de la situación no parece plausible. “No ves inmediatamente las anécdotas, pero sientes que algo anda mal, como la foto de Biden y Obama con trajes rosas”, o El Papa viste un plumífero de Balenciaga.
Independientemente de las pistas contextuales, la existencia de los artefactos probablemente disminuirá muy pronto. Wall Street está dispuesto a apostar Miles de millones de dólares ático. (Esto significa capitalismo de riesgo realmente no lo sabe Obtener valoraciones asequibles de nuevas empresas tecnológicas basadas en pruebas sólidas de rentabilidad).
Los fabricantes pueden cambiar, pero el buen juicio permanece.
Como Fred le dijo a Mashable: “Ven a hablar conmigo en seis meses y la historia habrá cambiado”. Por lo tanto, confiar en ciertas señales para verificar si un video está generado por IA podría causarle problemas.
La investigación de Lyu de 2018 sobre cómo detectar videos generados por IA porque las personas no parpadeaban correctamente se publicó ampliamente en la comunidad de IA. Como resultado, la gente empezó a buscar defectos en las pestañas, pero a medida que avanzó la tecnología, aumentó la cantidad de pestañas naturales. “La gente está empezando a pensar que si hay un buen parpadeo, no debe ser un gran engaño, y ese es el peligro”, dijo Liu. “En realidad queremos crear conciencia, pero no apegarnos a objetos específicos, porque estos artefactos serán modificados”.
Crear conciencia de ese algo puede Liu dijo que la creación de inteligencia artificial “desencadenará toda una serie de acciones”. “Verifique, ¿quién comparte esto? ¿Es esta persona confiable? ¿Hay otras fuentes vinculadas a la misma historia? ¿Se ha verificado por otros medios? Creo que estas son las contramedidas más efectivas contra los deepfakes”.
Para Farid, identificar vídeos generados por IA y deepfakes engañosos comienza con la fuente de su información. Llevar Imágenes generadas por inteligencia artificial que circuló en las redes sociales a raíz del huracán Helen y el huracán Milton. La mayoría de ellos eran obviamente falsos, pero tenían un impacto emocional en las personas. “Incluso cuando estas cosas no son muy buenas, eso no significa que no penetren, no significa que no tengan un impacto en la forma en que las personas absorben la información”, dijo.
Tenga cuidado al recibir noticias de las redes sociales. “Si una foto parece un clickbait, es un clickbait”, dijo Farid antes de agregar que todo se reduce a la alfabetización mediática. Piensa en quién publicó el vídeo y por qué lo creó. “No puedes simplemente mirar algo en Twitter y decir: 'Oh, esto debe ser cierto, déjame compartirlo'”.
Si tiene dudas sobre el contenido generado por IA, consulte otras fuentes para ver si también lo comparten y si todo parece igual. Como dice Liu, “los deepfake sólo parecen reales desde un ángulo”. Encuentra otros ángulos de la instancia en cuestión. Fred recomienda sitios como Snopes y Politifact, que exponen información errónea y desinformación. A medida que todos continuamos navegando por el panorama de la IA que cambia rápidamente, será esencial esforzarse y confiar en su instinto.
