Primero, la mala noticia: las imágenes generadas por IA son realmente difíciles de detectar. Las señales que alguna vez fueron señales de advertencia (manos desfiguradas y texto disperso) se están volviendo cada vez más raras a medida que los modelos de IA mejoran a un ritmo vertiginoso.
Ya no está claro qué imágenes se crean utilizando herramientas populares como Midjourney, Stable Diffusion, DALL-E y Gemini. De hecho, las imágenes generadas por IA están empezando a engañar más a la gente, lo que genera grandes problemas en… Difundir información engañosaLa buena noticia es que normalmente no es imposible identificar imágenes generadas por IA, pero requiere más esfuerzo que en el pasado.
Fotodetectores de IA: tenga cuidado
Estas herramientas utilizan visión por computadora para examinar patrones de píxeles y determinar la probabilidad de que una imagen haya sido creada por inteligencia artificial. Esto significa que los detectores de IA no son completamente infalibles, pero es una buena manera para que la persona promedio determine si una imagen merece un escrutinio, especialmente cuando no es inmediatamente obvia.
“Desafortunadamente, para el ojo humano -y allá Somos estudios “Existe una probabilidad de entre cincuenta y cincuenta por ciento de que una persona desarrolle esta enfermedad”, dijo Anatoly Kvitnitsky, director ejecutivo de la plataforma de detección de imágenes por IA. Inteligencia artificial o no“Pero para la detección de imágenes por IA, dados los patrones similares a píxeles, esos patrones todavía existen, incluso cuando los modelos continúan mejorando”. Kvitnitsky afirma que AI or Not alcanza una tasa de precisión del 98 por ciento en promedio.
Otros detectores de IA con tasas de éxito generalmente altas incluyen: Gestión celular, detector SDXL En la cara del abrazo, y IlustraciónProbamos diez imágenes generadas por IA en todos estos detectores para ver cómo funcionaban.
Inteligencia artificial o no
AI or Not ofrece una opción de “sí” o “no” a diferencia de otros fotodetectores de IA, pero indica correctamente que la foto fue creada por IA. Con el plan gratuito, obtienes 10 cargas por mes. Probamos 10 imágenes y obtuvimos una tasa de éxito del 80 por ciento.
Esta imagen no ha sido identificada correctamente como generada por inteligencia artificial.
Crédito: Captura de pantalla: Mashable/AI o no
Gestión celular
Probamos la herramienta de demostración gratuita Hive Moderation con más de 10 imágenes diferentes y obtuvimos una tasa de éxito general del 90 por ciento, lo que significa que existe una alta probabilidad de que las imágenes hayan sido generadas por IA. Sin embargo, la herramienta no pudo detectar las cualidades de IA de una imagen sintética de un ejército de ardillas trepando por una pared de roca.
Nos gustaría creer que el ejército de ardillas es real, pero el detector de IA se equivocó.
Crédito: Captura de pantalla: Moderación de Mashable/Hive
detector SDXL
SDXL Detector on Hugging Face tarda unos segundos en cargarse y es posible que inicialmente recibas un error en el primer intento, pero es completamente gratuito. En su lugar, también ofrece una relación de probabilidad. Afirmó que el 70 por ciento de las imágenes generadas por IA tienen una alta probabilidad de ser IA generativa.
El detector SDXL logró identificar correctamente una imagen compleja creada por Grok-2 de Barack Obama en un baño público
Copyright: Captura de pantalla: Detector Mashable/SDXL
Ilustración
Illuminarty ofrece un plan gratuito que proporciona detección de imágenes básica mediante IA. De las 10 imágenes generadas por IA que subimos, solo el 50 por ciento fueron calificadas como de muy baja probabilidad. Para horror de los biólogos de roedores, dio el infame resultado. Imagen del pene de un ratón. Poca posibilidad de ser generado por inteligencia artificial.
Mmmm, parece un tiro fácil.
Copyright: Captura de pantalla: Mashable/Illuminarty
Como puede ver, los detectores de IA son bastante buenos, pero no son infalibles y no deben usarse como único medio de validación de imágenes. A veces es capaz de detectar imágenes falsas generadas por IA incluso si parecen reales y, a veces, detecta erróneamente imágenes que claramente están generadas por IA. Esta es exactamente la razón por la que es mejor una combinación de métodos.
Otros consejos y trucos
Encuentra imágenes antiguas al revés
Otra forma de descubrir imágenes generadas por IA es una simple búsqueda inversa de imágenes, recomendada por Bamshad Mubasher, profesor de informática y director del Centro de Inteligencia Web de la Escuela de Computación y Medios Digitales de la Universidad DePaul en Chicago. Al cargar una imagen en Google Imágenes o en una herramienta de búsqueda inversa de imágenes, puede rastrear la fuente de la imagen. Si la imagen muestra un evento noticioso aparentemente real, “es posible que puedas determinar si ese evento fue falso o no sucedió realmente”, dijo Mubasher.
Velocidad de la luz medible
Herramienta Acerca de esta imagen de Google
La Búsqueda de Google también tiene una función “Acerca de esta imagen” que proporciona información contextual, como cuándo se indexó la imagen por primera vez y dónde apareció en línea. Esta información se puede encontrar haciendo clic en el icono de tres puntos en la esquina superior derecha de la imagen.
Señales claras que el ojo desnudo puede detectar
Hablando de eso, si bien las imágenes generadas por IA se han vuelto terriblemente buenas, todavía vale la pena buscar las señales. Como se mencionó anteriormente, es posible que a veces veas una foto con manos deformes, cabello que parece demasiado perfecto o texto dentro de la foto que está distorsionado o no tiene sentido. separación Recomienda buscar en el fondo objetos borrosos o distorsionados, u objetos con una piel impecable, y nos referimos a sin poros, impecable.
A primera vista, la foto de Midjourney a continuación parece una foto de una Kardashian promocionando un libro de cocina que fácilmente podría haber sido arrancado de Instagram. Pero tras una inspección más cercana, se puede ver el azucarero retorcido, las articulaciones deformes y la piel extremadamente suave.
A primera vista, no todo es lo que parece en esta foto.
Copyright: Mashable/Midjourney
“La IA puede ser buena para generar la escena general, pero el diablo está en los detalles”, escribió Sasha Lucioni, directora de IA y clima de Hugging Face, en un correo electrónico a Mashable. Busque “inconsistencias en su mayoría pequeñas: dedos adicionales, joyas o rasgos faciales asimétricos, o inconsistencias en los objetos (un asa adicional en una tetera)”.
Mubashir, miembro del Instituto de Ingenieros Eléctricos y Electrónicos (IEEE), dijo que se debe acercar la imagen y buscar “detalles extraños” como píxeles perdidos y otras inconsistencias, como aretes que no coinciden.
“Es posible que una parte de la misma imagen con el mismo enfoque esté borrosa pero otra parte esté muy detallada”, dijo Mubasher. Esto es especialmente cierto en el caso de los fotomurales. “Si tienes carteles con texto y cosas así de fondo, muchas veces están distorsionados o a veces ni siquiera se parecen al lenguaje real”, añadió.
Esta imagen de camionetas Volkswagen en la playa fue creada por Imagen 3 de Google. La arena y los autobuses parecen completamente realistas. Pero si miras de cerca, notarás que las letras en el tercer autobús donde debería estar el logotipo de Volkswagen son solo un símbolo distorsionado, y hay puntos borrosos en el cuarto autobús.
Estamos seguros de que en algún momento se produjo un desfile de autobuses Volkswagen, pero no es eso.
Copyright: Mashable/Google
Observe el logotipo distorsionado y los puntos extraños.
Copyright: Mashable/Google
Todo se reduce al conocimiento de la inteligencia artificial.
Ninguno de los métodos anteriores será útil en absoluto si, mientras consumes medios (especialmente las redes sociales), no te detienes primero para preguntarte si lo que estás viendo fue creado por inteligencia artificial en primer lugar. Así como la alfabetización mediática se convirtió en un concepto popular tras las elecciones de 2016 plagadas de desinformación, la alfabetización mediática de IA es la primera línea de defensa para determinar qué es real o no.
Los investigadores de inteligencia artificial Dorie Long y Brian Magerko define La alfabetización en IA es “un conjunto de competencias que permiten a las personas evaluar críticamente las tecnologías de IA; comunicarse y colaborar eficazmente con la IA y utilizarla como herramienta en línea, en el hogar y en el lugar de trabajo”.
Saber cómo funciona la IA generativa y qué buscar es fundamental. “Puede parecer cursi, pero tomarse el tiempo para comprobar la fuente del contenido que ves en las redes sociales es un buen comienzo”, dijo Lucioni.
Empiece por preguntarse de dónde procede la imagen en cuestión y el contexto en el que aparece. ¿Quién publicó la foto? ¿Qué dice el texto adjunto (si lo hay) al respecto? ¿Fueron publicados por otras personas u otros medios? ¿Cómo te hace sentir la imagen o el texto que la acompaña? Si parece que está diseñado para enojarte o tentarte, considera por qué.
Cómo algunas organizaciones luchan contra el problema de los deepfakes y la desinformación utilizando inteligencia artificial
Como hemos visto, los métodos mediante los cuales los individuos pueden distinguir entre imágenes generadas por IA e imágenes reales son heterogéneos y limitados. Para empeorar las cosas, la difusión de imágenes ilícitas o dañinas generadas por IA es un doble golpe porque las publicaciones promueven mentiras, lo que a su vez genera desconfianza en los medios en línea. Pero a raíz de la IA generativa, han surgido varias iniciativas para mejorar la confianza y la transparencia.
el Alianza para la procedencia y autenticidad del contenido Fundada por Adobe y Microsoft, C2PA incluye empresas de tecnología como OpenAI y Google, así como empresas de medios como Reuters y la BBC. C2PA proporciona contenido en el que se puede hacer clic Credenciales de contenido Determinar de dónde proceden las imágenes y si son generadas por inteligencia artificial. Sin embargo, depende de los creadores adjuntar las credenciales del contenido a la imagen.
Por otro lado, Laboratorio Estornino En la Universidad de Stanford, trabaja arduamente para verificar la autenticidad de imágenes reales. Starling Lab verifica “registros digitales confidenciales, como documentación de violaciones de derechos humanos, crímenes de guerra y testimonios de genocidio” y almacena de forma segura imágenes digitales verificadas en redes descentralizadas para que no puedan ser manipuladas. El trabajo del laboratorio no está orientado al usuario, pero su biblioteca de proyectos es un buen recurso para cualquiera que busque verificar imágenes de, por ejemplo, la guerra en Ucrania o la transición de la presidencia de Donald Trump a Joe Biden.
Los expertos suelen hablar de imágenes de IA en el contexto de engaños y desinformación, pero las imágenes de IA no son tan siempre Las imágenes de IA no pretenden engañar en sí mismas. Las imágenes de inteligencia artificial a veces son sólo bromas o imágenes satíricas sacadas de su contexto original, o quizás sean anuncios vagos. O tal vez sea simplemente una forma de expresión creativa utilizando una nueva e interesante tecnología. Pero para bien o para mal, las imágenes de IA son ahora una realidad. Depende de usted descubrirlo.
Estamos parafraseando al oso Smokey, pero él lo entenderá.
Copyright: Mashable/xAI
