Las fotos y vídeos generados por IA sobre el huracán Milton pueden no ser sólo un cebo molesto. También pueden estar vinculados a estafas y campañas de desinformación.
A raíz del huracán de categoría 3 que devastó partes de Florida, las plataformas de redes sociales como X, TikTok y Facebook se vieron inundadas de contenido generado por IA. Algunas imágenes y videos generados por IA son más fáciles de detectar que otros, como las imágenes reproducidas para reír. imagen De una niña abrazando a un cocodrilo en un barco bajo la lluvia torrencial.
Otros son más convincentes, como las imágenes generadas por IA de un Disney World sumergido que inicialmente engañó a muchos, incluso ganando abonado A través de uno de los medios de propaganda rusos.
El resultado puede ser simplemente la difusión de información errónea, lo cual ya es bastante malo, pero la basura en línea generada por IA también se está utilizando para atraer a las personas a estafas.
La pérdida de IA del huracán Milton está en todas partes
A estas alturas, muchos han visto las fotos falsas de los paseos submarinos de Disney World. Pero desliza el dedo en TikTok el aparece Imágenes generadas por IA del huracán Milton causando estragos.
Algunos videos están etiquetados como videos generados por IA con hashtags o subtítulos, pero es fácil imaginar cómo alguien más podría compartirlos y explotarlos. Karen Panetta, miembro del Instituto de Ingenieros Eléctricos y Electrónicos (IEEE) y profesora de ingeniería eléctrica e informática en la Universidad de Tufts, describe cómo el contenido generado por IA puede utilizarse como arma para generar pánico y confusión. “Menos del 30% del público adulto en general entiende lo que la IA puede hacer”, dijo Panetta. “Así que puedes difundir información errónea al público en general con un título aterrador y asustarás a mucha gente”.
Velocidad de la luz triturable
Para ser claros, el daño real causado por el huracán Milton es devastadoramente real. Pero cuando el contenido generado por IA entra en juego, los usuarios cuestionan la realidad. Esto, a su vez, puede crear desconfianza y un terreno fértil para ello. Teorías de la conspiración de huracanes. Por ejemplo, una X usuario Afirmó que las imágenes tomadas por el astronauta de la NASA Matthew Dominick eran falsas e incluso sugirió que Dominick no había estado en el espacio. Las imágenes han existido desde entonces. Verificado Auténtico.
Pero para aumentar la confusión, algunas imágenes satelitales que afirman ser del huracán Milton han sido desacreditadas. snopes Están mal escritos o son generados por inteligencia artificial.
Cuidado con las estafas que utilizan imágenes generadas por inteligencia artificial
Aparte de la desinformación y la desinformación tras el huracán Milton, los expertos dicen que hay que tener cuidado con las estafas. Comisión Federal de Comercio Emitido Un comunicado de prensa el día antes de que Milton tocara tierra advierte a los consumidores que estén atentos a “aquellos que buscan sacar provecho de los desastres naturales participando en posibles fraudes o aumentos de precios”.
Según Panetta, las estafas como las de organizaciones benéficas falsas pueden volverse más convincentes utilizando la IA generativa. “En cualquier desastre, siempre sucede algo en alguna parte [scammers] “Intenten crear páginas web de recaudación de fondos ilícitas”, dijo Panetta. “Lo que está sucediendo ahora es que debido a que las imágenes generadas por IA son tan accesibles, se están utilizando para agregar credibilidad y decir: 'Mira, no soy sólo yo quien pide dinero'. Mira qué terrible es esto”.
La foto viral generada por IA de una niña sosteniendo un cachorro y llorando después del huracán Helen es un ejemplo perfecto de cómo una imagen puede tocar las fibras del corazón y despertar el deseo de donar, incluso si es falsa. Si bien los usuarios de Internet más expertos pueden darse cuenta de que es falso, Otros tal vez no lo sepan Estas personas son blancos fáciles para las estafas.
Algunas imágenes del huracán Milton generadas por IA pueden parecer ejemplos inofensivos para algunos niños ansiosos por mostrar sus habilidades de IA. Pero este no es siempre el caso. Una falsa sensación de inocencia puede ser parte de una forma de hacer que la gente baje la guardia. “Es toda una estrategia”, dijo Panetta. “¿Cómo puedo atraer a la gente a esto? Una vez que estoy convencido de que soy legítimo, surge una pregunta”.
“Al final siempre hay dinero”, añadió.
Si bien los desastres naturales como el huracán Milton pueden dejar a las personas excepcionalmente vulnerables, es fundamental aplicar el pensamiento crítico y pensar dos veces antes de responder a cualquier cosa en línea. La FTC dice que las estafas a menudo insisten en el pago mediante transferencia bancaria, tarjeta de regalo, aplicación de pago, criptomoneda o efectivo, y recomienda investigarlo. recursos Sobre cómo evitar estafas después de una emergencia climática.
