muerto El miércoles, dijo que había encontrado contenido “potencialmente generado por IA” utilizado de manera engañosa en su sitio. Facebook Y Instagram Las plataformas, incluidos los comentarios que elogian el manejo de Israel de la guerra en Gaza publicados a continuación, son publicaciones de organizaciones de noticias globales y legisladores estadounidenses.
La compañía de redes sociales dijo en un informe de seguridad trimestral que las cuentas representan a estudiantes judíos, afroamericanos y otros ciudadanos preocupados, y se dirigen a audiencias en Estados Unidos y Canadá. La campaña se atribuyó a la empresa de marketing político STOIC, con sede en Tel Aviv.
STOIC no respondió de inmediato a una solicitud de comentarios sobre estas acusaciones.
Por qué es importante
Si bien Meta ha encontrado fotos de perfil básicas generadas por IA en operaciones de influencia desde 2019, el informe es el primero en revelar el uso de la generación de texto. Amnistía Internacional La tecnología existe desde su debut a finales de 2022.
A los investigadores les preocupa que la IA generativa, que puede producir textos, imágenes y audio similares a los humanos de forma rápida y económica, pueda conducir a campañas de desinformación más efectivas e influir en las elecciones.
En una conferencia de prensa, los ejecutivos de Meta Security dijeron que derribaron la campaña israelí temprano y no creían que las nuevas técnicas de inteligencia artificial obstaculizaran su capacidad para interrumpir las redes de influencia, que son intentos coordinados de enviar mensajes.
Los ejecutivos dijeron que no habían visto redes de este tipo publicar fotografías de políticos generadas por IA lo suficientemente realistas como para confundirlas con fotografías auténticas.
cita principal
“Hay muchos ejemplos en estas redes de cómo están utilizando herramientas de IA potencialmente generativas para crear contenido. Y tal vez eso les dé la capacidad de hacerlo más rápido o en un mayor volumen. Pero en realidad no ha impactado nuestra capacidad. detectarlos”, afirmó Mike Devlyanski, jefe de investigaciones de amenazas.
En números
El informe destacó seis operaciones de influencia encubiertas que Meta interrumpió en el primer trimestre.
Además de la red STOIC, Meta cerró una red con sede en Irán centrada en el conflicto entre Israel y Hamás, aunque no identificó ningún uso de IA generativa en esa campaña.
Contexto
Meta y otros gigantes tecnológicos han luchado por encontrar la manera de abordar el posible uso indebido de las nuevas tecnologías de inteligencia artificial, especialmente en las elecciones.
Los investigadores han encontrado ejemplos de generadores de imágenes de empresas como OpenAI y Microsoft que producen imágenes que contienen información errónea relacionada con la votación, a pesar de que esas empresas tienen políticas contra dicho contenido.
Las empresas se han centrado en los sistemas de etiquetado digital para etiquetar el contenido generado por IA en el momento de su creación, aunque las herramientas no funcionan con texto y los investigadores tienen dudas sobre su eficacia.
Entonces que
Meta enfrenta importantes pruebas para sus defensas con las elecciones en la Unión Europea a principios de junio y en Estados Unidos en noviembre.
© Thomson Reuters 2024