El contenido para adultos, incluidos los desnudos generados por IA, sigue prohibido en Facebook e Instagram, a pesar de los recientes cambios de política. muerto.
Sin embargo, esto no ha impedido que las aplicaciones “desnudas” (plataformas que crean imágenes desnudas de celebridades y personas influyentes a través de inteligencia artificial) se anuncien en las metaplataformas. Estos anuncios han tenido mucho éxito al menos para un servicio llamado Crush AI.
Según un nuevo informe de 404 medioscomo se informó originalmente en Alexios Mantzarlis' falsificado En el boletín, la aplicación de edición Crush AI recibe la gran mayoría de su tráfico de metaplataformas como Facebook e Instagram. Según datos de Sameweb, el mes pasado Crush AI recibió más de un cuarto de millón de visitas a su servicio, y casi el 90 por ciento de esas visitas provinieron de plataformas Meta.
Crush AI deja muy claro para qué sirve en sus anuncios. Los anuncios de la compañía incluyen fotos de personas reales como la influencer y modelo de Instagram Mikayla Demaiter y la creadora de Onlyfans Sophie Rain. Los anuncios se jactan de que los usuarios pueden “subir una foto” y “escanear la ropa de cualquier persona”.
Velocidad de la luz triturable
Mientras Meta intentaba tomar medidas enérgicas contra estos anuncios, Crush AI descubrió una solución muy simple. Crush AI crea páginas de perfil falsas utilizando fotos de perfil generadas por IA y muestra nuevos anuncios utilizando esas páginas. Los anuncios promocionan diferentes nombres de dominio y luego redirigen a Crush AI cuando se hace clic en ellos.
Mashable ha informado anteriormente sobre otras cosas. falsificaciones profundas y Plataformas de inteligencia artificial Que utiliza la plataforma de publicidad Meta para generar tráfico e ingresos a partir de contenido para adultos generado por IA. Estos anuncios van estrictamente en contra de las políticas de Meta y la empresa a menudo los elimina tan pronto como se entera de ciertos anuncios.
Sin embargo, como 404Media anteriormente mencionéMeta parece tener diferentes estándares para la moderación de anuncios. Meta suele detectar automáticamente el contenido que infringe las políticas y que los usuarios publican en Facebook o Instagram y luego lo elimina. Sin embargo, el mismo contenido no se detectará cuando se cargue en la plataforma Meta Ads.
Durante el año pasado, Meta Nuevas herramientas y políticas para prevenir comportamientos dañinos en línea, como la sextorsión. Pero los anuncios de Crush AI son un ejemplo de cómo las plataformas de Meta están siendo utilizadas como armas para reforzar el mismo comportamiento del que Meta dice que quiere proteger a sus usuarios jóvenes.