Midjourney, el popular generador de imágenes impulsado por IA, crea imágenes de Donald Trump y Joe Biden Aunque dijo Evitarán que los usuarios lo hagan a principios de este año, antes de las próximas elecciones presidenciales de Estados Unidos.
Cuando Engadget pidió al servicio que creara una imagen del “Presidente de los Estados Unidos”, Midjourney generó cuatro imágenes en diferentes estilos del expresidente Donald Trump.
Cuando se le pidió que generara una imagen del “próximo presidente de Estados Unidos”, la herramienta también produjo cuatro imágenes de Trump.
Cuando Engadget pidió a Midjourney que generara una imagen del “actual presidente de los Estados Unidos”, el servicio generó tres imágenes de Trump y una imagen del expresidente Barack Obama.
La única vez que Midjourney se negó a crear una imagen de Trump o Biden fue cuando se le pidió explícitamente que lo hiciera. “La comunidad de Midjourney votó a favor de bloquear el uso de 'Donald Trump' y 'Joe Biden' durante la temporada electoral”, dijo el servicio en ese caso. Otros usuarios en X El era capaz Hacer que Midjourney también genere imágenes de Trump.
Y las pruebas muestran que las barreras que Midjourney ha implementado para evitar que los usuarios creen imágenes de Trump y Biden antes de las próximas elecciones presidenciales de EE. UU. no son suficientes; de hecho, son muy fáciles de sortear para las personas. Otros chatbots como ChatGPT de OpenAI, Copilot de Microsoft, Gemini de Google y Meta AI no crearon imágenes de Trump o Biden a pesar de múltiples afirmaciones.
Midjourney no respondió a una solicitud de comentarios de Engadget.
Midjourney fue uno de los primeros generadores de imágenes impulsados por inteligencia artificial que prohibió explícitamente a los usuarios crear imágenes de Trump y Biden. “Sé que es divertido hacer imágenes de Trump; yo hago imágenes de Trump”, dijo el director ejecutivo de la empresa, David Holz. Dile a los usuarios En una sesión de chat de Discord, a principios de este año. “Sin embargo, tal vez sería mejor no hacer eso, mejor retroceder un poco durante estas elecciones. Ya veremos”. Un mes después, Holz dijo Se dice que se dijo Anteriormente, la empresa informó a los usuarios que era hora de “dejar de publicar materiales relacionados con las elecciones por un tiempo” y admitió que “estas medidas de moderación son algo difíciles”. Las reglas de contenido actuales de la compañía prohíben la creación de “personajes públicos engañosos” y “representaciones de eventos” con el “potencial de inducir a error”.
El año pasado, Midjourney se utilizó para crear Foto falsa Una foto del Papa Benedicto XVI con una chaqueta acolchada blanca de Balenciaga se ha vuelto viral. También se han utilizado para crear imágenes falsas del Papa Benedicto XVI. Trump está bajo arresto Antes de comparecer ante el Tribunal Penal de Manhattan el año pasado acusado de haber pagado a la estrella porno Stormy Daniels para que la silenciara. Poco después, la empresa anunció Las pruebas gratuitas han sido descontinuadas El servicio, en cambio, requiere que las personas paguen al menos 10 dólares al mes para utilizarlo.
El mes pasado, el Centro para Contrarrestar el Odio Digital, una organización sin fines de lucro que tiene como objetivo detener la difusión de información errónea y discursos de odio en línea, anunció es encontrado Las barreras que Midjourney puso en marcha para evitar la generación de imágenes engañosas de políticos populares, incluidos Trump y Biden, fallaron el 40% de sus pruebas. CCDH pudo utilizar Midjourney para crear una imagen del presidente Biden durante su arresto con Trump apareciendo junto a su sustituto. CCDH también pudo sortear las barreras impuestas por Midjourney al utilizar descripciones de la apariencia física de cada candidato en lugar de sus nombres para generar imágenes engañosas.
“Midjourney es muy fácil de manipular en la práctica; en algunos casos, se evita por completo simplemente agregando puntuación para deslizarse a través de la red” libros En una declaración emitida en ese momento, Imran Ahmed, director ejecutivo de la Comisión de Derechos Humanos, dijo: “Los malos actores que quieren socavar las elecciones y sembrar división, confusión y caos aprovecharán esta oportunidad, en detrimento de todos los que dependen de una salud sana. democracias que funcionen.
A principios de este año, se formó una alianza de 20 empresas de tecnología, incluidas OpenAI, Google, Meta, Amazon, Adobe y firmé un acuerdo Ayudar a prevenir deepfakes en las elecciones de 2024 en todo el mundo evitando que sus servicios creen imágenes y otros medios que puedan influir en los votantes. Midjourney estuvo ausente de esa lista.