Meta ha confirmado que ha bombardeado un lote de perfiles generados por IA desde Facebook Instagram, después de que las personas de IA provocaran ira y burla generalizadas entre los usuarios en las redes sociales.
Los perfiles generados por IA, denominados “AI Powered by Meta”, se lanzaron en que se está implementando junto con los populares chatbots de IA de la compañía (). Meta no parece haber actualizado ninguno de estos perfiles durante meses, y las páginas parecen haber pasado desapercibidas hasta esta semana, después de una entrevista que publiqué. Tiempos financieros Con el vicepresidente de IA generativa de Meta, Connor Hayes.
En la entrevista, Hayes habló sobre el objetivo de la compañía de eventualmente poblar sus servicios con perfiles generados por IA que puedan interactuar con personas y trabajar “de la misma manera que lo hacen las cuentas”. Estos comentarios llamaron la atención sobre los perfiles de IA existentes creados por fMeta y, bueno, los usuarios no quedaron exactamente impresionados con lo que encontraron.
Utilizando apodos como “hellograndpabrian”, un “emprendedor textil jubilado que siempre está aprendiendo” y “datingwithCarter”, un “entrenador de citas” impulsado por inteligencia artificial, los chatbots estaban destinados a mostrar “intereses y personalidades únicos” para que los usuarios conversaran. En Instagram, sus perfiles también incluían publicaciones generadas por IA, p. 404 medios Señaló que se parecía mucho Esto se ha vuelto frecuente en muchos rincones de Facebook.
Un personaje de IA llamado Lev ha provocado indignación. El perfil de Instagram identificó a “Liv” como una “orgullosa madre negra de dos hijos y fuerte por su verdad”. El Correo de Washington La columnista Karen Attia publicó una serie de capturas de pantalla en las que le preguntó a Liv sobre su y Liv comparte que fue creado por un “equipo blanco dominado”. Publicado por la periodista independiente Maddy Castigan Liv dijo que sus creadores se inspiraron en parte en el personaje de Sofía Vergara familia modernaun personaje que no es ni extraño ni negro.
“Hay confusión: este último Tiempos financieros “El artículo trataba sobre nuestra visión de los personajes de IA en nuestras plataformas a lo largo del tiempo y no anunciaremos ningún producto nuevo”, dijo un portavoz de la compañía a Engadget. “Los cálculos a los que se hace referencia provienen de una prueba que lanzamos en Connect en 2023. Fueron moderados por humanos y fueron parte de un experimento inicial que realizamos con personajes de IA”.
Lejos de ser ridiculizados por sus respuestas e intentos de apropiarse de identidades marginadas, a los usuarios les resultó imposible bloquear los perfiles de IA, por razones desconocidas. En lugar de solucionar el problema, la solución de Meta fue cerrar toda la experiencia. “Identificamos la falla que estaba afectando la capacidad de las personas para bloquear estos sistemas de inteligencia artificial y estamos eliminando esas cuentas para solucionar el problema”, dijo un portavoz de la compañía.
Y aunque esa prueba ha sido exitosa, la compañía no parece estar abandonando sus planes de incorporar más “personalidades” generadas por IA a sus aplicaciones. A principios de este año, la empresa planteó… Capaz de realizar videollamadas realistas. Las personas creativas pueden Sus chatbots para responder a los seguidores en su nombre. Meta también ha comenzado a experimentar con la inserción de imágenes generadas por IA en los feeds de Facebook de los usuarios.
En una entrevista el año pasado, Hayes me dijo que Meta probablemente se volvería más “proactivo” a la hora de mostrar contenido generado por IA con el tiempo, comparándolo con un cambio de mostrar contenido recomendado en lugar de publicaciones de personas a las que sigues.
“En los primeros días de las aplicaciones sociales, el conjunto de cosas que podías ver en un día determinado estaba algo restringido por las personas que seguías o con las que eras amigo. En los últimos cinco o seis años, muchas aplicaciones, incluyéndonos a nosotros, lo han hecho. se movió para aflojar esa restricción y comenzar a recomendar contenido de cuentas que no sigues.
“Creo que el próximo salto que probablemente se producirá es aflojar las restricciones sobre lo que los humanos pueden crear y, de hecho, llegar a fuentes de contenido que sean una combinación de cosas creadas por humanos, ya sabes, pero también completamente generadas por máquinas”.
Puede que pase algún tiempo antes de que Metta realice plenamente esta visión. Pero si la reacción a sus primeras pruebas sirve de indicación, la compañía todavía tiene mucho trabajo por hacer para convencer a la gente de que, en primer lugar, vale la pena interactuar con sus personajes de IA.