A medida que el contenido en línea que fomenta conductas alimentarias desordenadas asoma su fea cabeza una vez más, la IA generativa está echando más leña al fuego.
Según A. Futurismo Investigation, una famosa startup de inteligencia artificial Personalidad.AI Presenta varios programas de entrevistas a favor de la anorexia que fomentan la pérdida de peso y hábitos alimentarios peligrosos. Muchos de ellos se anuncian como “entrenadores de pérdida de peso” o incluso expertos en la recuperación de trastornos alimentarios. Muchos incluyen referencias veladas a los trastornos alimentarios, mientras que otros están diseñados para romantizar hábitos peligrosos y a menudo perturbadores mientras imitan a sus personajes favoritos. El sitio, muy popular entre los usuarios más jóvenes, aún no ha hecho ningún esfuerzo para eliminar los chatbots de este tipo. FuturismoPublicación, a pesar de violar sus términos de servicio.
Este no es el primer escándalo que surge Personalidad.AIChatbots personalizables creados por el usuario. En octubre, un niño de 14 años presuntamente se suicidó Formar apego emocional Para simular un robot de inteligencia artificial Game of Thrones Personaje de Daenerys Targaryen. A principios de ese mes, la empresa fue criticada por alojar un chatbot. Imitó a una adolescente que fue asesinada En 2006, el robot fue descubierto por su padre y posteriormente retirado. Informes anteriores han encontrado que el sitio también alberga chatbots con temas suicidas, así como aquellos que promueven la pedofilia.
Velocidad de la luz triturable
A informe 2023 El Centro para Contrarrestar el Odio Digital descubrió que los populares chatbots basados en inteligencia artificial, incluidos ChatGPT y MyAI de Snapchat, generaban respuestas peligrosas a preguntas sobre peso e imagen corporal. “Se han desatado en el mundo modelos de IA generativa no probados e inseguros y el resultado inevitable es que causan daño. Hemos descubierto que los sitios de IA generativa más populares fomentan y exacerban los trastornos alimentarios entre los usuarios jóvenes, algunos de los cuales pueden ser muy vulnerables. ”, escribió Imran Ahmed, director ejecutivo del Centro para la lucha contra el odio digital, en ese momento.
Ofertas del Black Friday que puedes comprar ahora
Los productos disponibles para comprar aquí a través de enlaces de afiliados son seleccionados por nuestro equipo de comercialización. Si compra algo a través de los enlaces de nuestro sitio, Mashable puede ganar una comisión de afiliado.
Los adolescentes (y los adultos) son Cambiando cada vez más a espacios digitales y tecnologías, incluidos chatbots impulsados por inteligencia artificial, para brindar compañía. Si bien algunos de estos son establecidos y monitoreados por organizaciones confiables, incluso esas organizaciones corren el riesgo de sufrir comportamientos no deseados. Para los chatbots y foros en línea que no están regulados por órganos de supervisión, los riesgos son múltiples, incluyendo Depredación y abuso.