[ad_1]
Character.AI tiene un nuevo conjunto de funciones destinadas a hacer que las interacciones con los personajes virtuales que alberga sean más seguras, especialmente para los adolescentes. La compañía acaba de lanzar una nueva versión de su modelo de inteligencia artificial diseñada específicamente para usuarios más jóvenes, así como un conjunto de controles parentales para administrar su tiempo en el sitio. Las actualizaciones siguen antes Cambios de seguridad a la plataforma a raíz de las acusaciones de que los chatbots impulsados por inteligencia artificial están impactando negativamente la salud mental de los niños.
Estos cambios de seguridad han ido acompañados de otros esfuerzos para endurecer las restricciones sobre el contenido de Character.AI. La compañía comenzó recientemente una purga, aunque incompleta, de cualquier imitación de IA. Personajes y marcas registradas con derechos de autor.
Para los usuarios adolescentes, el cambio más notable probablemente será la división entre las versiones para adultos y adolescentes del modelo de IA. Debes tener 13 años para registrarte en Character.AI, pero los usuarios menores de 18 años serán dirigidos a un modelo con barandillas más estrechas diseñadas específicamente para evitar interacciones románticas o sugerentes.
El formulario también tiene mejores filtros para lo que escribe el usuario y es mejor para notar cuando un usuario intenta cruzar estos límites. Esto incluye nuevas restricciones a la hora de editar respuestas desde un archivo. chatbot Para burlar restricciones de contenido sugerente. La compañía tiene cuidado de mantener cualquier conversación entre adolescentes y sus personajes de IA PG. Además, si la conversación toca temas como la autolesión o el suicidio, la plataforma mostrará un enlace a la Línea Nacional de Prevención del Suicidio para ayudar a dirigir a los adolescentes a recursos profesionales.
Character.AI también está trabajando para mantener a los padres informados sobre lo que hacen sus hijos adolescentes en el sitio web, y está previsto que Controls se lance a principios del próximo año. Los nuevos controles parentales les darán a los padres información sobre cuánto tiempo pasan sus hijos en la plataforma y con qué bots hablan más. Para asegurarse de que estos cambios lleguen al nivel correcto, Character.AI está trabajando con varios expertos en seguridad en línea para adolescentes.
Descargo de responsabilidad de Amnistía Internacional
No se trata solo de adolescentes, Character.AI busca ayudar a mantener un sentido de la realidad. También abordan las preocupaciones sobre la adicción al tiempo frente a la pantalla, ya que todos los usuarios reciben un recordatorio después de hablar con el chatbot durante una hora. El recordatorio les insta a tomar un descanso.
También se refuerza el descargo de responsabilidad existente sobre los orígenes de la IA de los personajes. En lugar de solo una pequeña nota, verá una explicación más larga acerca de que se trata de una IA. Esto es especialmente cierto si alguno de los chatbots se describe como médico, terapeuta u otros expertos. Una nueva advertencia adicional aclara que la IA no es un profesional autorizado y no debe sustituir el asesoramiento, diagnóstico o tratamiento real. Imagínese un gran cartel amarillo que diga: “Oye, esto es divertido, pero tal vez no me pidas consejos que te cambien la vida”.
“En Character.AI, estamos comprometidos a fomentar un entorno seguro para todos nuestros usuarios. Para cumplir con este compromiso, reconocemos que nuestro enfoque de seguridad debe evolucionar junto con la tecnología que impulsa nuestro producto, creando una plataforma donde la creatividad y la exploración puedan. florecer sin tener que comprometer la seguridad”, explicó Character.AI en un correo Sobre los cambios. “Para hacer esto bien, la seguridad debe integrarse en todo lo que hacemos aquí en Character.AI. Este conjunto de cambios es parte de nuestro compromiso a largo plazo para mejorar continuamente nuestras políticas y productos”.
También te puede gustar…
[ad_2]
Source Article Link
