[ad_1]
Abrazando su cara pie Su última oferta, Hugging Face Genetic AI Services (HUGS), tiene como objetivo simplificar la implementación y la escala de aplicaciones de IA generativa utilizando modelos de código abierto.
HUGS se basa en tecnologías Hugging Face como Transformers y Text Generation Inference (TGI) y promete un rendimiento mejorado en varios aceleradores de hardware.
Para desarrolladores que utilizan AWS o Nube de GoogleEl servicio está disponible a 1 dólar por hora por contenedor, con una prueba gratuita de cinco días en AWS para ayudar a los usuarios a comenzar.
Simplificando la inteligencia artificial con heurísticas de configuración cero
HUGS ofrece a los desarrolladores una solución operativa Amnistía Internacional Modelos en infraestructura propia sin necesidad de configuración manual. Uno de los principales desafíos al implementar modelos de lenguajes grandes (LLM) es optimizarlos para entornos de hardware específicos. Cada acelerador, ya sea NVIDIA GPU o GPU AMD, requiere un ajuste fino para obtener el máximo rendimiento.
Con HUGS, estas mejoras se gestionan automáticamente, lo que proporciona una alta productividad desde el primer momento. Además de NVIDIA y AMD GPU, la compañía promete que el soporte pronto se extenderá a AWS Inferentia y Google TPU.
Hugging Face tiene como objetivo facilitar la transición de API de caja negra a soluciones abiertas y autohospedadas, al tiempo que admite una amplia gama de modelos, incluidos los más conocidos. Maestría en Derecho Como Llama y Gemma, con planes de introducir próximamente modelos multimedia como Idefics y Lava. La compañía dice que incluirá modelos integrados como BGE y Jina en el futuro., Brindar a los desarrolladores más opciones para personalizar sus aplicaciones de IA.
Este servicio utiliza API estandarizadas que son compatibles con AbiertoAIs interfaces modelo, para que los desarrolladores puedan migrar su propio código.
Para las empresas emergentes en particular, HUGS brinda la oportunidad de crear aplicaciones de inteligencia artificial sin incurrir en los altos costos asociados con las plataformas propietarias. La disponibilidad de implementaciones con un solo clic en DigitalOcean facilita que los equipos pequeños experimenten con técnicas de IA generativa.
Mientras tanto, las organizaciones más grandes pueden aprovechar HUGS para escalar sus aplicaciones sin estar vinculadas a un único proveedor de nube o API patentada. En DigitalOcean, HUGS se incluye sin cargo adicional más allá del costo estándar de GPU Droplets. Hugging Face también ofrece soluciones de implementación empresarial personalizadas a través de su Enterprise Hub.
También te puede gustar
[ad_2]
Source Article Link