ES presentó su solución de inteligencia artificial (IA) de extremo a extremo para entrenar modelos de lenguaje grandes (LLM) localmente en un dispositivo durante el evento Computex 2024 de AMD. La solución de IA integrada incluye AI Top Utilities, AI Top Hardware y AI Top Tutor, que incluyen diferentes aspectos del entrenamiento de modelos de IA de código abierto. AI Top Utilities es un software de formación que admite varios modelos de IA de código abierto, mientras que AI Top Hardware ofrece los productos de la empresa centrados en la IA. AI Top Tutor es para aquellos que necesitan ayuda para entender cómo aprovechar al máximo esta solución.
Gigabyte AI Top ofrece soluciones para el entrenamiento de IA en el dispositivo
Al hacer el anuncio durante el evento Computex 2024, la compañía reveló AI Top como una solución todo en uno que tiene como objetivo “entrenar su propia IA en su escritorio”. En un comunicado de prensa, la compañía detalló los diversos aspectos de la oferta que incluye tres segmentos: soporte de software, soporte de hardware, consultoría y soporte técnico. Vale la pena señalar que este anuncio se produce después del lanzamiento del dispositivo PC Gigabyte AI en el Consumer Electronics Show (CES) 2024.
Utilidad superior de Gigabyte AI
Crédito de la imagen: GB
AI Top Utility es una interfaz digital que permite entrenar modelos nativos de IA utilizando nuevos flujos de trabajo. La empresa afirma que el software proporciona una interfaz fácil de usar y un seguimiento del progreso en tiempo real. Admite múltiples modelos de IA de código abierto con hasta 236 mil millones de parámetros. La compañía afirma que la plataforma es más rentable y muestra resultados más rápidos en comparación con su contraparte en la nube. También puede descargar datos a la memoria del sistema y a unidades de estado sólido (SSD) para evitar las limitaciones de tamaño de VRAM.
El siguiente es AI Top Hardware, que son básicamente las ofertas de hardware de la empresa. Cuenta con una serie de productos optimizados para IA que son energéticamente eficientes y pueden manejar cargas de trabajo de entrenamiento de IA. Estas soluciones de hardware también incluyen componentes actualizables. Uno de los dispositivos principales de esta serie incluye la placa base AI Top (TRX50) con un factor de forma configurable, tipo de memoria y ranuras, interfaz gráfica y más. También se incluyen una tarjeta gráfica AI Top, SSD y PSU.
La última oferta de esta solución es AI Top Tutor. Posicionado como “capacitación de IA en el escritorio”, este es esencialmente el sistema de soporte y asesoramiento técnico basado en IA de la empresa que ofrece información, orientación de configuración y asistencia para la resolución de problemas. La compañía afirma que el sistema de formación permitirá tanto a principiantes como a profesionales iniciar proyectos de IA en el dispositivo.
La compañía no ha anunciado precios ni disponibilidad de las soluciones Gigabyte AI Top.