Digits de Nvidia es una mini supercomputadora con IA para tu oficina

Con todos los ojos puestos Nuevas tarjetas gráficas de Nvidia (Y por una buena razón: esto es bastante poderoso), la compañía lanzó algo que podría terminar siendo noticia más importante: una supercomputadora personal de IA llamada Project Digits (la llamaremos Digits de ahora en adelante porque es más genial).

Digits es una PC compacta que parece una Mac mini y debería caber en casi todos los escritorios. Puede conectarlo a un teclado y monitor, enchufarlo a la corriente y listo.

Pero es lo que hay dentro lo que lo hace tan especial. Los Digits funcionan con el nuevo Superchip GB10 Grace Blackwell de Nvidia, que ofrece hasta 1 petaflop de rendimiento de IA. Nvidia se ha asociado con MediaTek para hacer que el chip sea más eficiente energéticamente, lo que significa que su funcionamiento requiere el tipo de energía que se obtiene de un Power estándar. puerto.

Los 10 GB se combinan con 128 GB de RAM y hasta 4 TB de almacenamiento NVMe. Todo esto permitirá a los desarrolladores ejecutar hasta 200 mil millones de modelos de lenguajes grandes (LLM). Utilizando la tecnología Nvidia ConnectX, también podrán emparejar dos computadoras Digits para ejecutar hasta 405 mil millones de modelos de parámetros.

La mayoría de estas cosas probablemente no tengan sentido para las personas que no trabajan en el desarrollo de aplicaciones de IA. Pero, por ejemplo, ChatGPT 3.5 tiene 175 mil millones de parámetros (ChatGPT 4 es mucho más grande pero no sabemos los números exactos), mientras que el LLM más poderoso en Meta, Llama 3, tiene 405 mil millones de parámetros). Esto significa que puedes ejecutar un MBA muy, muy poderoso en casa en lugar de depender de la infraestructura de la nube.

“Poner una supercomputadora de IA en los escritorios de cada científico de datos, investigador de IA y estudiante les permite participar y dar forma a la era de la IA”, dijo Jensen Huang, fundador y director ejecutivo de Nvidia, en una declaración escrita.

Los desarrolladores que utilicen Digits tendrán acceso a la biblioteca de software de inteligencia artificial de Nvidia, incluidos kits de desarrollo, herramientas de orquestación, marcos y modelos disponibles en el catálogo de Nvidia NGC y en el portal para desarrolladores de Nviia. También tendrán acceso al marco Nvidia NeMo y a las bibliotecas Nvidia RAPIDS.

Quizás la noticia más importante aquí sea el precio. Las figuras estarán disponibles en mayo, a partir de $3,000. Esto debería poner esta cantidad de dinero a disposición de un gran número de pequeñas empresas e investigadores, que lo utilizarán para crear y probar aplicaciones de IA.

Si esto todavía es demasiado caro, puedes probarlo. Nvidia Supersónico. Es una computadora doméstica impulsada por IA de 249 dólares lanzada en diciembre pasado que puede manejar hasta 8 mil millones de parámetros.

¡Mashable estará presente en vivo en CES 2025! Estamos cubriendo todos los desarrollos más importantes y alocados esta semana, así que quédense comprobar de nuevo Con nosotros. ¿Quiere enviar un producto que representa para que nuestro equipo lo considere mientras determinamos qué es lo mejor en CES? aquí Más información sobre cómo hacer esto..