Tag: aceleradores

Intel Intel presentó recientemente nuevo hardware centrado en mejorar los flujos de trabajo de IA. La compañía presentó el martes el procesador Xeon 6 con nuevos núcleos de rendimiento (P-cores) y el acelerador de IA Gaudi 3 a clientes empresariales y de centros de datos. El fabricante de chips afirma que los nuevos dispositivos proporcionarán un mayor rendimiento y una mejor optimización de costos para permitir un rendimiento óptimo por vatio y un menor costo total de propiedad. Según el fabricante de chips, estos dispositivos se lanzaron para permitir a las empresas manejar demandas de carga de trabajo cada vez mayores de modelos de IA más avanzados.

Lanzamiento del procesador Intel Xeon 6

fabricante de chips el dice Intel anunció que su nuevo procesador Intel Xeon 6 está equipado con un núcleo de rendimiento. Estos procesadores no están destinados a consumidores minoristas, sino que se utilizarán para alimentar los centros de datos de las empresas para ayudarles a ejecutar servidores en la nube.

Intel afirma que el procesador Xeon 6 ofrece el doble de rendimiento que su predecesor debido al mayor número de núcleos. También proporciona el doble de ancho de banda de memoria y capacidades de aceleración de IA.

Dado que se basa en aceleración de hardware, puede ejecutar modelos de lenguajes muy grandes (LLM) con facilidad. Según Intel, “puede satisfacer las demandas de rendimiento de la IA desde el borde hasta los centros de datos y los entornos de nube”.

Intel presenta los aceleradores de inteligencia artificial Gaudí 3

Gaudi 3 es el acelerador de IA de nueva generación de Intel. Son chips de hardware especializados diseñados para ayudar a las máquinas a acelerar las tareas de inteligencia artificial, especialmente aquellas relacionadas con el aprendizaje profundo, el aprendizaje automático y las redes neuronales. Estos incluyen unidades de procesamiento de gráficos, circuitos integrados de aplicaciones específicas (ASIC), conjuntos de puertas programables en campo (FPGA) y unidades de procesamiento neuronal (NPU).

El acelerador de IA Gaudi 3 cuenta con 64 núcleos de procesador Tensor y ocho motores de multiplicación de matrices (MME) diseñados para acelerar los cálculos de redes neuronales profundas. También cuenta con 128 GB de memoria HBM2e para entrenamiento e inferencia, y 24 puertos Ethernet de 200 GB que permiten escalar el servidor.

El nuevo AI Accelerator de Intel es compatible con el marco PyTorch y con los modelos avanzados de concentrador y adaptador Hugging Face. La empresa ya ha contratado a IBM para implementar Gaudi 3 para IBM Clouds. Dell Technologies también utiliza su propia infraestructura de centro de datos.