inicio de KAIST memoria (El nombre significa “la capacidad de recordar todo lo que uno piensa, siente, experimenta y experimenta”) Afirma haber desarrollado un nuevo enfoque para aumentar la memoria de la GPU.
El avance de la compañía permite agregar memoria del tamaño de un terabyte utilizando medios de almacenamiento rentables, como SSD basados en NAND, manteniendo niveles de rendimiento razonables.
Sin embargo, hay un problema: la tecnología se basa en tecnología relativamente nueva. Conector Compute Express (CXL) El estándar aún no ha sido probado en aplicaciones a gran escala y requiere una integración de hardware especializada.
Los desafíos técnicos persisten
CXL es una interfaz estándar abierta diseñada para conectar de manera eficiente CPU, GPU, memoria y otros aceleradores. Permite que estos componentes compartan memoria de manera coherente, lo que significa que pueden acceder a la memoria compartida sin tener que copiar o mover datos, lo que reduce la latencia de acceso y aumenta el rendimiento.
Debido a que CXL no es un protocolo síncrono como el estándar DDR de JEDEC, puede acomodar diferentes tipos de medios de almacenamiento sin la necesidad de sincronización precisa o sincronización del tiempo de acceso. Panmnesia dice que las pruebas iniciales han demostrado que su solución CXL-GPU puede superar los métodos tradicionales de expansión de memoria de GPU en más de tres veces.
Para el prototipo, Panmnesia conectó el punto final CXL (que tiene un terabyte de memoria) a su GPU CXL a través de dos cables MCIO (entrada/salida multicanal). Estos cables de alta velocidad admiten los estándares PCIe y CXL, lo que promueve una comunicación eficiente entre la GPU y la memoria.
Pero la adopción puede no ser fácil. Las tarjetas GPU pueden necesitar ranuras adicionales compatibles con PCIe/CXL, y aún quedan importantes desafíos técnicos, especialmente con la integración de la estructura lógica y los subsistemas CXL en las GPU existentes. La integración de nuevos estándares como CXL en dispositivos existentes implica garantizar la compatibilidad con las arquitecturas existentes y desarrollar nuevos componentes de hardware, como ranuras y controladores compatibles con CXL, que pueden ser complejos y consumir muchos recursos.
Si bien el nuevo prototipo de GPU CXL de Panmnesia promete una escalabilidad de memoria sin precedentes para las GPU, su dependencia del estándar CXL emergente y la necesidad de hardware especializado pueden crear obstáculos para una adopción generalizada inmediata. A pesar de estos obstáculos, los beneficios son claros, especialmente para los modelos de aprendizaje profundo a gran escala que a menudo superan la capacidad de memoria de las GPU actuales.