El contacto es para la plataforma de redes sociales X de Elon Musk, informó Bloomberg
Colossus de XAi utiliza 100.000 GPU Nvidia H100 y no parece ser parte del contrato
Supermicro ha tenido problemas, pero sigue siendo un actor importante en el hardware de IA
La creciente demanda de potencia informática para soportar cargas de trabajo de IA ha impulsado un rápido crecimiento en el mercado de servidores de alta potencia. Es un negocio rentable para empresas como ValleSupermicro y Hewlett-Packard Enterprise, quienes han visto una mayor demanda de sus productos de servidores de alto rendimiento en los últimos años.
Informe de Bloomberg HPE afirma haber conseguido un acuerdo masivo por valor de más de mil millones de dólares para suministrar a la red social X de Elon Musk servidores optimizados para el trabajo de IA.
El informe no especifica exactamente cómo se utilizarán los servidores, pero como es para X, es muy probable que parte de la capacidad sea para Grok, la IA de la red social. chatbot. A finales de 2024, X anunció que lanzaría Grok-2 a todos los usuarios de forma gratuita y es justo concluir que la capacidad adicional requerirá más infraestructura de servidores.
Oferta de Dell y Supermicro
Bloomberg Dice que se llegó a un acuerdo X con HPE a finales de 2024, según personas familiarizadas con el asunto.
Las empresas de Musk, incluidas xAI y Tesla, son importantes compradores de hardware de IA. Musk anunció previamente la supercomputadora Colossus, fabricada por xAI, con sede en Memphis, como “El sistema de entrenamiento de inteligencia artificial más potente del mundoEl multimillonario afirmó que fue construido “de principio a fin” en sólo 122 días.
Gigante utiliza 100.000 NVIDIA GPU H100, pero hay planes de ampliar significativamente sus operaciones. Supermicro ha enfrentado algunos desafíos recientemente, incluida la renuncia de su auditor y otros asuntos relacionados. Sin embargo, como Monitoreo del mercadoSegún los informes, sigue siendo un “actor importante en la revolución de la IA” y recientemente estableció operaciones en Memphis para apoyar el objetivo de xAI de construir una instalación de supercomputadoras que contenga 1 millón de GPU.
Supermicro y Dell originalmente proporcionaron servidores para Colossus, y Bloomberg Dice que, aunque las dos empresas ofertaron para suministrar equipos para este nuevo proyecto, al final no tuvieron éxito.
Suscríbase al boletín TechRadar Pro para recibir las principales noticias, opiniones, características y orientación que su empresa necesita para tener éxito.
BloombergEl informe de HPE señala que “la tecnología de refrigeración líquida de HPE puede haber jugado un papel en la victoria”, escribió Woo Jin Ho, analista de Bloomberg Intelligence. Añadió que, si bien los grandes acuerdos son buenos para las ventas, pueden suponer un lastre para los márgenes de beneficio.
La tecnología xAI ha reducido significativamente las “colisiones de flujo” durante el entrenamiento de modelos de IA
Spectrum-X ha sido crucial en el entrenamiento de la familia de modelos Grok AI
NVIDIA Destacó cómo el clúster de supercomputadoras “Colossus” de xAI puede controlar 100.000 GPU Hopper, y todo se reduce al uso de la plataforma de red Ethernet Spectrum-X del fabricante de chips.
La compañía reveló que Spectrum-X está diseñado para ofrecer capacidades de rendimiento masivas a fábricas de IA multiinquilino a gran escala utilizando una red de acceso remoto a memoria de directorio (RDMA).
La plataforma se ha implementado en Colossus, la supercomputadora de inteligencia artificial más grande del mundo, desde sus inicios. La empresa propiedad de Elon Musk utiliza el grupo para entrenar su serie Grok de modelos de lenguaje grandes (LLM), que impulsan los chatbots entregados a los usuarios de X.
La instalación se construyó en colaboración con Nvidia en solo 122 días y xAI está trabajando actualmente para ampliarla, con planes de implementar un total de 200.000 GPU Nvidia Hopper.
El entrenamiento de Grok requiere gran potencia de fuego.
Los modelos de IA de Grok son muy grandes: Grok-1 mide 314 mil millones de parámetros y Grok-2 superó a Cloud 3.5 Sonnet y GPT-4 Turbo en el momento del lanzamiento en agosto.
Naturalmente, entrenar estos modelos requiere un rendimiento de red significativo. Al utilizar la plataforma Spectrum-X de Nvidia, la tecnología xAI no registró degradación heredada de aplicaciones ni pérdida de paquetes debido a “colisiones de flujo” o cuellos de botella dentro de las rutas de red de IA.
xAI reveló que pudo mantener una tasa de transferencia de datos del 95% gracias a las capacidades de control de congestión de Spectrum-X. La compañía añadió que este nivel de rendimiento no se puede proporcionar a esta escala a través de una red Ethernet estándar.
Suscríbase al boletín TechRadar Pro para recibir las principales noticias, opiniones, características y orientación que su empresa necesita para tener éxito.
Con Ethernet tradicional, esto normalmente crea miles de colisiones de flujo y proporciona solo una tasa de transferencia de datos del 60%, según Nvidia.
Un portavoz de xAI dijo que la combinación de las GPU Hopper y Spectrum-X permitió a la empresa “superar los límites del entrenamiento de modelos de IA” y crear una “fábrica de IA optimizada y ultrarrápida”.
“La IA se está volviendo crítica y requiere mayor rendimiento, seguridad, escalabilidad y rentabilidad”, dijo Gilad Scheiner, vicepresidente senior de redes de Nvidia.
“La plataforma de red Ethernet NvidiaSpectrum-X está diseñada para proporcionar a innovadores como xAI un procesamiento, análisis y ejecución más rápidos de cargas de trabajo de IA, acelerando así el desarrollo, la implementación y el tiempo de comercialización de las soluciones de IA”.
Parte de la plataforma Spectrum-X incluye el conmutador Ethernet Spectrum SN5600, que admite velocidades de puerto de hasta 800 Gbit/s y se basa en el conmutador ASIC Spectrum-4, según Nvidia.
xAI eligió integrar el conmutador Spectrum-X SN5600 con NVIDIA BlueField-3 SuperNIC para obtener un mayor rendimiento.
Recientemente pudimos vislumbrar lo que GPU con IA de miles de millones de dólares Es como si Elon Musk hubiera compartido un breve recorrido en vídeo por Cortex, la supercomputadora de entrenamiento de IA actualmente en construcción en la fábrica de Tesla en Giga Texas.
Recientemente, Musk anunció en su plataforma de redes sociales que Colossus, una nueva gama de entrenamiento H100 de 100k, ya está lista para funcionar.
Musk afirma que Colossus es “el sistema de entrenamiento de IA más poderoso del mundo” y que fue construido “de principio a fin” en sólo 122 días. Este es un gran logro. Los servidores para el grupo xAI supuestamente fueron proporcionados por Valle y Supermicro, y el coste del proyecto se estima entre 3 y 4 mil millones de dólares.
Este fin de semana, el equipo @xAI lanzó en línea el paquete de entrenamiento Colossus 100k H100. De principio a fin, se realizó en 122 días. Colossus es el sistema de entrenamiento de IA más poderoso del mundo. Además, duplicará su tamaño hasta los 200.000 (50.000 H200) en unos pocos meses. excelente…2 de septiembre de 2024
¿De dónde obtuvo Coloso su nombre?
Hardware de Tom“Y aunque todos estos clústeres están ejecutando oficialmente e incluso entrenando modelos de IA, no está del todo claro cuántos clústeres se están ejecutando realmente en Internet hoy en día. En primer lugar, se necesita tiempo para depurar estos clústeres gigantes y optimizar su configuración. hasta “Asegurarse de que tuviera suficiente energía, y aunque la compañía de Elon Musk estaba usando 14 generadores diésel para alimentar su supercomputadora en Memphis, no era suficiente para alimentar las 100.000 GPU H100”.
El sistema Colossus eventualmente duplicará su capacidad, con planes para integrar 100.000 GPU adicionales: 50.000 H100 y 50.000 NVIDIAChipset H200 de próxima generación de XAI. El superconjunto se utilizará principalmente para entrenar el Grok-3 de XAI, el modelo de IA más nuevo y avanzado de la compañía. Aún no hemos visto ninguna mención al almacenamiento para el nuevo sistema, pero debería ser enorme.
Pero el nombre de la nueva supercomputadora llamó mucho la atención, ya que la gente notó que su nombre compartía el nombre de una película de ciencia ficción de 1970 (basada en una novela de 1966 de D. F. Jones) sobre una supercomputadora que se volvió inteligente después de obtener el control de la industria estadounidense. arsenal nuclear. Como era de esperar, las cosas salieron mal para la humanidad.
Tanto la novela como la película abordan temas contemporáneos de la autonomía de la inteligencia artificial, los peligros de ceder el control a las máquinas y las implicaciones éticas de la inteligencia artificial. Es posible que Musk no fuera consciente de esto cuando se eligió el nombre para el nuevo sistema de entrenamiento de IA, y es posible que lo haya elegido sólo para enfatizar el enorme tamaño de los cúmulos gigantes. Pero nuevamente, con el historial de Musk, no sería sorprendente que la referencia fuera completamente intencional: él sabe exactamente lo que está haciendo.
Suscríbase al boletín TechRadar Pro para recibir todas las noticias, opiniones, funciones y orientación que su empresa necesita para tener éxito.
El primer comienzo de la serie “X-Men” fue un completo fracaso. Las historias y los personajes (el primer equipo incluía a Cyclops, Beast, Angel, Iceman y Marvel Girl) carecían en gran medida de la chispa del mejor trabajo de Stan Lee y Jack Kirby en Marvel Comics. La serie “X-Men” incluso fue cancelada en 1970 y no volvió a la vida hasta cinco años después con el primer número de “Giant-Size X-Men” (escrito por Wein y el artista Dave Cockrum).
La nueva serie “X-Men” mantuvo la misma idea pero reemplazó a la mitad del equipo original (el Profesor X, Cyclops y Jean Grey permanecieron) para darle vida al libro. “Giant Size X-Men” #1 comienza con el Profesor X reclutando nuevos miembros del equipo X-Men uno por uno para rescatar al equipo original después de que desaparecen en una misión. Tenga en cuenta la portada de Cockrum del número anterior; Colossus aparece en el centro y apunta hacia adelante, liderando el ataque literal y simbólico de un nuevo equipo que ingresa a la historia.
Se sabe que Piotr trabajó en una granja colectiva soviética; Utiliza sus poderes para salvar a su hermana pequeña, Anya, de ser atropellada por un tractor. El Profesor X lo convence de que sus poderes pueden beneficiar al mundo, no solo a su estado, y deja a Colossus con él. Entonces, ¿un granjero corpulento con mandíbula cuadrada y alma amable? Sí, Colossus es básicamente Superman.
El primer número de “Giant Size Launch”. La Guerra Fría estaba en marcha, pero estos cómics de superhéroes estadounidenses enseñaban a los niños que los rusos todavía eran parte de la raza humana con la misma capacidad para el bien (sobrehumano) que todos los demás. compare esto con la diversidad del elenco de la serie Star Trek “” el original, que también tenía un personaje ruso (Pavel Chéjov, interpretado por Walter Koenig) para demostrar que la humanidad viaja a través de las estrellas como una sola.
The MSI Titan 18 HX returns in 2024, reclaiming its title as the best gaming laptop for those looking to splurge on the most over-the-top desktop replacement money can buy.
The Titan 18 HX, like its 2023 predecessor, the MSI GT77 Titan HX, is a $5,000 desktop PC masquerading as a gaming laptop. Clocking in at just under 8 lbs/4kg, you’re going to feel this one if you ever have to actually carry it anywhere, and most backpacks out there won’t even fit it. This laptop, then, will be relegated to your desk with the occasional trip to another room at most.
While it sacrifices portability, it does come with some absolutely bonkers hardware, including a 175W RTX 4090 mobile GPU, a 95W Intel Core i9-14900HX processor, up to 128GB DDR5 RAM, and up to 4TB SSD storage, with one of its three M.2 SSDs slots being a PCIe 5.0 interface for the best SSD speeds possible (though it doesn’t come with a PCIe 5.0 drive, you’ll have to provide that yourself). Throw in the world’s first 18-inch 120Hz 4K+ mini LED display with 120Hz refresh and HDR1000 certification, and you have the most decadently specced gaming laptops I’ve ever tested.
And before you say it, mini LED isn’t an OLED, I know, but I honestly prefer mini LED displays on gaming laptops, and this one can get you 112% of the DCI-P3 color gamut, so video editors and other creative pros might want to take note of this one as well.
Design-wise, this laptop is an improvement over its predecessor in a number of ways, not the least of which is that it does introduce some grey into the chassis to help break up the super-aggressive gamer black styling of the GT77 Titan HX (and even adds some light blue accent touches to the rear), as well as introducing a seamless trackpad and more refined curves into the keydeck.
The Titan 18 HX’s mechanical keyboard, meanwhile, features Cherry MX ultra low-profile switches that are a dream to type on, and the seamless trackpad is adequate for basic use; but as with any gaming laptop, you’ll probably want to use the best gaming mouse you have handy while actually gaming.
Given the laptop’s size, MSI was able to pack in some powerful speakers that provide a much more immersive audio experience than you’ll find on a lot of other laptops. Of course, you’ll have to turn the volume up to drown out the whine of the laptop’s cooling system, which can get noticeably loud under strain. You can adjust this in the MSI Center, though it will come at the cost of performance.
Speaking of performance, gaming on this laptop is an absolute joy. The very best PC games run buttery smooth at max settings, and while enabling ray tracing at the laptop’s native 3840x2400p resolution on some titles will require you to use DLSS upscaling to get a playable framerate at 4K, that’s the case with even the best graphics card in a desktop PC.
Still, for the amount of money this laptop will cost you, you could also be forgiven for asking if it’s really worth the price. If you’re the type to ask such a question, don’t worry, it’s an easy question to answer: this laptop isn’t for you. If you want the absolute best gaming performance in a theoretically portable form factor and money isn’t an object for you? Well, you are exactly the person this laptop is designed to cater to, and you won’t find many, if any, better gaming laptops on the market than the MSI Titan 18 HX.
MSI Titan 18 HX: Price and availability
(Image credit: Future / John Loeffler)
How much is it? Starting at $4,999.99 / £4,379.98 / AU$6,999
When is it available? It is available now.
Where can you get it? You can get it in the US, UK, and Australia
The MSI Titan 18 HX is available now in the US, UK, and Australia, starting at $4,999.99 / £4,379.98 / AU$6,999. All configurations come with an Intel Core i9-14900HX processor and 4K+ mini LED display, and the US has two configurations on sale right now. They both feature an Nvidia RTX 4090 mobile GPU and 4TB storage, with the only difference being a choice between 64GB or 128GB RAM.
In the UK, the Titan 18 HX starts with an Nvidia RTX 4080 GPU, 64GB DDR5 RAM, and 2TB PCIe 4.0 storage, and goes up as high as an RTX 4090 with 128GB RAM and 4TB storage. In Australia, the Titan 18 HX starts with an RTX 4080 GPU, 32GB RAM, and 2TB storage, and goes up to an RTX 4090, 128GB RAM, and 4TB storage.
In no universe is this a cheap gaming laptop, and it’s challenging to think of another 18-inch laptop that goes quite this hard on the specs. Even the Alienware m18 R2 pulls back from a full 4K display, much less 4K+, and tops out at 64GB RAM. Even upping the m18 R2’s storage to 8TB with everything else maxed out doesn’t even bring you up to the MSI Titan 18 HX’s starting price.
Again, I can’t stress this enough, only those with the deepest pockets need consider this one.
MSI Titan 18 HX: Specs
(Image credit: Future / John Loeffler)
This is easily the most obscenely configured gaming laptop I’ve ever laid hands on, and I wouldn’t be surprised if you could still play the latest AAA games at max settings at 4K for the rest of the decade. The hardware will likely physically fail on you before this thing is rendered obsolete when it comes to gaming or high-end performance.
17.3-inch IPS, 4K 144Hz Mini LED, HDR 1000, 100% DCI-P3
Ports
3 x USB-A 3.2 Gen 2, 2 x Thunderbolt 4 with DisplayPort (1 with PD3.1), 1 x SDCard reader, 1 x 3.5mm combo jack, 1 x HDMI 2.1, 1 x RJ45 Ethernet, 1 x Kensington lock
3 x USB-A 3.2 Gen 2, 2 x Thunderbolt 4 with DisplayPort (1 with PD3.1), 1 x SDCard reader, 1 x 3.5mm combo jack, 1 x HDMI 2.1, 1 x RJ45 Ethernet, 1 x Kensington lock
3 x USB 3.2 Gen 2, 2 x Thunderbolt 4 w/ DP, 1 x HDMI 2.1, 1 x Mini DisplayPort 1.4, 1 x 3.5mm combo jack
Connectivity
Wi-Fi 7, Bluetooth 5.4
Wi-Fi 7, Bluetooth 5.4
Wi-Fi 6E, Bluetooth 5.1
Battery
99.9 WHr
99.9 WHr
99.9 WHr
Dimensions
15.9 x 12.08 x 1.26 ins | 403.86 x 306.83 x x 32mm
15.9 x 12.08 x 1.26 ins | 403.86 x 306.83 x x 32mm
15.63 x 12.99 x 0.91 inches | 397 x 329.95 x 23.11 mm
Weight
7.93 lbs | 3.86kg
7.93 lbs | 3.86kg
7.28 lbs | 3.30 kg
MSI Titan 18 HX: Design
(Image credit: Future / John Loeffler)
Gorgeous mini LED display
Improved chassis aesthetics
Ports galore
Low-profile mechanical keyboard with Cherry MX switches
The MSI Titan 18 HX introduces several improvements over last year’s Titan, while generally keeping the fairly Decepticon-like aesthetic that the Titan is known for.
Starting with the sheer size of the thing, it’s slightly bigger than its predecessor, a feat I didn’t think possible. It also adds about 0.5 lbs to its weight, making it by far the heaviest laptop I’ve used in at least a decade or more.
Image 1 of 5
(Image credit: Future / John Loeffler)
(Image credit: Future / John Loeffler)
(Image credit: Future / John Loeffler)
(Image credit: Future / John Loeffler)
(Image credit: Future / John Loeffler)
Opening it up, you’ll find a low-profile mechanical keyboard with Cherry MX switches for some seriously smooth typing. The trackpad has gone seamless, as well, offering a glassy but responsive surface for your palms and fingertips to glide over. The trackpad itself is responsive, with good feedback, though a gaming mouse or controller is recommended for higher-level precision.
(Image credit: Future / John Loeffler)
The Titan 18 HX comes loaded with 4x2W up-firing speakers on either side of the keyboard, as well as 2x2W subwoofers for extra bass, all of which work together to create some very rich sound, at least as far as laptop speakers go.
(Image credit: Future / John Loeffler)
The IR webcam also gets an upgrade over last year’s model, now at full HD as opposed to 720p, and features a physical privacy shutter, which you always love to see on a laptop.
(Image credit: Future / John Loeffler)
The display though is the big feature here with a speedy 120Hz refresh rate on a 3840x2400p mini LED panel that is bright and vibrant. It also has VESA DisplayHDR 1000 certification for a fantastic color contrast with deep blacks, and covers 112% of the DCI-P3 color gamut according to our tests.
(Image credit: Future / John Loeffler)
In terms of ports, having a chassis this big means you can cram in a lot of ports, and the Titan 18 HX does not disappoint. You get three USB-A 3.2 Gen 2 ports, two Thunderbolt 4 ports with DP output (with one featuring PD3.1 certification for fast charging devices), one HDMI 2.1 port that can push 120Hz video at 4K, an SDCard slot, an RJ45 ethernet port, and a 3.5mm combo jack. You even get a Kensington lock slot for good measure.
Overall, this is one of the best-looking MSI gaming laptops I’ve seen this year, and its wealth of features, ports, and more make it a standout device before we even get to its performance.
MSI Titan 18 HX: Performance
(Image credit: Future / John Loeffler)
Best-in-class performance
Able to hit 60 FPS at 2400p on most games without upscaling
Upscaling can get you 60 FPS or better in games with ray tracing turned on
This gaming laptop absolutely puts some of the best gaming PCs to shame with its performance. Its 2400p resolution understandably taxes the hardware when playing high-end games at its native resolution at max settings, but in titles like Assassin’s Creed Mirage, Assassin’s Creed Valhalla, Shadow of the Tomb Raider, and Far Cry 6, the Titan 18 HX is easily able to clear 60 FPS at 4K on its highest settings, and that’s not even factoring in any graphics upscaling.
Turn upscaling on, where available, and you can push the limits of the display’s refresh rate on most games. If you factor in ray tracing, though, you can get in the neighborhood of 60 FPS or higher with appropriate upscaling, and on games like Cyberpunk 2077, it’s an absolute necessity if you want to max everything out and get a better-than-just-playable frame rate.
Looking at its competitors, though, among the other 18-inch gaming laptops we’ve tested in our labs so far this year, none can match what the MSI Titan 18 HX brings to the table in terms of performance. The fact its competitors are all limited to 1600p QHD+ displays means that if you want the absolute bleeding edge of what laptop gaming can deliver in terms of 4K visual spectacle, the Titan 18 HX is really your only option.
MSI Titan 18 HX: Battery life
(Image credit: Future / John Loeffler)
Terrible battery life, but it’ll rarely be on battery power anyway
Charging to full will take you a couple of hours
Understandably, battery life is not this laptop’s greatest strength, but to call it a weakness is a bit unfair. This is not the kind of laptop you’ll use unplugged for any length of time, as you would one of the best ultrabooks or a MacBook Pro.
This is a desktop replacement, so even though its two hours and 40 minutes of battery life while surfing the web is a pretty funny data point for a $5,000 laptop, you’ll never actually use the Titan 18 HX this way outside of extremely rare instances. Its bulk will make it difficult to bring it anywhere period, much less somewhere that doesn’t have an available wall outlet.
Still, compared to other 18-inch gaming laptops, the Titan 18 HX’s battery performance still falls about 20% below the class average of three hours and 27 minutes. That means it doesn’t get a total pass from me on battery life, but it is hardly a factor anyone should realistically consider for a laptop like this.
Should you buy the MSI Titan 18 HX?
Swipe to scroll horizontally
MSI Titan 18 HX Scorecard
Value
This is the most expensive gaming laptop on the market right now, something even best-in-class performance can’t fully negate.
★★☆☆☆
Specs
These are the strongest specs I’ve ever seen on a gaming laptop.
★★★★★
Design
The aesthetic improvements over the 2023 Titan HX are welcome, but the 4K+ mini LED display steals the show here.
★★★★☆
Performance
What else is there to say? This is the best performing gaming laptop we’ve tested.
★★★★★
Battery Life
Its performance comes at the price of terrible battery life. Lucky for you, you’ll almost never run it on battery power anyway.
★★☆☆☆
Total
While it’s hard to give this laptop a perfect score given its price and laughable battery life, as far as desktop replacements go, this is the best there is. You’ll just have to pay through the nose for the privilege.
★★★★★
Buy the MSI Titan 18 HX if…
Don’t buy it if…
Also consider
If my MSI Titan 18 HX review has you considering other options, here are three other laptops to consider:
How I tested the MSI Titan 18 HX
I spent about a month testing the Titan 18 HX
I used our standard suite of benchmark tests
I primarily played games on the Titan 18 HX, though I also used it for general computing and content creation
I spent about a month with the MSI Titan 18 HX, using it as an everyday work machine at home while gaming at night once work was done. I also used it for content creation work with AdobePhotoshop.
This is a gaming laptop, first and foremost, so I tested it with our standard battery of gaming benchmarks and other benchmarks that check for CPU, GPU, and overall system performance.
I’ve been reviewing laptops for TechRadar for nearly half a decade now, and as a lifelong PC gamer, I know how games should run on given hardware, and how much that hardware should cost you to maximize the value to the consumer. I also have a Master’s Degree in Computer Science, so I’m able to really dig in and analyze the nitty-gritty of the hardware in a way many other reviews can’t.
