Apple quiere utilizar chips de Amazon para entrenar sus propios modelos de IA
Imagen: manzana
Apple utiliza chips de inteligencia artificial personalizados de Amazon Web Services para impulsar sus servicios de búsqueda. La compañía también está evaluando si puede utilizar los últimos chips de inteligencia artificial de Amazon para entrenar previamente los modelos de inteligencia de Apple.
Benoît Dupin, director senior de aprendizaje automático e inteligencia artificial de Apple, reveló estos descubrimientos en una aparición sorpresa en la conferencia anual Amazon Reinvent de AWS AWS re:Reinvent.
Los chips de IA de AWS personalizados proporcionan una mejora de eficiencia de hasta un 50 %
Es raro que Apple hable públicamente y elogie a uno de sus proveedores o vendedores. Durante su aparición, Dobbin reveló que Apple ha estado utilizando Amazon Web Services para impulsar sus servicios en la nube, como iCloud, Apple Maps y Siri, durante más de una década.
El ejecutivo destacó que el uso de chips personalizados de Amazon supuso un aumento del 40% en la eficiencia. Dadas estas ventajas, Apple está considerando utilizar chips de IA personalizados de AWS para entrenar previamente sus modelos de IA.
Curiosamente, el director ejecutivo de AWS, Matt Jarman, reveló esto CNBC Apple acudió a Amazon y le preguntó cómo podían ayudar a desarrollar capacidades de IA generativa y la infraestructura necesaria para ello.
“En las primeras etapas de evaluación de Trainium2, anticipamos una mejora de la eficiencia de hasta un 50 % con la preinstalación”, señala Dobbin.
Apple Intelligence seguirá utilizando la Private Cloud Compute basada en silicio de Apple
En la Cumbre de AWS, Amazon anunció la disponibilidad general de sus chips Trainium2 para entrenar e implementar LLM (Large Language Models). Una instancia EC2 que ejecuta Trainium2 está equipada con 16 chips T2. Esto permite a Instnace ofrecer hasta 20,8 petaflops de rendimiento informático.
Tenga en cuenta que Apple sólo planea utilizar los chips de IA personalizados de Amazon para entrenar previamente sus modelos de IA. No los usará para obtener poder. inteligencia de manzana Características. Para esto último, la empresa utiliza una infraestructura de computación en la nube privada, que Utiliza servidores M2 ultrapotentes. Y planea cambiar a una versión más rápida y Más variantes con motor M4 llegarán el próximo año.
La mayoría de las empresas utilizan la GPU Nvidia para el entrenamiento de IA. Apple es una excepción notable, ya que utiliza su propio Apple Silicon u otros SoC que no son x86 para entrenar sus modelos de IA.