[ad_1]
manzana La inteligencia es quizás lo más destacado de este año. WWDCEstrechamente integrado en iOS 18, iPadOS 18 y macOS Sequoia, incluye modelos generativos avanzados para tareas cotidianas como escribir, optimizar texto, resumir notificaciones, crear imágenes y automatizar interacciones de aplicaciones.
El sistema incluye un modelo de lenguaje en el dispositivo con 3 mil millones de parámetros y un modelo más grande basado en servidor que se ejecuta en servidores de silicio de Apple a través de Private Cloud Compute (PCC). Apple dice que estos modelos básicos, junto con el modelo de codificación de Xcode y el modelo de difusión para expresión visual, respaldan una amplia gama de necesidades de usuarios y desarrolladores.
La empresa también está comprometida con los principios de la IA responsable, garantizando que las herramientas capaciten a los usuarios, representen comunidades diversas y protejan la privacidad mediante el procesamiento en el dispositivo y PCC seguro. Apple dice que sus modelos están entrenados con datos autorizados y disponibles públicamente, con filtros para eliminar información personal y contenido de baja calidad. La empresa utiliza una estrategia de datos híbrida, que combina datos humanos con datos sintéticos, y utiliza nuevos algoritmos para mejoras posteriores a la capacitación.
Estudiantes de clase humana
Para el rendimiento de inferencia, Apple dijo que ha mejorado sus modelos utilizando técnicas como atención de consultas por lotes, agrupación en clústeres de bits bajos y transformadores dinámicos. Los modelos en el dispositivo usan hasta 49K de vocabulario, mientras que los modelos de servidor usan 100K, lo que admite idiomas y códigos técnicos adicionales. Según Apple, el modelo en el dispositivo alcanza una tasa de generación de 30 tokens por segundo, con mejoras adicionales derivadas de la especulación sobre tokens.
Los transformadores, que son pequeños módulos de redes neuronales, optimizan los modelos para tareas específicas, preservando los parámetros básicos del modelo y al mismo tiempo se especializan en las características de destino. Estos adaptadores se cargan dinámicamente, lo que garantiza un uso eficiente de la memoria y una capacidad de respuesta.
La seguridad y la asistencia son primordiales en Apple Intelligence, insiste el gigante tecnológico con sede en Cupertino La empresa evalúa sus modelos a través de la evaluación humana, centrándose en afirmaciones fácticas en varias categorías. La compañía afirma que su modelo en dispositivo supera a competidores más grandes como Phi-3-mini y Mistral-7B, mientras que el modelo de servidor rivaliza con DBRX-Instruct y GPT-3.5-Turbo. Esta ventaja competitiva se destaca por la afirmación de Apple de que los evaluadores humanos prefieren sus modelos a los competidores establecidos según varios criterios, algunos de los cuales se pueden ver a continuación.
Más de TechRadar Pro
[ad_2]
Source Article Link
