El miércoles se celebró Meta Connect 2024, la conferencia de desarrolladores de la compañía. Durante el evento, el gigante de las redes sociales reveló varias características nuevas. inteligencia artificial (AI) Funciones y dispositivos portátiles. Aparte de esto, Meta también ha anunciado una asociación con el gigante tecnológico Arm para construir modelos especiales de lenguaje pequeño (SLM). Se dice que estos modelos de IA se utilizan para alimentar teléfonos inteligentes y otros dispositivos e introducir nuevas formas de utilizar estos dispositivos. La idea detrás de esto es proporcionar opciones informáticas en el dispositivo y en el borde para mantener rápida la inferencia de la IA.
Según CNET un informeMeta y Arm planean construir modelos de IA que puedan realizar tareas más avanzadas en dispositivos. Por ejemplo, la IA puede actuar como asistente virtual del dispositivo y puede realizar una llamada o hacer clic en una foto. Esto no es tan descabellado como lo es hoy, donde las herramientas de inteligencia artificial ya pueden realizar una gran cantidad de tareas como editar fotografías y redactar correos electrónicos.
Sin embargo, la principal diferencia es que los usuarios deben interactuar con la interfaz o escribir ciertos comandos para que la IA realice estas tareas. en muerto En el evento, el dúo destacó su deseo de eliminar esto y hacer que los modelos de IA sean más intuitivos y receptivos.
Una forma de hacerlo es llevar los modelos de IA al dispositivo o mantener los servidores muy cerca de los dispositivos. Este último también se conoce como computación de borde y lo utilizan instituciones de investigación y grandes empresas. Raghavan Srinivasan, vicepresidente de gestión de productos para IA generativa en Meta, dijo a la publicación que desarrollar estos nuevos modelos de IA es una buena manera de aprovechar esta oportunidad.
Por este motivo, los modelos de IA deben ser más pequeños. Si bien Meta ha desarrollado grandes modelos de lenguaje (LLM) de hasta 90 mil millones de parámetros, no son adecuados para dispositivos más pequeños o procesamiento más rápido. Se cree que los modelos Llama 3.2 1B y 3B son ideales para este propósito.
Sin embargo, otro problema es que los modelos de IA también deben estar equipados con capacidades más nuevas que vayan más allá de la simple generación de texto y la visión por computadora. Aquí es donde entra Arm. Según el informe, Meta está trabajando estrechamente con el gigante tecnológico para desarrollar modelos de IA optimizados para procesadores que puedan adaptarse al flujo de trabajo de dispositivos como teléfonos inteligentes, tabletas e incluso computadoras portátiles. Actualmente no se han compartido otros detalles sobre los SLM.