Adobe Los investigadores han publicado un artículo que detalla un nuevo modelo de inteligencia artificial (IA) capaz de procesar documentos localmente en el dispositivo. El artículo publicado la semana pasada destaca que los investigadores experimentaron con modelos de lenguaje grande (LLM) y modelos de lenguaje pequeño (SLM) existentes para encontrar cómo reducir el tamaño de un modelo de IA manteniendo su potencia de procesamiento y su alta velocidad de inferencia. Como resultado de los experimentos, los investigadores pudieron desarrollar un modelo de inteligencia artificial llamado SlimLM que puede funcionar completamente dentro de un teléfono inteligente y procesar documentos.
Investigadores de Adobe están desarrollando SlimLM
El procesamiento de documentos impulsado por IA, que permite a un chatbot responder a las consultas de los usuarios sobre su contenido, es un caso de uso importante para la IA generativa. Muchas empresas, incluida Adobe, han aprovechado esta aplicación y han lanzado herramientas que proporcionan esta funcionalidad. Sin embargo, hay un problema con todas estas herramientas y es que el procesamiento de la IA se realiza en la nube. El procesamiento de datos en un servidor plantea preocupaciones sobre la privacidad de los datos y hace que el procesamiento de documentos que contienen información confidencial sea un proceso riesgoso.
El riesgo surge principalmente de la preocupación de que la empresa que proporciona la solución pueda entrenar IA en ella, o de que un incidente de violación de datos pueda provocar la filtración de información confidencial. Como solución, los investigadores de Adobe publicaron un papel En la revista en línea arXiv, detalla un nuevo modelo de IA que puede realizar el procesamiento de documentos completamente en el dispositivo.
La versión más pequeña del modelo AI, llamada SlimLM, tiene sólo 125 millones de parámetros que permiten integrarlo en el sistema operativo de un teléfono inteligente. Los investigadores afirman que puede funcionar localmente, sin necesidad de conexión a Internet. Como resultado, los usuarios pueden procesar incluso los documentos más confidenciales sin ningún temor, ya que los datos nunca salen del dispositivo.
En este artículo, los investigadores destacaron que realizaron varios experimentos en A Samsung Galaxy S24 Encontrar el equilibrio entre el tamaño del parámetro, la velocidad de inferencia y la velocidad de procesamiento. Después de optimizarlo, el equipo preinstaló el modelo en el modelo base SlimPajama-627B y lo configuró utilizando DocAssist, un software de procesamiento de documentos especializado.
En particular, arXiv es una revista preimpresa cuya publicación no requiere revisión por pares. Como tal, las afirmaciones hechas en el trabajo de investigación no pueden verificarse. Sin embargo, si esto es cierto, es posible que el modelo de IA se envíe con las plataformas de Adobe en el futuro.