- Investigadores chinos han modificado el modelo Meta Lama para uso de inteligencia militar
- ChatBIT expone los riesgos de la tecnología de inteligencia artificial de código abierto
- Meta se distancia de aplicaciones militares no autorizadas de LAMA
El modelo Llama AI de Meta es Código abierto Es de uso gratuito, pero los términos de licencia de la empresa establecen claramente el modelo. Diseñado únicamente para aplicaciones no militares.
Sin embargo, ha habido preocupaciones sobre cómo se verifica la tecnología de código abierto para garantizar que no se utilice para fines incorrectos, y las últimas especulaciones confirman la validez de estas preocupaciones, con informes recientes que afirman que investigadores chinos con vínculos con el Ejército Popular de Liberación ( PLA) han creado un modelo de IA centrado en el ejército llamado ChatBIT usando una llama.
El surgimiento de ChatBIT resalta el potencial y los desafíos de la tecnología de código abierto en un mundo donde el acceso a la inteligencia artificial avanzada se considera cada vez más una cuestión de seguridad nacional.
Un modelo chino de inteligencia artificial para la inteligencia militar
Un estudio reciente realizado por seis investigadores chinos de tres instituciones, incluidas dos asociadas con la Academia de Ciencias Militares (AMS) del Ejército Popular de Liberación, describe el desarrollo de ChatBIT, que se construyó utilizando una versión inicial del modelo Llama de Meta.
Al incorporar sus parámetros en el modelo de lenguaje grande Llama 2 13B, los investigadores pretendían producir una herramienta de inteligencia artificial centrada en el ejército. Los artículos académicos de seguimiento posteriores describen cómo se adaptó ChatBIT para manejar diálogos militares específicos y ayudar en las decisiones operativas, con el objetivo de funcionar a aproximadamente el 90% de la capacidad de GPT-4. Sin embargo, aún no está claro cómo se calcularon estas métricas de desempeño, ya que no se han revelado procedimientos de prueba detallados ni aplicaciones de campo.
Según se informa, analistas familiarizados con la inteligencia artificial y la investigación militar china revisaron estos documentos y respaldaron las afirmaciones sobre el desarrollo y la funcionalidad de ChatBIT. Afirman que las métricas de rendimiento informadas en ChatBIT son consistentes con aplicaciones experimentales de IA, pero señalan que la falta de métodos de medición claros o conjuntos de datos accesibles dificulta la confirmación de las afirmaciones.
Además, llevó a cabo una investigación Reuters Proporciona otra capa de apoyo, citando fuentes y analistas que han revisado materiales que vinculan a investigadores afiliados al Ejército Popular de Liberación de China con el desarrollo de ChatBIT. La investigación señala que estos documentos y entrevistas revelan los intentos del ejército chino de reutilizar un metamodelo de código abierto para misiones estratégicas y de inteligencia, lo que lo convierte en el primer ejemplo informado públicamente de un ejército nacional que adapta el modelo de lenguaje Llama con fines defensivos.
El uso de IA de código abierto con fines militares ha reavivado el debate sobre los posibles riesgos de seguridad asociados con la tecnología disponible públicamente. Meta, al igual que otras empresas de tecnología, otorgó licencias a las llamas con restricciones claras contra su uso en aplicaciones militares. Sin embargo, como ocurre con muchos proyectos de código abierto, imponer tales restricciones es prácticamente imposible. Una vez que el código fuente está disponible, se puede modificar y reutilizar, lo que permite a los gobiernos extranjeros adaptar la tecnología a sus propias necesidades. El caso de ChatBIT es un ejemplo sorprendente de este desafío, donde las metaintenciones son anuladas por aquellas con diferentes prioridades.
Esto ha llevado a nuevos llamados dentro de Estados Unidos para controles de exportación más estrictos y mayores restricciones a la capacidad de China para acceder a tecnologías de código abierto y estándares abiertos como RISC-V. Estas medidas tienen como objetivo impedir que las tecnologías estadounidenses apoyen desarrollos militares potencialmente hostiles. Los legisladores también están explorando formas de limitar las inversiones estadounidenses en los sectores de inteligencia artificial, semiconductores y computación cuántica de China para limitar el flujo de experiencia y recursos que podrían impulsar el crecimiento de la industria tecnológica de China.
A pesar de las preocupaciones que rodean a ChatBIT, algunos expertos cuestionan su eficacia dados los datos relativamente limitados utilizados en su desarrollo. Según se informa, el modelo fue entrenado en 100.000 registros de diálogos militares, un número relativamente pequeño en comparación con los enormes conjuntos de datos utilizados para entrenar modelos de lenguajes modernos en Occidente. Los analistas señalan que esto puede limitar la capacidad de ChatBIT para manejar tareas militares complejas, especialmente cuando otros grandes modelos de lenguaje se entrenan en billones de puntos de datos.
Meta también respondió a estos informes afirmando que Llama 2 13B LLM utilizado para desarrollar ChatBIT ahora es una versión desactualizada, ya que Meta ya está trabajando en Llama 4. La compañía también se ha distanciado del PLA, diciendo que cualquier uso indebido de Llama no está autorizado. . “Cualquier uso de nuestros modelos por parte del EPL no está autorizado y es contrario a nuestra política de uso aceptable”, dijo Molly Montgomery, directora de políticas públicas de Meta.
a través de Los dispositivos de Tom
También te puede gustar
