El 5 de diciembre de 2023 se lanzó AI Alliance, con el objetivo de priorizar el desarrollo de una IA abierta, responsable y beneficiosa para todos.
IBM, junto con líderes de la industria como Meta, AMDy Intelformó la coalición para impulsar un ecosistema de IA confiable que beneficiaría a la ciencia y la tecnología tanto como a las empresas comerciales.
Ahora, un año después, la Alianza alberga a más de 140 organizaciones con 93 proyectos activos que llevan los beneficios de la IA de código abierto a la empresa privada, la educación y la investigación en centros urbanos y entornos rurales de todo el mundo.
Bases sólidas de IBM Granite
En el IBM Research Lab en Zurich, Anthony Annunziata, director de estrategia de IA abierta de IBM y jefe de AI Alliance, explicó cómo IBM está ayudando a defender la IA de código abierto para garantizar un entorno de IA seguro y confiable. Específicamente, un entorno capaz de proporcionar nuevas aplicaciones y herramientas capaces de mejorar las habilidades y la educación de los trabajadores y los formuladores de políticas por igual.
Numerosos estudios han demostrado que las organizaciones están preparadas y dispuestas a aprovechar los beneficios de la IA, pero les preocupan cuestiones como la gobernanza, la privacidad y la confianza en la tecnología. Herramientas de inteligencia artificial Eligieron usarlo. En realidad, Investigaciones recientes Afirmó que las empresas en el Reino Unido están luchando por avanzar en los proyectos de adopción de IA y se ven obligadas a cancelar proyectos de desarrollo de IA debido a problemas regulatorios y de gestión de datos.
Annunziata espera que aquí sea donde los modelos de IA de código abierto como IBM Granite puedan ayudar. IBM ha lanzado Granite 3.0 A principios de 2024, bajo la licencia Apache 2.0, permitirá a las empresas aprovechar un modelo de IA que rivaliza con los modelos más potentes en puntos de referencia como recuperación de generación aumentada (RAG), clasificación, resumen, extracción de entidades y utilización de herramientas.
Además, gracias a los principios de AI Alliance, IBM está fortaleciendo la confianza con las empresas al construir modelos en Granite 3 utilizando sus propios datos, proporcionando información abierta sobre el desarrollo del modelo en sí, además de proporcionar compensación de propiedad intelectual a todas las empresas. Sus modelos de granito están en watsonx.ai.
El código abierto beneficia a todos
El mundo académico se ha quedado rezagado con respecto a las instituciones privadas en la adopción y el acceso a modelos de IA debido a la falta de transparencia en la forma en que se procesan y utilizan los datos. La ciencia es, y debería ser, por naturaleza un recurso abierto y accesible, lo que hace que el desarrollo de modelos de IA de código abierto sea esencial para que la investigación se beneficie de esta tecnología revolucionaria.
Para algunos, como el cofundador de Pleias, Ivan Yamshikov, la apertura se mide de manera amplia, y simplemente poner la palabra “abierto” en el nombre de una empresa no es garantía de un modelo seguro, especialmente cuando el argumento a favor de la confianza en un código no abierto El modelo es simplemente “Confía en mí, hermano”, dice Yamshikov.
Por lo tanto, con IBM y AI Alliance impulsando el desarrollo de modelos de código abierto, el mundo académico finalmente puede contribuir plenamente a la investigación de IA y aprovechar los beneficios de la tecnología. Además, es posible ver los datos con los que se entrenó el modelo para evaluar su calidad, lo que permitirá una mayor confianza en la IA, ya que amenazas como el envenenamiento de datos o el jailbreak serán visibles.
Elías Zamora Celero, director de datos de Sevilla, se hace eco de los sentimientos de Yamchikov y presenta sus motivaciones para unirse a AI Alliance en dos palabras: “conocimiento” y “comunidad”. Además, dice Celero, la comunidad académica ha podido demostrar a las empresas, a otros sectores de investigación e incluso al mundo del deporte que la IA de código abierto es confiable, segura y fiable, lo que permite una mayor adopción y desarrollo de nuevas tecnologías.
Para Celero, AI Alliance es un centro que fomenta la interacción y la colaboración entre industrias y sectores que antes no habrían trabajado juntos en el entorno abierto al que estaba acostumbrado el mundo académico.
Los beneficios en el mundo real son de particular interés para Mary Ann Hartley, directora e investigadora principal del Laboratorio de Tecnologías Inteligentes de Salud Global y Respuesta Humanitaria (LIGHT). Hartley, llamando desde un hospital en Kenia, enfatizó que AI Alliance representa lo que organizaciones como LIGHT hacen naturalmente como una empresa de código abierto y acceso abierto.
Para Hartley, existen enormes beneficios al utilizar la IA en entornos rurales donde “la falta de recursos puede ser reemplazada por información”, especialmente en entornos médicos donde la falta de recursos no es el problema principal y que, a veces, “lo más valioso que podemos dar es un paciente es información.” Además, sin acceso a tecnología de código abierto, a los sectores de bajos recursos se les ha negado en el pasado el acceso a tecnología que tiene el potencial de salvar vidas.
¿Persisten los riesgos?
Esto no significa que la IA de código abierto esté exenta de riesgos. Cuando se le preguntó sobre el posible uso indebido de la tecnología, Hartley señala los mismos riesgos inherentes al campo médico con cada nueva práctica, tecnología o medicamento, cada uno de los cuales se mide en términos de riesgo versus recompensa. Para LIGHT en particular, no utilizar esta tecnología es probablemente el mayor riesgo, y los modelos de código abierto permiten a las organizaciones mantener el control mientras salvan vidas.
Como se mencionó anteriormente, la filtración de datos y la gobernanza son un problema importante en los modelos de IA, pero introducir la IA en un entorno altamente confidencial como un hospital conlleva los mismos riesgos que presentarla en un banco o una compañía de seguros. La diferencia con el modelo de código abierto es que los datos se pueden descartar y los datos de los pacientes se pueden eliminar.
Yamshikov plantea el desarrollo de la imprenta de Gutenberg en comparación con la IA, señalando que el libro más impreso en ese momento era la Biblia, seguida de cerca por materiales relacionados con la caza de brujas. Es posible que haya muerto gente como resultado de la invención de la imprenta por parte de Gutenberg, pero el problema no fue la tecnología en sí, sino la desinformación de los medios. Por lo tanto, los modelos de código abierto pueden ayudarnos a abordar nuestros prejuicios internos y nuestro escepticismo hacia las nuevas tecnologías al brindar transparencia y confianza.