Un mensaje es un texto en lenguaje natural que se pasa a la IA generativa. La ingeniería ágil es el arte de ajustar estas afirmaciones para comunicar mejor la IA generativa.
Como explica Arturo Pozzalino, director de innovación de Epicor, el valor de la ingeniería ágil está en mejorar la forma en que la IA interpreta y responde a las consultas. Cuando se hace correctamente, garantiza que Amnistía Internacional Produce resultados relevantes, precisos y útiles.
En otras palabras, la ingeniería ágil es el proceso de diseñar entradas para un modelo de IA generativa para crear resultados valiosos.
“Lo que encuentro fascinante de este proceso es que a lo largo de la historia de las personas en el trabajo, hemos dado gran importancia a las 'respuestas' que tienen”, dice Simon Morris, vicepresidente de consultoría de soluciones de ServiceNow. “El mundo ha cambiado ahora Grandes modelos lingüísticos Contiene todas las respuestas y ahora la atención se centra en la calidad de las preguntas o indicaciones que se pueden generar.
¿Por qué necesitamos ingeniería ágil?
Al argumentar que vivimos en un mundo lleno de preguntas fascinantes en lugar de respuestas esclarecedoras, Morris dice que el valor de la ingeniería ágil es que se puede extraer valor comercial de grandes modelos de lenguaje (LLM) de una manera específica del contexto y basada en casos de uso.
Morris cree que la calidad de la respuesta está directamente relacionada con la calidad de una ingeniería rápida y eficiente, que es fundamental para aprovechar el valor de esta tecnología emergente.
La forma en que se motiva un modelo de IA generativa puede marcar una gran diferencia en el resultado, afirma Stefan Leichenauer, vicepresidente de ingeniería de SandboxAQ. Esto hace que la ingeniería ágil sea una habilidad fundamental para aprovechar los modelos GenAI de forma eficaz.
“En un contexto industrial, la ingeniería ágil puede ayudar a alinear los resultados de la IA generativa con el caso de uso empresarial específico que tenemos en mente, lo que lleva a resultados procesables”, afirma Leichenauer.
Ramesh Parthasarathy, vicepresidente senior de ingeniería de Freshworks, está de acuerdo. El valor de la ingeniería ágil, afirma, radica en su capacidad para mejorar y maximizar el rendimiento de la IA abordando los matices de los modelos subyacentes.
“Estos modelos se basan en enormes conjuntos de datos, por lo que pequeños cambios en los estímulos pueden conducir a respuestas dramáticamente diferentes”, dice Parthasarathy. Afirma que, cuando se hace correctamente, la ingeniería ágil puede ayudar a superar los sesgos, mejorar el análisis de datos y adaptar las respuestas de la IA para satisfacer necesidades empresariales específicas.
La importancia de la ingeniería ágil
Leichenauer dice que los ingenieros de Instant se especializan en maximizar la utilidad del modelo GenAI. Su función es mejorar los aportes de IA para obtener resultados precisos y relevantes.
“En términos prácticos, esto significa que las herramientas de inteligencia artificial se pueden aplicar de manera más efectiva, ya sea para generar información sobre los clientes, optimizar el proceso de creación de contenido o mejorar la eficiencia operativa”, explica. “Sin esta experiencia, las empresas corren el riesgo de obtener resultados demasiado ambiguos o inconsistentes con sus objetivos”.
Asimismo, Bozzalino cree que las empresas que aprovechan GenAI necesitan ingenieros ágiles para cerrar la brecha entre la intención humana y la comprensión de las máquinas. Explica que a medida que los ingenieros en tiempo real diseñan la interacción con los modelos de IA, ayudan a mejorar el rendimiento al crear indicaciones que provocan respuestas precisas. Esto, a su vez, mejora la eficiencia, reduce los errores y alinea los resultados de la IA con las necesidades empresariales específicas.
Mirándolo desde una perspectiva técnica, Parthasarathy dice que los ingenieros de Instant tienen como objetivo optimizar el uso de tokens y, por lo tanto, los costos, al mismo tiempo que obtienen las respuestas más apropiadas según el contexto del problema.
Sin las indicaciones adecuadas, afirma, los modelos de IA pueden producir respuestas subóptimas o incluso engañosas, un fenómeno al que a menudo se hace referencia como “basura que entra, basura sale”.
“Los ingenieros instantáneos pueden ayudar a las empresas a explotar todo el potencial de GenAI mediante la elaboración de insumos que se alineen con los objetivos de la empresa, mejoren la eficiencia y mitiguen riesgos como los resultados no deseados”, dice Parthasarathy.
Casos de uso de ingeniería inmediata
Parthasarathy explica que Agile Engineering se puede utilizar en cualquier proceso en el que necesite mejorar el resultado de un sistema GenAI.
Puede mejorar la capacidad de la IA para realizar análisis de datos, proporcionar recomendaciones personalizadas o abordar sesgos en los modelos. Explica que uno de los escenarios más utilizados es utilizar el sistema GenAI como un “asistente de contenido” que incluye redacción, traducción de idiomas, redacción de correos electrónicos, etc.
Leichenauer cree que Agile Engineering debería usarse dondequiera que tengamos GenAI, lo que la abre para su uso en todas las industrias.
Por ejemplo, si vas a tu GenAI favorito chatbot Al hacer una pregunta sin ningún contexto adicional, probablemente obtendrá una respuesta razonable escrita en unos pocos párrafos. Pero si hace la misma pregunta y al mismo tiempo solicita un resumen ejecutivo en la parte superior con algunos puntos clave, obtendrá un resultado que sea relevante para las partes interesadas de alto nivel. O puede solicitar los detalles técnicos de nivel experto necesarios para la implementación. Cada uno de ellos, explica Lechnauer, es un ejemplo de ingeniería ágil adaptada al lector.
En consecuencia, Buzzalino afirma que la ingeniería ágil no sólo es esencial para desarrollar agentes de IA conversacionales para el servicio al cliente, sino también para crear contenido de marketing personalizado, automatizar la generación de informes complejos y extraer conocimientos específicos de grandes conjuntos de datos para ayudar a tomar decisiones estratégicas.
Morris, profundizando más, afirma que los agentes de atención al cliente pueden utilizar indicaciones para encontrar soluciones a los problemas de los clientes, formular respuestas a casos y resumir casos entre agentes. Asimismo, los profesionales del marketing pueden crear campañas y crear mensajes y perspectivas de la industria.
¿Qué caracteriza a un buen ingeniero ágil?
Un buen ingeniero de spot tiene una combinación de habilidades técnicas y creativas para diseñar reclamos efectivos, dice Morris. “Más importante aún, tienen conocimiento del dominio del caso de uso que intentan habilitar, por lo que es importante que los ingenieros en tiempo real también sean excelentes entrenadores y mentores para los usuarios comerciales cotidianos”, dice Morris.
Hablando del aspecto técnico, Parthasarathy dice que un buen ingeniero local sabe cómo dirigir de manera experta modelos de IA utilizando técnicas inteligentes, como disparo cero y empuje múltiple. Explica que una toma cero funciona bien cuando le pides a un modelo algo nuevo, mientras que una toma múltiple ayuda a refinar las respuestas al dar ejemplos específicos.
Un ingeniero ágil también debe comprender las fortalezas y limitaciones de los diferentes modelos, afirma. Por ejemplo, las indicaciones que funcionan bien con el modelo Claude Sonnet pueden no ser ideales para el modelo LLaMA, por lo que adaptarlas también es una parte esencial del rol.
Al mismo tiempo, un buen ingeniero ágil es consciente de riesgos como el secuestro o el jailbreak y se asegura de que el modelo se utilice de forma responsable y permanezca protegido contra estas amenazas.
“Desde el punto de vista técnico, es fundamental equilibrar la precisión, la latencia y el coste”, afirma Parthasarathy. “Lo que se desea es que las reclamaciones sean eficientes sin sobrecargar el sistema ni agotar el presupuesto”.
