El Almacén de ejemplos te permite almacenar y recuperar dinámicamente varios ejemplos. Como resultado, es posible demostrar los patrones de respuesta esperados a un LLM para mejorar la calidad, la exactitud y la coherencia de sus respuestas a consultas similares.
¿Qué son los ejemplos de aprendizaje con pocos ejemplos?
Un ejemplo de pocos intentos son datos etiquetados específicos para tu caso de uso de LLM. Incluye un par de entrada-salida que demuestra la respuesta esperada del modelo para una solicitud del modelo. Puedes usar ejemplos para demostrar el comportamiento o el patrón de respuesta esperados de un LLM.
Si usas solo algunos ejemplos pertinentes, puedes abarcar un conjunto más amplio de resultados posibles, comportamientos previstos y entradas de usuario sin aumentar de forma correspondiente el tamaño o la complejidad de las instrucciones. Esto se logra incluyendo solo ejemplos pertinentes (disminuyendo la cantidad de ejemplos incluidos) y "mostrando, no diciendo" el comportamiento esperado.
El uso de algunos ejemplos es una forma de aprendizaje en contexto. Un ejemplo demuestra un patrón claro de entradas y salidas, sin explicar cómo el modelo genera el contenido. Puedes abarcar más resultados posibles o consultas de los usuarios con solo unos pocos ejemplos, sin aumentar el tamaño de la instrucción ni la complejidad del código. El uso de ejemplos no implica actualizar los parámetros del modelo previamente entrenado y no afecta la amplitud de conocimiento del LLM. Esto hace que el aprendizaje en contexto con ejemplos sea un enfoque relativamente ligero y conciso para personalizar, corregir o mejorar el razonamiento y la respuesta de un LLM a instrucciones no vistas.
Si recopilas ejemplos pertinentes que sean representativos de las consultas de tus usuarios, ayudarás al modelo a mantener la atención, demostrar el patrón esperado y rectificar el comportamiento incorrecto o inesperado. Esto no afecta a otras solicitudes que generen las respuestas esperadas.
Al igual que todas las estrategias de ingeniería de instrucciones, el uso de algunos ejemplos se suma a otras técnicas de optimización de LLM, como el ajuste o la RAG.
Cómo usar Example Store
En los siguientes pasos, se describe cómo puedes usar Example Store:
Crea o reutiliza un recurso
ExampleStore, también llamado "instancia de Example Store".- Para cada región y proyecto, puedes tener un máximo de 50 instancias de Example Store.
Escribe y sube ejemplos basados en las respuestas del LLM. Existen dos situaciones posibles:
Si el comportamiento y el patrón de respuesta del LLM son los esperados, escribe ejemplos basados en estas respuestas y súbelos a la instancia de Example Store.
Si el LLM muestra un comportamiento o patrones de respuesta inesperados, escribe un ejemplo para demostrar cómo corregir la respuesta y, luego, súbelo a la instancia de Example Store.
Los ejemplos subidos están disponibles de inmediato para el agente o la aplicación de LLM asociada con la instancia de Example Store.
Si un agente basado en el Kit de desarrollo de agentes (ADK) está vinculado a la instancia de Example Store, el agente recupera automáticamente los ejemplos y los incluye en la solicitud de LLM.
Para todas las demás aplicaciones de LLM, debes buscar y recuperar los ejemplos y, luego, incluirlos en tus instrucciones.
Puedes seguir agregando ejemplos de forma iterativa a una instancia de Example Store cada vez que observes un rendimiento inesperado del LLM o encuentres consultas de usuarios adversas o inesperadas. No es necesario que actualices el código ni vuelvas a implementar una versión nueva de tu aplicación de LLM. Los ejemplos estarán disponibles para el agente o la aplicación en cuanto los subas a la instancia de Example Store.
Además, puedes hacer lo siguiente:
Recupera ejemplos realizando una búsqueda de similitud de coseno entre las claves de búsqueda de los ejemplos almacenados y las de tu consulta.
Filtra los ejemplos por nombre de función y define mejor la lista de ejemplos candidatos para que representen las posibles respuestas del LLM.
Mejorar de forma iterativa tu agente o aplicación de LLM
Comparte ejemplos con varios agentes o aplicaciones de LLM.
Lineamientos para crear instrucciones con varios ejemplos
El impacto de los ejemplos en el rendimiento del modelo depende de los tipos de ejemplos que se incluyan en las instrucciones y de cómo se incluyan.
A continuación, se indican las prácticas recomendadas para crear ejemplos:
Relevancia y similitud: Los ejemplos deben estar estrechamente relacionados con la tarea o el dominio específicos. Esto ayuda a que el modelo se enfoque en los aspectos más relevantes de su conocimiento, disminuye el uso de tokens y mantiene o incluso mejora el rendimiento. Necesitas menos ejemplos si son pertinentes para la conversación. El corpus de los ejemplos disponibles debe ser representativo de las posibles consultas de los usuarios. Además, un ejemplo debe ser relevante para una consulta de usuario determinada.
Complejidad: Para ayudar a que el LLM tenga un mejor rendimiento, usa ejemplos de baja complejidad para demostrar el razonamiento esperado.
Representativo de los posibles resultados del modelo: Las respuestas esperadas en un ejemplo deben ser coherentes con el resultado posible. Esto permite que el ejemplo demuestre con claridad un razonamiento que sea coherente con el razonamiento esperado del LLM para la instrucción.
Formato: Para obtener el mejor rendimiento, asigna un formato a los ejemplos de aprendizaje con pocos datos en tu instrucción de una manera que sea coherente con los datos de entrenamiento del LLM y que se diferencie del historial de conversaciones. El formato de los ejemplos en una instrucción puede afectar considerablemente el rendimiento del LLM.
Ejemplo de caso de uso: Llamada a función
Puedes usar algunos ejemplos para mejorar el rendimiento de las llamadas a funciones.
Puedes indicar la llamada a función esperada para una consulta de usuario en un patrón
coherente. El ejemplo puede modelar la respuesta esperada a la solicitud incluyendo
qué función se debe invocar y los argumentos que se deben incluir en la llamada
a función. Considera un caso de uso en el que la función get_store_location devuelve la
ubicación de una tienda y su descripción. Si una consulta no invoca esta función
como se espera o muestra un resultado inesperado, puedes usar algunos ejemplos para
corregir este comportamiento en las consultas posteriores.
Para obtener más información sobre la llamada a función, consulta Llamada a función.
Para obtener más información, consulta la guía de inicio rápido de Example Store.
¿Qué sigue?
Obtén más información para crear un almacén de ejemplos.
Aprende a enseñarle a un agente con ejemplos