Glosario de IA generativa

En este glosario, se definen los términos relacionados con la inteligencia artificial (IA) generativa.

Agentes de IA

Un agente de IA es una aplicación que alcanza un objetivo procesando entradas, realizando razonamientos con las herramientas disponibles y tomando medidas en función de sus decisiones. Los agentes de IA usan la llamada a funciones para dar formato a la entrada y garantizar interacciones precisas con herramientas externas. En el siguiente diagrama, se muestran los componentes de un agente de IA:

Un agente de IA consta de una capa de organización, un modelo y herramientas.

Como se muestra en el diagrama anterior, los agentes de IA constan de los siguientes componentes:

  • Organización: La capa de organización de un agente administra la memoria, el estado y la toma de decisiones controlando el plan, el uso de herramientas y el flujo de datos. La organización incluye los siguientes componentes:
    • Perfil e instrucciones: El agente asume un rol o una personalidad específicos para dirigir sus acciones y la toma de decisiones.
    • Memoria: Para mantener el contexto y el estado, el agente conserva la memoria a corto y largo plazo. La memoria a corto plazo contiene el contexto inmediato y la información necesaria para la tarea actual. La memoria a largo plazo conserva el historial completo de la conversación.
    • Razonamiento y planificación: El agente usa el modelo para realizar la descomposición y la reflexión de las tareas y, luego, crea un plan. Primero, el agente separa la instrucción del usuario en subcomponentes para controlar tareas complejas llamando a una o más funciones. A continuación, el agente reflexiona sobre los resultados de la función usando el razonamiento y los comentarios para mejorar la respuesta.
  • Modelo: Cualquier modelo de lenguaje generativo que procese objetivos, cree planes y genere respuestas. Para obtener un rendimiento óptimo, un modelo debe admitir la llamada a funciones y debe entrenarse con firmas de datos de herramientas o pasos de razonamiento.
  • Herramientas: Es una colección de herramientas que incluye APIs, servicios o funciones que recuperan datos y realizan acciones o transacciones. Las herramientas permiten que los agentes interactúen con datos y servicios externos.

Para las aplicaciones que requieren una toma de decisiones autónoma, una administración compleja de flujos de trabajo de varios pasos o experiencias adaptables, los agentes de IA tienen un mejor rendimiento que los modelos de base estándar. Los agentes se destacan por resolver problemas en tiempo real con datos externos y por automatizar tareas que requieren muchos conocimientos. Estas capacidades permiten que un agente proporcione resultados más sólidos que las capacidades pasivas de generación de texto de los modelos de base.

Para obtener más información sobre los agentes de IA, consulta Qué es un agente de IA.

ventana de contexto

Una ventana de contexto es la cantidad de tokens que un modelo de base puede procesar en una instrucción determinada. Una ventana de contexto más grande permite que el modelo acceda a más información y la procese, lo que genera respuestas más coherentes, pertinentes y completas.

Los modelos de Gemini se crearon con ventanas de contexto largas para controlar estas cantidades más grandes de información. Para dar una idea de la escala, un modelo con una ventana de contexto de 1 millón de tokens puede procesar cualquiera de las siguientes entradas:

  • 50,000 líneas de código (con el estándar de 80 caracteres por línea)
  • Todos los mensajes de texto que enviaste en los últimos 5 años
  • 8 novelas en inglés de extensión promedio
  • Transcripciones de más de 200 episodios de podcasts de duración promedio
  • 1 hora de video sin audio
  • Aproximadamente 45 minutos de video con audio
  • 9.5 horas de audio

Para obtener más información sobre las prácticas recomendadas para las instrucciones de contexto largo, consulta Contexto largo.

embedding

Un embedding es una representación numérica de datos, como texto, imágenes o videos, que captura las relaciones entre diferentes entradas. Las incorporaciones se generan durante la fase de entrenamiento de un modelo, en la que se convierten texto, imágenes y videos en arrays de números de punto flotante que se llaman vectores. Los embeddings suelen reducir la dimensionalidad de los datos, lo que ayuda a mejorar la eficiencia computacional y a permitir el procesamiento de grandes conjuntos de datos. Esta reducción de la dimensionalidad es fundamental para entrenar e implementar modelos complejos.

Los modelos de aprendizaje automático (AA) requieren que los datos se expresen en un formato que puedan procesar. Los embeddings cumplen con ese requisito, ya que asignan datos a un espacio vectorial continuo en el que una mayor proximidad refleja puntos de datos que tienen significados similares. Los embeddings permiten que los modelos distingan patrones y relaciones con matices que se ocultarían en los datos sin procesar.

Por ejemplo, los modelos de lenguaje grandes (LLM) se basan en embeddings para comprender el contexto y el significado del texto. Esa comprensión permite que el LLM genere respuestas coherentes y pertinentes. En la generación de imágenes, los embeddings capturan las características visuales de las imágenes, lo que permite que los modelos creen resultados realistas y diversos.

Los sistemas que usan la generación aumentada por recuperación (RAG) dependen de los embeddings para hacer coincidir las consultas de los usuarios con el conocimiento pertinente. Cuando se plantea una consulta, se convierte en un embedding, que luego se compara con los embeddings de los documentos que se encuentran dentro de la base de conocimiento. Esta comparación, que se facilita con las búsquedas de similitud en el espacio vectorial, permite que el sistema recupere la información más pertinente desde el punto de vista semántico.

Para obtener más información sobre los modelos de embedding y los casos de uso, consulta Descripción general de las APIs de Embedding.

modelo de base

Los modelos de base son modelos grandes y potentes que se entrenan con grandes cantidades de datos, que suelen abarcar varias modalidades, como texto, imágenes, video y audio. Estos modelos usan el modelado estadístico para predecir las respuestas probables a las instrucciones y generar contenido nuevo. Aprenden patrones de sus datos de entrenamiento, como patrones de lenguaje para la generación de texto y técnicas de difusión para la generación de imágenes.

Google ofrece una variedad de modelos de base de IA generativa a los que se puede acceder a través de una API administrada. Para acceder a los modelos de base que están disponibles en Google Cloud, usa el Model Garden de Vertex AI.

llamada a funciones

La llamada a funciones es una función que conecta modelos de lenguaje grandes (LLM) con herramientas externas, como APIs y funciones, para mejorar las respuestas del LLM. Esta función permite que los LLM vayan más allá del conocimiento estático y mejoren las respuestas con información y servicios en tiempo real, como bases de datos, sistemas de administración de relaciones con clientes y repositorios de documentos.

Para usar la llamada a funciones, debes proporcionarle al modelo un conjunto de funciones. Luego, cuando envías una instrucción al modelo, este puede seleccionar y llamar a las funciones según tu solicitud. El modelo analiza la instrucción y, luego, genera datos estructurados que especifican a qué función llamar y los valores de los parámetros. El resultado de datos estructurados llama a la función y, luego, devuelve los resultados al modelo. El modelo incorpora los resultados en su razonamiento para generar una respuesta. Este proceso permite que el modelo acceda a información que está más allá de su conocimiento interno y la use, lo que le permite realizar tareas que requieren datos o procesamiento externos.

La llamada a funciones es un componente fundamental en la arquitectura de los agentes de IA. La llamada a funciones proporciona una forma estructurada para que el modelo especifique qué herramienta usar y cómo dar formato a la entrada, lo que ayuda a garantizar interacciones precisas con sistemas externos.

Para obtener más información sobre las llamadas a funciones en Gemini, consulta Introducción a las llamadas a funciones.

IA generativa

La IA generativa es un tipo de IA que va más allá del enfoque tradicional de la IA en la clasificación y la predicción. Los modelos de IA tradicionales aprenden de los datos existentes para clasificar información o predecir resultados futuros según patrones históricos. La IA generativa usa modelos de base para generar contenido nuevo, como texto, imágenes, audio o videos. Este contenido nuevo se genera aprendiendo los patrones y el estilo subyacentes de los datos de entrenamiento, lo que permite que el modelo cree resultados que se parezcan a los datos con los que se entrenó.

Obtén más información sobre cuándo usar la IA generativa y los casos de uso empresarial de la IA generativa.

grounding

La fundamentación es el proceso de conectar los resultados de un modelo con fuentes de información verificables. Estas fuentes pueden proporcionar información práctica y específica del contexto, como documentación interna de la empresa, datos específicos del proyecto o registros de comunicación. La fundamentación ayuda a mejorar la exactitud, confiabilidad y utilidad de los resultados de la IA, ya que proporciona al modelo acceso a fuentes de datos específicas. La fundamentación reduce la probabilidad de que se produzcan alucinaciones, es decir, instancias en las que el modelo genera contenido que no es fáctico. Un tipo común de fundamentación es la generación aumentada por recuperación (RAG), que implica recuperar información externa relevante para mejorar las respuestas del modelo.

Para obtener más información sobre la fundamentación con la Búsqueda de Google, consulta Descripción general de la fundamentación.

modelo de lenguaje grande (LLM)

Un modelo de lenguaje grande (LLM) es un modelo de base basado en texto que se entrena con una gran cantidad de datos. Los LLM se usan para realizar tareas de procesamiento de lenguaje natural (PLN), como la generación de texto, la traducción automática, el resumen de textos y la respuesta de preguntas. El término LLM a veces se usa de forma indistinta con modelos de base. Sin embargo, los LLM se basan en texto, mientras que los modelos de base se pueden entrenar con varias modalidades, como texto, imágenes, audio y video, y recibir entradas de ellas.

Para aprender los patrones y las relaciones dentro del lenguaje, los LLM usan técnicas como el aprendizaje por refuerzo y el ajuste de instrucciones. Cuando diseñas instrucciones, es importante tener en cuenta los diversos factores que pueden influir en las respuestas del modelo.

latencia

La latencia es el tiempo que tarda un modelo en procesar una instrucción de entrada y generar una respuesta. Cuando examines la latencia de un modelo, ten en cuenta lo siguiente:

  • Tiempo hasta el primer token (TTFT): Es el tiempo que tarda el modelo en producir el primer token de la respuesta después de recibir la instrucción. El TTFT es importante para las aplicaciones de transmisión en las que deseas recibir comentarios inmediatos.
  • Tiempo hasta el último token (TTLT): Es el tiempo total que tarda el modelo en procesar la instrucción y generar la respuesta completa.

Para obtener información sobre cómo reducir la latencia, consulta Prácticas recomendadas con modelos de lenguaje grandes (LLM).

ingeniería de instrucciones

La ingeniería de instrucciones es el proceso iterativo de crear una instrucción y acceder a la respuesta del modelo para obtener la respuesta que deseas. Escribir instrucciones bien estructuradas puede ser fundamental para obtener respuestas precisas y de alta calidad de un modelo de lenguaje.

A continuación, se indican algunas técnicas comunes que puedes usar para mejorar las respuestas:

  • Instrucciones sin ejemplos: Proporciona una instrucción sin ejemplos y confía en el conocimiento preexistente del modelo.
  • Instrucciones con un solo ejemplo: Proporciona un solo ejemplo en la instrucción para guiar la respuesta del modelo.
  • Instrucciones con algunos ejemplos: Proporciona varios ejemplos en la instrucción para demostrar el patrón o la tarea que deseas.

Cuando proporcionas ejemplos a un modelo, ayudas a controlar aspectos de su respuesta, como el formato, la redacción, el alcance y los patrones generales. Las instrucciones eficaces con algunos ejemplos combinan instrucciones claras con ejemplos específicos y variados. Es importante experimentar para determinar la cantidad óptima de ejemplos. Es posible que muy pocos ejemplos no proporcionen suficiente orientación, pero demasiados ejemplos pueden hacer que el modelo se sobreajuste a los ejemplos y no se generalice bien.

Para obtener más información sobre las prácticas recomendadas para crear instrucciones, consulta Descripción general de las estrategias de instrucciones.

de pensamientos

Una instrucción es una solicitud en lenguaje natural que se envía a un modelo de IA generativa para obtener una respuesta. Según el modelo, una instrucción puede contener texto, imágenes, videos, audio, documentos y otras modalidades, o incluso varias modalidades (en cuyo caso decimos que es “multimodal”).

Una instrucción eficaz consta de contenido y estructura. El contenido proporciona toda la información pertinente de la tarea, como instrucciones, ejemplos y contexto. La estructura garantiza un análisis eficiente a través de la organización, lo que incluye el orden, el etiquetado y los delimitadores. Según el resultado que desees, puedes considerar componentes adicionales.

parámetros del modelo

Los parámetros del modelo son variables internas que usa un modelo para determinar cómo procesa los datos de entrada y cómo genera los resultados. Durante el entrenamiento, puedes ajustar los parámetros del modelo, como el peso y el sesgo, para optimizar su rendimiento. Durante la inferencia, puedes influir en el resultado del modelo a través de varios parámetros de instrucciones, lo que no cambia directamente los parámetros del modelo aprendido.

Los siguientes son algunos de los parámetros de instrucciones que afectan la generación de contenido en la API de Gemini en Vertex AI:

  • temperature: La temperatura cambia la aleatoriedad de la selección de tokens durante la generación de respuestas, lo que influye en la creatividad y la previsibilidad del resultado. El valor de temperature varía de 0 a 1. Las temperaturas más bajas (más cercanas a 0) producen resultados más determinísticos y predecibles. Las temperaturas más altas (más cercanas a 1) generan texto más diverso y creativo, pero los resultados son potencialmente menos coherentes.
  • topP: Top-P cambia la manera en la que el modelo muestrea y selecciona los tokens para el resultado. Top-P selecciona el conjunto más pequeño de tokens cuya probabilidad acumulativa supera un umbral, o p, y, luego, toma muestras de esa distribución. El valor de topP varía de 0 a 1. Por ejemplo, si los tokens A, B y C tienen una probabilidad de 0.3, 0.2 y 0.1, y el valor de topP es 0.5, el modelo elegirá A o B como el siguiente token usando la temperatura y excluirá a C como candidato.
  • topK: Top-K cambia la manera en la que el modelo muestrea y selecciona los tokens para el resultado. Top-K selecciona los tokens con mayor probabilidad estadística para generar una respuesta. El valor de topK representa una cantidad de tokens de 1 a 40, entre los que el modelo elegirá antes de generar una respuesta. Por ejemplo, si los tokens A, B, C y D tienen una probabilidad de 0.6, 0.5, 0.2 y 0.1, y el valor Top-K es 3, el modelo elegirá A, B o C como el siguiente token usando la temperatura y excluirá a D como candidato.
  • maxOutputTokens: El parámetro de configuración maxOutputTokens cambia la cantidad máxima de tokens que se pueden generar en la respuesta. Un valor más bajo generará respuestas más cortas, y un valor más alto generará respuestas potencialmente más largas.

Para obtener más información sobre los parámetros de muestreo en la API de Gemini en Vertex AI, consulta Parámetros de generación de contenido.

generación aumentada por recuperación (RAG)

La generación aumentada por recuperación (RAG) es una técnica para mejorar la calidad y la exactitud del resultado del modelo de lenguaje grande (LLM) a través de la fundamentación con fuentes de conocimiento que se recuperan después de que se entrenó el modelo. La RAG aborda las limitaciones de los LLM, como las imprecisiones fácticas, la falta de acceso a información actual o especializada y la incapacidad de citar fuentes. Cuando se proporciona acceso a la información que se recupera de bases de conocimiento o documentos confiables, incluidos los datos con los que no se entrenó el modelo, los datos de propiedad o los datos sensibles específicos del usuario, la RAG permite que los LLM generen respuestas más confiables y contextualmente pertinentes.

Cuando un modelo que usa RAG recibe tu instrucción, el proceso de RAG completa estas etapas:

  1. Recuperación: Se buscan datos que sean pertinentes para la instrucción.
  2. Mejorar: Agrega los datos recuperados a la instrucción.
  3. Generar:
    1. Indica al LLM que cree un resumen o una respuesta que se base en la instrucción aumentada.
    2. Devuelve la respuesta.

Para obtener más información sobre Vertex AI y RAG, consulta Descripción general de Vertex AI RAG Engine.

tokens

Un token es una unidad básica de datos que procesa un modelo de base. Los modelos separan los datos de una instrucción en tokens para su procesamiento. El conjunto de todos los tokens que usa un modelo se denomina vocabulario. Los tokens pueden ser caracteres individuales, como z, palabras completas, como cat, o partes de palabras más largas.

Los tokenizadores separan las palabras largas, como los términos complejos o técnicos, las palabras compuestas o las palabras con signos de puntuación y caracteres especiales, en varios tokens. El proceso de dividir el texto en tokens se llama tokenización. El objetivo de la asignación de token es crear tokens con significado semántico que se puedan recombinar para comprender la palabra original. Por ejemplo, la palabra "predefined" se puede dividir en los siguientes tokens: "pre", "define", "ed".

Los tokens pueden representar entradas multimodales, como imágenes, videos y audio. Las técnicas de embedding transforman la entrada multimodal en representaciones numéricas que el modelo puede procesar como tokens. A continuación, se muestran los cálculos aproximados de tokens para una entrada multimodal de ejemplo, independientemente del tamaño de la pantalla o del archivo:

  • Imágenes: 258 tokens en total
  • Video: 263 tokens por segundo
  • Audio: 32 tokens por segundo

Cada modelo tiene un límite en la cantidad de tokens que puede manejar en una instrucción y una respuesta. Además, los costos de uso del modelo se calculan en función de la cantidad de tokens de entrada y salida. Para obtener información sobre cómo obtener el recuento de tokens de una instrucción que se envió a un modelo de Gemini, consulta Enumera y cuenta tokens. Para obtener información sobre el costo de los modelos de IA generativa en Vertex AI, consulta Precios de Vertex AI.

Ajuste

El ajuste es el proceso de adaptar un modelo de base para realizar tareas específicas con mayor precisión y exactitud. El ajuste se logra ajustando algunos o todos los parámetros del modelo, o entrenando un modelo con un conjunto de datos que contenga ejemplos que repliquen las tareas y los resultados que deseas. El ajuste es un proceso iterativo, que puede ser complejo y costoso, pero tiene el potencial de generar mejoras significativas en el rendimiento. El ajuste es más eficaz cuando tienes un conjunto de datos etiquetado que tiene más de 100 ejemplos y deseas realizar tareas complejas o únicas en las que las técnicas de instrucciones no son suficientes.

Las siguientes son técnicas de ajuste que admite Vertex AI:

  • Ajuste completo: Es una técnica que actualiza todos los parámetros del modelo durante el proceso de ajuste. El ajuste completo puede ser costoso desde el punto de vista computacional y puede requerir muchos datos, pero también tiene el potencial de lograr los niveles más altos de rendimiento, en especial para tareas complejas.
  • Ajuste eficiente de parámetros: Es una técnica que también se conoce como ajuste de adaptadores. El ajuste eficiente de parámetros actualiza algunos de los parámetros del modelo durante el proceso de ajuste. El ajuste eficiente de los parámetros es más eficiente en cuanto a recursos y rentable en comparación con el ajuste completo.
  • Ajuste supervisado: Es una técnica que entrena el modelo con pares de entrada y salida etiquetados. El ajuste supervisado se usa de uso frecuente para tareas que involucran clasificación, traducción y resumen.

Para obtener más información sobre el ajuste, consulta Introducción al ajuste.