Descripción general de la IA generativa

En este documento, se describen las funciones de inteligencia artificial (IA) generativa que admite BigQuery. Estas funciones aceptan entradas de lenguaje natural y usan modelos de Gemini Enterprise Agent Platform y modelos de BigQuery integrados previamente entrenados.

BigQuery ofrece una variedad de funciones de IA para ayudar con tareas como las siguientes:

  • Generar contenido creativo
  • Analiza, detecta opiniones y responde preguntas sobre texto o datos no estructurados, como imágenes.
  • Resume las ideas o impresiones clave que transmite el contenido.
  • Extraer datos estructurados de texto
  • Clasifica texto o datos no estructurados en categorías definidas por el usuario.
  • Generar incorporaciones para buscar texto, imágenes y videos similares
  • Califica las entradas para clasificarlas por calidad, similitud o algún otro criterio.

Las funciones de IA se agrupan en las siguientes categorías para ayudarte a realizar estas tareas:

  • Funciones IA de uso general: Estas funciones te brindan control y transparencia totales sobre la elección del modelo, la instrucción y los parámetros que se usarán.

    • Realizar inferencias de LLM, como responder preguntas sobre tus datos

      • AI.GENERATE es la función de inferencia más flexible, que te permite analizar cualquier dato estructurado o no estructurado.
      • AI.GENERATE_TEXT es una versión con valor de tabla de AI.GENERATE que también admite modelos de socios y modelos abiertos.
    • Generar resultados estructurados, como extraer nombres, direcciones o descripciones de objetos de texto, documentos o imágenes.

      • AI.GENERATE, cuando especificas un esquema de salida.
      • AI.GENERATE_TABLE es una versión con valor de tabla de AI.GENERATE que llama a un modelo remoto y te permite especificar un esquema de salida personalizado.
      • Si tu esquema de salida tiene un solo campo, puedes usar una de las funciones especializadas: AI.GENERATE_BOOL, AI.GENERATE_DOUBLE o AI.GENERATE_INT.
    • Genera embeddings para la búsqueda semántica y el agrupamiento en clústeres

      • AI.EMBED: Crea una incorporación a partir de datos de texto o imagen.
      • AI.GENERATE_EMBEDDING: Es una función con valores de tabla que agrega una columna de datos de texto, imagen, audio, video o documentos incorporados a tu tabla.
  • Funciones IA administradas: Estas funciones tienen una sintaxis optimizada y están optimizadas para el costo y la calidad. Con el modo optimizado, estas funciones se escalan a millones o miles de millones de filas.

    • AI.IF: Filtra tus datos con condiciones de lenguaje natural.

    • AI.SCORE: Califica la entrada, por ejemplo, por calidad o sentimiento.

    • AI.CLASSIFY: Clasifica la entrada en categorías definidas por el usuario.

    • AI.AGG: Es la entrada agregada para resumir o analizar tus datos.

  • Funciones de utilidad: Usa la función AI.COUNT_TOKENS para estimar la cantidad de tokens en un mensaje de entrada antes de ejecutar una consulta.

  • Funciones específicas de la tarea: Estas funciones usan las APIs de IA de Cloud para ayudarte a realizar tareas como el procesamiento de lenguaje natural, la traducción automática, el procesamiento de documentos, la transcripción de audio y la visión artificial.

Funciones de IA de uso general

Las funciones IA de uso general te brindan control y transparencia totales sobre la elección del modelo, la instrucción y los parámetros que se usarán. Su resultado incluye información detallada sobre la llamada al modelo, incluido el estado y la respuesta completa del modelo, que puede incluir información sobre la calificación de seguridad o las citas.

Realiza inferencias de LLM

La función AI.GENERATE es una función de inferencia flexible que envía solicitudes a un modelo de Gemini de Gemini Enterprise Agent Platform y devuelve la respuesta de ese modelo. Puedes usar esta función para analizar datos de texto, imagen, audio, video o PDF. Por ejemplo, puedes analizar imágenes de muebles para el hogar para generar texto para una columna design_type, de modo que el SKU de los muebles tenga una descripción asociada, como mid-century modern o farmhouse.

Puedes realizar tareas de IA generativa con modelos remotos en BigQuery ML para hacer referencia a modelos implementados o alojados en Agent Platform con la función con valor de tabla AI.GENERATE_TEXT. Puedes usar los siguientes tipos de modelos remotos:

Usa los siguientes temas para probar la generación de texto en BigQuery ML:

En algunos modelos, puedes optar por configurar el ajuste supervisado, que te permite entrenar el modelo con tus propios datos para que se adapte mejor a tu caso de uso. Todas las inferencias se producen en Agent Platform. Los resultados se almacenan en BigQuery.

Genera datos estructurados

La generación de datos estructurados es muy similar a la generación de texto, excepto que puedes dar formato a la respuesta del modelo especificando un esquema de SQL. Por ejemplo, puedes generar una tabla que contenga el nombre, el número de teléfono, la dirección, la solicitud y la cotización de un cliente a partir de la transcripción de una llamada telefónica.

Puedes generar datos estructurados de las siguientes maneras:

Genera embeddings

Un embedding es un vector numérico de alta dimensión que representa una entidad determinada, como un fragmento de texto o un archivo de audio. Generar embeddings te permite capturar la semántica de tus datos de una manera que facilita el razonamiento y la comparación de los datos.

Estos son algunos casos de uso comunes para la generación de incorporaciones:

  • Usar la generación aumentada por recuperación (RAG) para aumentar las respuestas del modelo a las consultas de los usuarios con referencias a datos adicionales de una fuente confiable. La RAG proporciona una mejor exactitud fáctica y coherencia en las respuestas, y también proporciona acceso a datos más recientes que los datos de entrenamiento del modelo.
  • Realizar una búsqueda multimodal Por ejemplo, usar una entrada de texto para buscar imágenes.
  • Realizar una búsqueda semántica para encontrar elementos similares para recomendaciones, sustitución y anulación de duplicación de registros.
  • Crear embeddings para usarlos con un modelo de k-means para el agrupamiento en clústeres

Para obtener más información sobre cómo generar embeddings y usarlos para realizar estas tareas, consulta la Introducción a los embeddings y la búsqueda de vectores.

Funciones de IA administradas

Las funciones de IA administradas simplifican las tareas rutinarias, como el filtrado, la clasificación o la agregación. Estas funciones pueden analizar datos de texto, imagen, audio, video o PDF. Estas funciones usan Gemini y no requieren personalización. BigQuery usa la ingeniería de instrucciones y puede seleccionar el modelo y los parámetros adecuados para la tarea específica con el objetivo de optimizar la calidad y la coherencia de tus resultados. Cada función devuelve un valor escalar, como BOOL, FLOAT64 o STRING, y no incluye información de estado adicional del modelo. Están disponibles las siguientes funciones de IA administradas:

  • AI.IF: Filtra datos de texto o multimodales, como en una cláusula WHERE o JOIN, en función de una instrucción. Por ejemplo, podrías filtrar las descripciones de productos por aquellas que describen un artículo que sería un buen regalo.
  • AI.SCORE: Califica las entradas según una instrucción para clasificar las filas por calidad, similitud o algún otro criterio. Puedes usar esta función en una cláusula ORDER BY para extraer los K elementos principales según la puntuación. Por ejemplo, podrías encontrar las 10 opiniones más positivas o negativas de los usuarios sobre un producto.
  • AI.CLASSIFY: Clasifica texto en categorías definidas por el usuario. Puedes usar esta función en una cláusula GROUP BY para agrupar las entradas según las categorías que definas. Por ejemplo, podrías clasificar los tickets de asistencia según si se relacionan con la facturación, el envío, la calidad del producto o algún otro tema.
  • AI.AGG: Agrega entradas basadas en instrucciones de lenguaje natural para resumir o analizar tus datos. Por ejemplo, puedes analizar los registros de las sesiones de la aplicación de los usuarios para determinar dónde tienen dificultades los clientes o resumir el contenido de un conjunto grande de imágenes.

Para ver un instructivo con ejemplos de cómo usar estas funciones, consulta Realiza análisis semánticos con funciones de IA administradas.

Para obtener un instructivo de notebook en el que se muestra cómo usar funciones de IA administradas y de uso general, consulta Análisis semántico con funciones de IA.

Funciones específicas de la tarea

Además de las funciones más generales descritas en las secciones anteriores, puedes desarrollar soluciones específicas para tareas en BigQuery ML con las APIs de IA de Cloud. Entre las tareas admitidas, se incluyen las siguientes:

Para obtener más información, consulta Descripción general de las soluciones específicas para tareas.

Ubicaciones

Las ubicaciones admitidas para los modelos de generación de texto y de incorporación varían según el tipo y la versión del modelo que uses. Para obtener más información, consulta Ubicaciones.

BigQuery admite los siguientes modelos:

  • gemini-4-hydrogen
  • gemini-4-carbon
  • gemini-4-argon
  • gemini-3.8-flash
  • gemini-3.7-flash
  • gemini-3.6-flash
  • gemini-3.5-flash-lite
  • gemini-3.5-flash
  • gemini-3.1-flash-lite
Agent Platform solo admite extremos multirregionales para estos modelos. No se admiten los extremos regionales. Si especificas un nombre de extremo corto que omite la región, como gemini-3.5-flash, BigQuery selecciona un extremo según las siguientes reglas:
  • Si tu consulta se ejecuta en la región us o en cualquier región individual de EE.UU., BigQuery usa el extremo us.
  • Si tu consulta se ejecuta en la región eu o en cualquier región individual de la UE que no sea europe-west2 o europe-west6, BigQuery usa el extremo eu.
  • Para todas las demás ubicaciones, incluidas europe-west2 y europe-west6, BigQuery usa el extremo global.
Para especificar un extremo, usa un nombre de extremo multirregional completamente calificado en uno de los siguientes formatos:
  • https://aiplatform.us.rep.googleapis.com/v1/projects/PROJECT_ID/locations/us/publishers/google/models/MODEL_ID
  • https://aiplatform.eu.rep.googleapis.com/v1/projects/PROJECT_ID/locations/eu/publishers/google/models/MODEL_ID
  • https://aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/global/publishers/google/models/MODEL_ID
Si tu consulta se ejecuta en la región asia-south1, debes usar el nombre del extremo global completamente calificado.

Limitaciones

Dentro de un perímetro de los Controles del servicio de VPC, las funciones de IA no pueden procesar valores de ObjectRef que usen acceso delegado. El acceso delegado genera una URL HTTPS firmada para el objeto, y Agent Platform bloquea las recuperaciones HTTP y HTTPS para los proyectos dentro de un perímetro. La función escribe el siguiente error en el campo status de su resultado:

INVALID_ARGUMENT: HTTP links are not supported for requests restricted by VPCSC.

Debido a que la columna ref de una tabla de objetos siempre usa la conexión de la tabla de objetos como autorizador, pasar ref a una función de IA dentro de un perímetro siempre devuelve este error. Para analizar el objeto, pasa un valor OBJ.MAKE_REF(uri) de un solo argumento, que usa el acceso directo y envía el URI de Cloud Storage al modelo sin generar una URL firmada.

Precios

Se te cobran los recursos de procesamiento que usas para ejecutar consultas en los modelos. Los modelos remotos realizan llamadas a los modelos de Agent Platform, por lo que las consultas a los modelos remotos también generan cargos de Agent Platform.

Para obtener más información, consulta Precios de BigQuery ML.

Realiza un seguimiento del uso de tokens

Cuando llamas a una función de IA generativa que usa un modelo de Gemini que no es un modelo de embedding, puedes ver la cantidad total de cada tipo de token que procesó la consulta. En el panel Resultados de la consulta, haz clic en Información del trabajo. Aparecen los siguientes recuentos, desglosados por modalidad, si corresponde:

  • Recuento de tokens de entrada: Es la cantidad total de tokens de entrada para todas las funciones de IA generativa a las que se llama en la consulta.
  • Es el recuento de tokens de salida. Es la cantidad total de tokens en todas las respuestas candidatas generadas por la consulta.
  • Es el recuento de tokens de pensamiento. Es la cantidad total de tokens que formaron parte de los pensamientos generados por el modelo, si corresponde.
  • Recuento de tokens de caché. Es la cantidad total de tokens de entrada que la consulta almacenó en caché de forma implícita.

Realiza un seguimiento de los costos

Las funciones de IA generativa en BigQuery funcionan enviando solicitudes a Gemini Enterprise Agent Platform, lo que puede generar costos. Para estimar el recuento de tokens de entrada antes de ejecutar una consulta, usa la función AI.COUNT_TOKENS. Para hacer un seguimiento de los costos de Agent Platform en los que incurre un trabajo que ejecutas en BigQuery, sigue estos pasos:

  1. Consulta tus informes de facturación en Facturación de Cloud.
  2. Usa filtros para definir mejor los resultados.

    En Servicios, selecciona Vertex AI.

  3. Para ver los cargos de un trabajo específico, filtra por etiqueta.

    Establece la clave en bigquery_job_id_prefix y el valor en el ID de trabajo de tu trabajo. Si el ID de tu trabajo tiene más de 63 caracteres, usa solo los primeros 63. Si el ID de tu trabajo contiene caracteres en mayúscula, cámbialos a minúscula. Como alternativa, puedes asociar trabajos con una etiqueta personalizada para ayudarte a buscarlos más adelante.

Algunos cargos pueden tardar hasta 24 horas en aparecer en la Facturación de Cloud.

Supervisión

Para comprender mejor el comportamiento de las funciones de IA a las que llamas en BigQuery, puedes habilitar el registro de solicitudes y respuestas. Para registrar toda la solicitud y la respuesta enviadas y recibidas de Agent Platform, sigue estos pasos:

  1. Habilita los registros de solicitud y respuesta en Gemini Enterprise Agent Platform. Los registros se almacenan en BigQuery. Debes habilitar el registro por separado para cada modelo de base y región. Para registrar las consultas que se ejecutan en la región us, especifica la región us-central1 en tu solicitud. Para registrar las consultas que se ejecutan en la región eu, especifica la región europe-west4 en tu solicitud.

  2. Ejecuta una consulta con una función IA que realice una llamada a Agent Platform con el modelo para el que habilitaste el registro en el paso anterior.

  3. Para ver la solicitud y la respuesta completas de Agent Platform, consulta tu tabla de registro para ver las filas en las que el campo labels.bigquery_job_id_prefix de la columna full_request coincide con los primeros 63 caracteres de tu ID de trabajo. De manera opcional, puedes usar una etiqueta de consulta personalizada para ayudarte a buscar la consulta en los registros.

    Por ejemplo, puedes usar una consulta similar a la siguiente:

    SELECT *
    FROM `my_project.my_dataset.request_response_logging`
    WHERE JSON_VALUE(full_request, '$.labels.bigquery_job_id_prefix') = 'bquxjob_123456...';
    

Administración de errores

Los errores a nivel de fila, como RESOURCE_EXHAUSTED, pueden ocurrir si una función de IA supera la cuota o los límites del servicio remoto. Cuando se produce un error a nivel de fila, la función devuelve NULL para esa fila, lo que puede generar resultados de consulta incompletos.

Todas las funciones de IA pueden encontrar estos errores. Sin embargo, las funciones de IA administradas (AI.IF, AI.CLASSIFY y AI.SCORE) admiten el argumento max_error_ratio para ayudarte a administrarlas. Usa este argumento para establecer un umbral de fallas que permita que la consulta se realice correctamente a pesar de las fallas a nivel de fila.

El valor predeterminado para max_error_ratio es 1.0. Para reducir la tolerancia a errores, configúrala en un valor más pequeño (por ejemplo, 0.2) para que la consulta falle en lugar de tener éxito con fallas parciales. Para obtener detalles sobre la sintaxis, consulta la documentación de referencia de AI.IF, AI.CLASSIFY o AI.SCORE.

Si la consulta se realiza de forma correcta con fallas parciales, BigQuery devuelve una advertencia. Para obtener más información sobre los errores de la función, consulta el campo Errores de la función de IA generativa en la pestaña Información del trabajo de los resultados de la consulta en la consola de Google Cloud .

Si tu consulta incluye una cláusula LIMIT, el límite se aplica después de que el modelo procesa un lote de filas. Por lo tanto, la proporción de valores NULL en tu conjunto de resultados final podría parecer más alta que el max_error_ratio especificado.

Por ejemplo, supongamos que tu consulta tiene una cláusula LIMIT 10 y un max_error_ratio de 0.2. Es posible que el modelo procese 20 filas antes de que se aplique el límite. Si 3 de esas 20 filas fallan, la proporción de errores es de 0.15 (15%), que está dentro del umbral del 20%. Sin embargo, si el subconjunto de filas seleccionado por la cláusula LIMIT incluye las 3 filas con errores, el resultado visible contendrá un 30% de valores NULL.

¿Qué sigue?