Descripción general de la IA generativa
En este documento, se describen las funciones de inteligencia artificial (IA) generativa que admite BigQuery. Estas funciones aceptan entradas de lenguaje natural y usan modelos de Gemini Enterprise Agent Platform y modelos de BigQuery integrados previamente entrenados.
BigQuery ofrece una variedad de funciones de IA para ayudar con tareas como las siguientes:
- Generar contenido creativo
- Analiza, detecta opiniones y responde preguntas sobre texto o datos no estructurados, como imágenes.
- Resume las ideas o impresiones clave que transmite el contenido.
- Extraer datos estructurados de texto
- Clasifica texto o datos no estructurados en categorías definidas por el usuario.
- Generar incorporaciones para buscar texto, imágenes y videos similares
- Califica las entradas para clasificarlas por calidad, similitud o algún otro criterio.
Las funciones de IA se agrupan en las siguientes categorías para ayudarte a realizar estas tareas:
Funciones IA de uso general: Estas funciones te brindan control y transparencia totales sobre la elección del modelo, la instrucción y los parámetros que se usarán.
Realizar inferencias de LLM, como responder preguntas sobre tus datos
AI.GENERATEes la función de inferencia más flexible, que te permite analizar cualquier dato estructurado o no estructurado.AI.GENERATE_TEXTes una versión con valor de tabla deAI.GENERATEque también admite modelos de socios y modelos abiertos.
Generar resultados estructurados, como extraer nombres, direcciones o descripciones de objetos de texto, documentos o imágenes.
AI.GENERATE, cuando especificas un esquema de salida.AI.GENERATE_TABLEes una versión con valor de tabla deAI.GENERATEque llama a un modelo remoto y te permite especificar un esquema de salida personalizado.- Si tu esquema de salida tiene un solo campo, puedes usar una de las
funciones especializadas:
AI.GENERATE_BOOL,AI.GENERATE_DOUBLEoAI.GENERATE_INT.
Genera embeddings para la búsqueda semántica y el agrupamiento en clústeres
AI.EMBED: Crea una incorporación a partir de datos de texto o imagen.AI.GENERATE_EMBEDDING: Es una función con valores de tabla que agrega una columna de datos de texto, imagen, audio, video o documentos incorporados a tu tabla.
Funciones IA administradas: Estas funciones tienen una sintaxis optimizada y están optimizadas para el costo y la calidad. Con el modo optimizado, estas funciones se escalan a millones o miles de millones de filas.
AI.IF: Filtra tus datos con condiciones de lenguaje natural.AI.SCORE: Califica la entrada, por ejemplo, por calidad o sentimiento.AI.CLASSIFY: Clasifica la entrada en categorías definidas por el usuario.AI.AGG: Es la entrada agregada para resumir o analizar tus datos.
Funciones de utilidad: Usa la función
AI.COUNT_TOKENSpara estimar la cantidad de tokens en un mensaje de entrada antes de ejecutar una consulta.Funciones específicas de la tarea: Estas funciones usan las APIs de IA de Cloud para ayudarte a realizar tareas como el procesamiento de lenguaje natural, la traducción automática, el procesamiento de documentos, la transcripción de audio y la visión artificial.
Funciones de IA de uso general
Las funciones IA de uso general te brindan control y transparencia totales sobre la elección del modelo, la instrucción y los parámetros que se usarán. Su resultado incluye información detallada sobre la llamada al modelo, incluido el estado y la respuesta completa del modelo, que puede incluir información sobre la calificación de seguridad o las citas.
Realiza inferencias de LLM
La función AI.GENERATE
es una función de inferencia flexible que envía
solicitudes a un modelo de Gemini de Gemini Enterprise Agent Platform y
devuelve la respuesta de ese modelo. Puedes usar esta función para analizar
datos de texto, imagen, audio, video o PDF. Por ejemplo, puedes analizar imágenes de muebles para el hogar para generar texto para una columna design_type, de modo que el SKU de los muebles tenga una descripción asociada, como mid-century modern o farmhouse.
Puedes realizar tareas de IA generativa con modelos remotos en
BigQuery ML para hacer referencia a modelos implementados
o alojados en Agent Platform con la
función con valor de tabla AI.GENERATE_TEXT.
Puedes usar los siguientes tipos de
modelos remotos:
Modelos remotos sobre cualquiera de los modelos de Gemini de disponibilidad general o en versión preliminar para analizar contenido de texto, imagen, audio, video o PDF de tablas estándar o de objetos con una instrucción que proporcionas como argumento de función.
Modelos remotos sobre Anthropic Claude, Mistral AI o modelos de socios de Llama, o modelos abiertos compatibles, para analizar una instrucción que proporcionas en una consulta o desde una columna en una tabla estándar.
Usa los siguientes temas para probar la generación de texto en BigQuery ML:
- Genera texto con un modelo de Gemini y la función
AI.GENERATE_TEXT. - Genera texto con un modelo de Gemma y la función
AI.GENERATE_TEXT. - Analiza imágenes con un modelo de Gemini.
- Para generar texto, usa la función
AI.GENERATE_TEXTcon tus datos. - Ajusta un modelo con tus datos.
En algunos modelos, puedes optar por configurar el ajuste supervisado, que te permite entrenar el modelo con tus propios datos para que se adapte mejor a tu caso de uso. Todas las inferencias se producen en Agent Platform. Los resultados se almacenan en BigQuery.
Genera datos estructurados
La generación de datos estructurados es muy similar a la generación de texto, excepto que puedes dar formato a la respuesta del modelo especificando un esquema de SQL. Por ejemplo, puedes generar una tabla que contenga el nombre, el número de teléfono, la dirección, la solicitud y la cotización de un cliente a partir de la transcripción de una llamada telefónica.
Puedes generar datos estructurados de las siguientes maneras:
La función
AI.GENERATEllama a un extremo de Agent Platform y puede generar un valorSTRUCTcon tu esquema personalizado.Para probarlo, consulta cómo usar el resultado estructurado cuando llamas a la función
AI.GENERATE.La función
AI.GENERATE_TABLEllama a un modelo remoto y es una función con valor de tabla que genera una tabla con tu esquema personalizado.Para intentar crear datos estructurados, consulta Genera datos estructurados con la función
AI.GENERATE_TABLE.Para un solo campo de salida, puedes usar una de las siguientes funciones de inferencia especializadas:
Genera embeddings
Un embedding es un vector numérico de alta dimensión que representa una entidad determinada, como un fragmento de texto o un archivo de audio. Generar embeddings te permite capturar la semántica de tus datos de una manera que facilita el razonamiento y la comparación de los datos.
Estos son algunos casos de uso comunes para la generación de incorporaciones:
- Usar la generación aumentada por recuperación (RAG) para aumentar las respuestas del modelo a las consultas de los usuarios con referencias a datos adicionales de una fuente confiable. La RAG proporciona una mejor exactitud fáctica y coherencia en las respuestas, y también proporciona acceso a datos más recientes que los datos de entrenamiento del modelo.
- Realizar una búsqueda multimodal Por ejemplo, usar una entrada de texto para buscar imágenes.
- Realizar una búsqueda semántica para encontrar elementos similares para recomendaciones, sustitución y anulación de duplicación de registros.
- Crear embeddings para usarlos con un modelo de k-means para el agrupamiento en clústeres
Para obtener más información sobre cómo generar embeddings y usarlos para realizar estas tareas, consulta la Introducción a los embeddings y la búsqueda de vectores.
Funciones de IA administradas
Las funciones de IA administradas simplifican las tareas rutinarias, como el filtrado, la clasificación
o la agregación. Estas funciones pueden analizar datos de texto, imagen, audio, video o PDF. Estas funciones usan Gemini y no requieren
personalización. BigQuery usa la ingeniería de instrucciones y puede seleccionar
el modelo y los parámetros adecuados para la tarea específica con el objetivo de optimizar
la calidad y la coherencia de tus resultados. Cada función devuelve un valor escalar,
como BOOL, FLOAT64 o STRING, y no incluye información de estado
adicional del modelo. Están disponibles las siguientes funciones de IA
administradas:
AI.IF: Filtra datos de texto o multimodales, como en una cláusulaWHEREoJOIN, en función de una instrucción. Por ejemplo, podrías filtrar las descripciones de productos por aquellas que describen un artículo que sería un buen regalo.AI.SCORE: Califica las entradas según una instrucción para clasificar las filas por calidad, similitud o algún otro criterio. Puedes usar esta función en una cláusulaORDER BYpara extraer los K elementos principales según la puntuación. Por ejemplo, podrías encontrar las 10 opiniones más positivas o negativas de los usuarios sobre un producto.AI.CLASSIFY: Clasifica texto en categorías definidas por el usuario. Puedes usar esta función en una cláusulaGROUP BYpara agrupar las entradas según las categorías que definas. Por ejemplo, podrías clasificar los tickets de asistencia según si se relacionan con la facturación, el envío, la calidad del producto o algún otro tema.AI.AGG: Agrega entradas basadas en instrucciones de lenguaje natural para resumir o analizar tus datos. Por ejemplo, puedes analizar los registros de las sesiones de la aplicación de los usuarios para determinar dónde tienen dificultades los clientes o resumir el contenido de un conjunto grande de imágenes.
Para ver un instructivo con ejemplos de cómo usar estas funciones, consulta Realiza análisis semánticos con funciones de IA administradas.
Para obtener un instructivo de notebook en el que se muestra cómo usar funciones de IA administradas y de uso general, consulta Análisis semántico con funciones de IA.
Funciones específicas de la tarea
Además de las funciones más generales descritas en las secciones anteriores, puedes desarrollar soluciones específicas para tareas en BigQuery ML con las APIs de IA de Cloud. Entre las tareas admitidas, se incluyen las siguientes:
- Procesamiento de lenguaje natural
- Traducción automática
- Procesamiento de documentos
- Transcripción de audio
- Visión artificial
Para obtener más información, consulta Descripción general de las soluciones específicas para tareas.
Ubicaciones
Las ubicaciones admitidas para los modelos de generación de texto y de incorporación varían según el tipo y la versión del modelo que uses. Para obtener más información, consulta Ubicaciones.
BigQuery admite los siguientes modelos:
gemini-4-hydrogengemini-4-carbongemini-4-argongemini-3.8-flashgemini-3.7-flashgemini-3.6-flashgemini-3.5-flash-litegemini-3.5-flashgemini-3.1-flash-lite
gemini-3.5-flash,
BigQuery selecciona un extremo según las siguientes reglas:
- Si tu consulta se ejecuta en la región
uso en cualquier región individual de EE.UU., BigQuery usa el extremous. - Si tu consulta se ejecuta en la región
euo en cualquier región individual de la UE que no seaeurope-west2oeurope-west6, BigQuery usa el extremoeu. - Para todas las demás ubicaciones, incluidas
europe-west2yeurope-west6, BigQuery usa el extremoglobal.
https://aiplatform.us.rep.googleapis.com/v1/projects/PROJECT_ID/locations/us/publishers/google/models/MODEL_IDhttps://aiplatform.eu.rep.googleapis.com/v1/projects/PROJECT_ID/locations/eu/publishers/google/models/MODEL_IDhttps://aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/global/publishers/google/models/MODEL_ID
asia-south1, debes usar el nombre del extremo global completamente calificado.
Limitaciones
Dentro de un perímetro de los Controles del servicio de VPC, las funciones de IA
no pueden procesar
valores de ObjectRef que usen
acceso delegado.
El acceso delegado genera una URL HTTPS firmada para el objeto, y
Agent Platform bloquea las recuperaciones HTTP y HTTPS
para los proyectos dentro de un perímetro. La función escribe el siguiente error en el campo status de su resultado:
INVALID_ARGUMENT: HTTP links are not supported for requests restricted by VPCSC.
Debido a que la columna ref de una
tabla de objetos siempre usa la conexión de la tabla de objetos
como autorizador, pasar ref a una función de IA dentro de un
perímetro siempre devuelve este error. Para analizar el objeto, pasa un
valor OBJ.MAKE_REF(uri) de un solo argumento, que usa
el acceso directo y envía el
URI de Cloud Storage al modelo sin generar una URL firmada.
Precios
Se te cobran los recursos de procesamiento que usas para ejecutar consultas en los modelos. Los modelos remotos realizan llamadas a los modelos de Agent Platform, por lo que las consultas a los modelos remotos también generan cargos de Agent Platform.
Para obtener más información, consulta Precios de BigQuery ML.
Realiza un seguimiento del uso de tokens
Cuando llamas a una función de IA generativa que usa un modelo de Gemini que no es un modelo de embedding, puedes ver la cantidad total de cada tipo de token que procesó la consulta. En el panel Resultados de la consulta, haz clic en Información del trabajo. Aparecen los siguientes recuentos, desglosados por modalidad, si corresponde:
- Recuento de tokens de entrada: Es la cantidad total de tokens de entrada para todas las funciones de IA generativa a las que se llama en la consulta.
- Es el recuento de tokens de salida. Es la cantidad total de tokens en todas las respuestas candidatas generadas por la consulta.
- Es el recuento de tokens de pensamiento. Es la cantidad total de tokens que formaron parte de los pensamientos generados por el modelo, si corresponde.
- Recuento de tokens de caché. Es la cantidad total de tokens de entrada que la consulta almacenó en caché de forma implícita.
Realiza un seguimiento de los costos
Las funciones de IA generativa en BigQuery funcionan enviando solicitudes a
Gemini Enterprise Agent Platform, lo que puede generar costos. Para estimar el recuento de tokens de entrada
antes de ejecutar una consulta, usa la
función AI.COUNT_TOKENS.
Para hacer un seguimiento de los costos de Agent Platform
en los que incurre un trabajo que ejecutas en BigQuery, sigue estos
pasos:
- Consulta tus informes de facturación en Facturación de Cloud.
Usa filtros para definir mejor los resultados.
En Servicios, selecciona Vertex AI.
Para ver los cargos de un trabajo específico, filtra por etiqueta.
Establece la clave en
bigquery_job_id_prefixy el valor en el ID de trabajo de tu trabajo. Si el ID de tu trabajo tiene más de 63 caracteres, usa solo los primeros 63. Si el ID de tu trabajo contiene caracteres en mayúscula, cámbialos a minúscula. Como alternativa, puedes asociar trabajos con una etiqueta personalizada para ayudarte a buscarlos más adelante.
Algunos cargos pueden tardar hasta 24 horas en aparecer en la Facturación de Cloud.
Supervisión
Para comprender mejor el comportamiento de las funciones de IA a las que llamas en BigQuery, puedes habilitar el registro de solicitudes y respuestas. Para registrar toda la solicitud y la respuesta enviadas y recibidas de Agent Platform, sigue estos pasos:
Habilita los registros de solicitud y respuesta en Gemini Enterprise Agent Platform. Los registros se almacenan en BigQuery. Debes habilitar el registro por separado para cada modelo de base y región. Para registrar las consultas que se ejecutan en la región
us, especifica la regiónus-central1en tu solicitud. Para registrar las consultas que se ejecutan en la regióneu, especifica la regióneurope-west4en tu solicitud.Ejecuta una consulta con una función IA que realice una llamada a Agent Platform con el modelo para el que habilitaste el registro en el paso anterior.
Para ver la solicitud y la respuesta completas de Agent Platform, consulta tu tabla de registro para ver las filas en las que el campo
labels.bigquery_job_id_prefixde la columnafull_requestcoincide con los primeros 63 caracteres de tu ID de trabajo. De manera opcional, puedes usar una etiqueta de consulta personalizada para ayudarte a buscar la consulta en los registros.Por ejemplo, puedes usar una consulta similar a la siguiente:
SELECT * FROM `my_project.my_dataset.request_response_logging` WHERE JSON_VALUE(full_request, '$.labels.bigquery_job_id_prefix') = 'bquxjob_123456...';
Administración de errores
Los errores a nivel de fila, como RESOURCE_EXHAUSTED, pueden ocurrir si una función de IA
supera la cuota o los límites del servicio remoto. Cuando se produce un error a nivel de fila, la función devuelve NULL para esa fila, lo que puede generar resultados de consulta
incompletos.
Todas las funciones de IA pueden encontrar estos errores. Sin embargo, las funciones de IA administradas
(AI.IF, AI.CLASSIFY y AI.SCORE) admiten el argumento max_error_ratio
para ayudarte a administrarlas. Usa este argumento para establecer un umbral de fallas que
permita que la consulta se realice correctamente a pesar de las fallas a nivel de fila.
El valor predeterminado para max_error_ratio es 1.0. Para reducir la tolerancia a errores,
configúrala en un valor más pequeño (por ejemplo, 0.2) para que la consulta falle en lugar
de tener éxito con fallas parciales. Para obtener detalles sobre la sintaxis, consulta la documentación de referencia de AI.IF, AI.CLASSIFY o AI.SCORE.
Si la consulta se realiza de forma correcta con fallas parciales, BigQuery devuelve una advertencia. Para obtener más información sobre los errores de la función, consulta el campo Errores de la función de IA generativa en la pestaña Información del trabajo de los resultados de la consulta en la consola de Google Cloud .
Si tu consulta incluye una cláusula LIMIT, el límite se aplica después de que el modelo
procesa un lote de filas. Por lo tanto, la proporción de valores NULL en tu
conjunto de resultados final podría parecer más alta que el max_error_ratio especificado.
Por ejemplo, supongamos que tu consulta tiene una cláusula LIMIT 10 y un max_error_ratio
de 0.2. Es posible que el modelo procese 20 filas antes de que se aplique el límite. Si 3 de
esas 20 filas fallan, la proporción de errores es de 0.15 (15%), que está dentro del umbral del
20%. Sin embargo, si el subconjunto de filas seleccionado por la cláusula LIMIT incluye
las 3 filas con errores, el resultado visible contendrá un 30% de valores
NULL.
¿Qué sigue?
- Para obtener una introducción a la IA y el AA en BigQuery, consulta Introducción a la IA y el AA en BigQuery.
- Para obtener más información sobre la realización de inferencias sobre los modelos de aprendizaje automático, consulta Descripción general de la inferencia de modelo.
- Para obtener más información sobre las sentencias y funciones de SQL compatibles con los modelos de IA generativa, consulta Recorridos del usuario de extremo a extremo para los modelos de IA generativa.