在 AI 赋能的应用中,用户希望通过自然语言(文本或语音)进行交互,这就要求 AI 智能体能够查询运营数据库并返回准确、可解释的答案。
QueryData 是 Google Cloud的自然语言数据查询产品。它将核心业务逻辑的快速、确定性执行与灵活处理自然措辞和意外问题的能力相结合。这种方法可提供近乎 100% 的准确率、较低的在线延迟时间和经过认证的可解释性。
QueryData 支持 AlloyDB for PostgreSQL、Cloud SQL for PostgreSQL、Cloud SQL for MySQL、Spanner(GoogleSQL 方言)、与 MongoDB 兼容的 Firestore 以及 Bigtable。
为什么简单的 LLM SQL 生成在生产环境中会失败
将大语言模型 (LLM) 直接连接到数据库架构(标准文本到 SQL 或 NL2SQL)在原型中效果很好,在基本问题上通常可以达到 80% 到 90% 的准确率。然而,在生产环境中,让 LLM 根据原始架构从头开始生成 SQL 通常会失败,原因有五个:
- 无提示语义失败:与代码生成(语法错误会明显失败)不同,LLM 在面对模糊问题时很少会说“我不知道”。相反,它会编写看似合理且能顺利执行 (
200 OK) 的 SQL,但会返回一个看似正确实则错误的答案,例如省略了必需的状态过滤条件,或使用了错误的公式和测量值。 - 架构中缺少未成文的业务逻辑:架构定义了表和数据类型,而不是业务运营方式。如果用户向房地产应用询问“德尔马好学校附近的房源”,架构并未定义多远的距离算“附近”、多高的评分算“好学校”,或者如何权衡距离与学校质量。如果没有这些规则,LLM 就只能猜测。
- 不透明的私密数据和实体歧义:LLM 是基于公开事实进行训练的,而不是基于存储在私有表中的字符串或用户拼写错误的方式(尤其是语音输入)。在“Westwod 过去一个月内售出的房产”这个问题中,仅依赖架构的大语言模型无法判断“Westwod”是“Westwood”的拼写错误,也无法确定数据库中的“Westwood”是城市、自治市还是经纪公司。
- 延迟时间与准确率之间的权衡:如果为智能体提供原始 SQL 工具,让其在多轮循环中探索表、对行进行采样并自我更正,则每个问题的延迟时间会超过 30 秒,这对于交互式应用来说太慢了。相反,如果将业务规则塞进庞大的系统提示中,会导致指令冲突,即修复一个查询会悄无声息地破坏其他查询。
- 不受控制的数据泄露:在标准应用中,后端代码会严格控制运行哪些查询以及用户可以查看哪些行。当 LLM 根据不受信任的用户输入动态生成 SQL 时,如果仅依靠提示指令来保护敏感指标或租户数据,数据库很容易受到提示操纵攻击。
可用于生产用途的解决方案需要满足的要求
生产环境应用要求核心工作流具有近乎 100% 的准确率、始终如一的快速在线延迟、透明的可解释性、对意外问题的泛化能力,以及在数据访问至关重要的情况下严格的安全性。
要满足这些要求,需要超越开放式 SQL 生成,具备以下三项基本能力:
- 易于整理的离线领域上下文:上下文是高准确率的基础。生产系统需要离线准备结构化领域上下文,而不是强制 LLM 在运行时推断业务规则和表关系。必须自动整理和维护这些上下文,以免工程团队陷入手动编写脆弱规则的困境。
- 快速、确定性的在线匹配,可泛化并解释其工作:低在线延迟需要一个引擎,该引擎可快速将问题与经过验证的上下文进行匹配、解析数据库值、解释应用的确切业务规则,并向用户呈现歧义,而不是猜测。同时,系统不能是死板的报告菜单。它必须能够利用相关上下文和架构元数据,在各种措辞、过滤条件组合和意外问题之间进行泛化。
- 确定性安全边界:由于自然语言界面会将不可信的用户输入连接到数据库,因此安全性至关重要。生产解决方案不能依赖 LLM 提示来强制执行访问规则。它必须在数据库和上下文层强制执行确定性控制(包括多租户应用的行级隐私),以防止未经授权的数据泄露。
QueryData 产品如何实现这一目标
QueryData 产品不仅仅是 QueryData API 端点。它作为一个统一的两部分系统运行,将设计时上下文工程与快速、确定性的运行时执行和泛化相结合。
设计时上下文工程
为了离线捕获网域逻辑,您需要将数据库与上下文集配对,并使用上下文工程智能体对其进行精选:
- 超越原始架构的结构化领域上下文:除了数据库的表和列说明之外,上下文集还存储数据库的预编译领域知识。虽然网域上下文可以有多种形式,但上下文集支持三种专门的上下文类型:
- 查询模板:与通用问题模式匹配的参数化 SQL 模式,并配有经过认证的意图说明,以便用户验证 QueryData 如何解读核心业务问题。
- 查询分面:模块化 SQL 过滤条件谓词和 Vector Search,可与模板动态组合,因此紧凑的上下文集可涵盖数百种过滤条件组合。
- 值搜索:快速、确定性的数据库查找,可解决拼写错误、将用户术语映射到确切的列和值,并识别术语何时与多个概念匹配。
- 自动化精选和爬山法:您无需手动编写上下文文件,而是在 CLI 或 IDE(例如 Antigravity 或 Claude Code)中运行 Context Engineering Agent,以自动执行优化循环:
- 生成黄金基准:根据数据库架构、种子查询和应用代码库构建并扩展具有代表性的问题-SQL 对。
- 自动爬山:使用 Evalbench 评估
QueryDataAPI,诊断根本原因故障模式,编写通用上下文,并从 CLI 自动上传改进的上下文集,直到准确率收敛。 - 在留存测试集上进行验证:在优化结束时,针对未见过的问题变体对最终上下文集进行一次评估,以确认准确率可以泛化到实际流量,而不会出现过拟合。
运行时查询执行
在生产环境中,您的智能体 Harness(例如智能体开发套件 (ADK)、LangChain、Antigravity 或 Claude Code)会直接或通过 MCP Toolbox for Databases 将用户问题发送到 对话式分析 API 中的 QueryData API 端点:
- 执行速度快、结果确定,且具有泛化能力:
- 确定性模板和分面执行:当问题与您的上下文集匹配时,无论措辞如何变化或过滤条件如何组合,
QueryDataAPI 都会解析数据库值,并将经过验证的 SQL 模板与匹配的分面组合在一起。然后,它会执行查询,并以低延迟返回答案和经过认证的意图解释。 - 歧义检测:如果提示中的某个字词与私有数据中的多个有效概念匹配,
QueryDataAPI 会返回一个消除歧义提示,以便您的智能体可以要求用户澄清,而不是猜测。 - 泛化到非预期查询:当问题不属于预定义的模板和分面时,
QueryDataAPI 会使用数据库架构元数据、值搜索和相关模板作为指导,动态合成 SQL。
- 确定性模板和分面执行:当问题与您的上下文集匹配时,无论措辞如何变化或过滤条件如何组合,
- 数据库强制执行的安全措施:为保护敏感数据免受提示操纵,QueryData 产品会与数据库级访问权限控制配合使用。对于 AlloyDB 和 Cloud SQL 上的多租户应用,参数化安全视图会将强制性的经过身份验证的用户过滤条件直接嵌入到数据库视图定义中,以便每个查询都遵循租户隔离。
价格
当您创建上下文集以及将 QueryData 与数据智能体或数据库数据源搭配使用时,系统会按照 Cloud SQL for MySQL 计算价格对运行的查询收费。在预览版期间,创建和使用上下文集和 QueryData 不会产生额外费用。如需了解详情,请参阅 Data Cloud Agent 价格。
后续步骤
- 如需了解模板、分面和值搜索如何协同工作,请参阅上下文集概览。
- 在使用上下文工程智能体构建上下文集中,自动生成上下文集并使用爬山法进行优化。
- 在将 QueryData 与应用集成中,将您的应用连接到
QueryDataAPI。 - 使用参数化安全视图安全地访问多租户数据。