QueryData 개요

AI 기반 애플리케이션에서 사용자는 자연어(텍스트 또는 음성)를 통해 상호작용하기를 기대하며, 이를 위해서는 AI 에이전트가 운영 데이터베이스를 쿼리하고 정확하고 설명 가능한 답변을 반환해야 합니다.

QueryData는 Google Cloud의 자연어 데이터 쿼리 제품입니다. 핵심 비즈니스 로직을 위한 빠르고 결정론적인 실행과 자연스러운 표현 및 예상치 못한 질문에 대한 일반화 유연성을 결합합니다. 이 접근 방식은 100% 에 가까운 정확성, 짧은 온라인 지연 시간, 인증된 설명 가능성을 제공합니다.

QueryData는 PostgreSQL용 AlloyDB, PostgreSQL용 Cloud SQL, MySQL용 Cloud SQL, Spanner(GoogleSQL 언어), MongoDB 호환성이 있는 Firestore, Bigtable을 지원합니다.

프로덕션에서 단순한 LLM SQL 생성이 실패하는 이유

대규모 언어 모델(LLM)을 데이터베이스 스키마(표준 텍스트-SQL 또는 NL2SQL)에 직접 연결하면 프로토타입에서 잘 작동하며, 기본 질문에 대해 80% ~90% 의 정확도를 달성하는 경우가 많습니다. 하지만 프로덕션에서 LLM에 원시 스키마를 기반으로 SQL을 처음부터 생성하도록 요청하면 다음과 같은 5가지 이유로 인해 실패하는 경우가 많습니다.

  • 조용한 의미론적 실패: 구문 오류가 명확하게 실패하는 코드 생성과 달리 모호한 질문에 직면한 LLM은 '모르겠습니다'라고 말하는 경우가 거의 없습니다. 대신 깔끔하게 실행되지만(200 OK) 필수 상태 필터를 생략하거나 잘못된 수식과 측정값을 사용하는 등 그럴듯해 보이지만 잘못된 SQL을 작성합니다.
  • 스키마에 없는 작성되지 않은 비즈니스 로직: 스키마는 비즈니스 운영 방식이 아닌 테이블과 데이터 유형을 정의합니다. 사용자가 부동산 앱에 '델 마르의 좋은 학교 근처에 있는 주택'을 요청하는 경우 스키마는 '근처'로 간주되는 거리, '좋은' 학교로 판단할 평점의 기준, 근접성과 학교 품질의 가중치를 어떻게 설정할지 정의하지 않습니다. 이러한 규칙이 없으면 LLM은 추측해야 합니다.
  • 불투명한 비공개 데이터 및 항목 모호성: LLM은 비공개 테이블 내에 저장된 문자열이나 사용자가 맞춤법을 잘못 입력하는 방식(특히 음성 입력)이 아닌 공개 사실을 기반으로 학습됩니다. '지난달 Westwod에서 판매된 부동산'에서 스키마 전용 LLM은 'Westwod'가 'Westwood'의 오타인지, 데이터베이스의 'Westwood'가 도시인지, 지자체인지, 중개업체인지 알 수 없습니다.
  • 지연 시간과 정확성 간의 상충 관계: 에이전트에게 원시 SQL 도구를 제공하여 테이블을 탐색하고, 행을 샘플링하고, 멀티턴 루프에서 자체 수정하도록 하면 질문당 지연 시간이 30초 이상으로 늘어나 대화형 앱에 사용하기에는 너무 느립니다. 반대로 비즈니스 규칙을 거대한 시스템 프롬프트에 채워 넣으면 명령어 충돌이 발생하여 한 쿼리를 수정하면 다른 쿼리가 자동으로 중단됩니다.
  • 제어되지 않는 데이터 노출: 표준 애플리케이션에서 백엔드 코드는 실행되는 쿼리와 사용자가 볼 수 있는 행을 엄격하게 제어합니다. LLM이 신뢰할 수 없는 사용자 입력에서 SQL을 동적으로 생성하는 경우 프롬프트 지침을 사용하여 민감한 측정항목이나 테넌트 데이터를 보호하면 데이터베이스가 프롬프트 조작에 취약해집니다.

프로덕션에 즉시 사용 가능한 솔루션에 필요한 요소

프로덕션 애플리케이션에는 핵심 워크플로의 100% 에 가까운 정확성, 일관되게 빠른 온라인 지연 시간, 투명한 설명 가능성, 예상치 못한 질문에 대한 일반화 가능성, 데이터 액세스가 중요한 엄격한 보안이 필요합니다.

이러한 요구사항을 충족하려면 개방형 SQL 생성을 넘어 세 가지 기본 기능을 갖춰야 합니다.

  • 선별하기 쉬운 오프라인 도메인 컨텍스트: 컨텍스트는 높은 정확성의 기반입니다. LLM이 런타임에 비즈니스 규칙과 테이블 관계를 추론하도록 강제하는 대신 프로덕션 시스템에는 오프라인으로 준비된 구조화된 도메인 컨텍스트가 필요합니다. 엔지니어링팀이 취약한 규칙을 수동으로 작성하는 데 시간을 낭비하지 않도록 컨텍스트를 선별하고 유지하는 작업을 자동화해야 합니다.
  • 작업을 일반화하고 설명하는 빠르고 결정론적인 온라인 매칭: 온라인 지연 시간이 짧으려면 질문을 검증된 컨텍스트와 빠르게 매칭하고, 데이터베이스 값을 확인하고, 적용된 정확한 비즈니스 규칙을 설명하고, 추측하는 대신 사용자에게 모호성을 표시하는 엔진이 필요합니다. 동시에 시스템은 엄격한 보고서 메뉴가 될 수 없습니다. 관련 컨텍스트와 스키마 메타데이터를 사용하여 다양한 표현, 필터 조합, 예상치 못한 질문에 걸쳐 일반화해야 합니다.
  • 결정론적 보안 경계: 자연어 인터페이스는 신뢰할 수 없는 사용자 입력을 데이터베이스에 연결하므로 보안이 가장 중요합니다. 프로덕션 솔루션은 LLM 프롬프트에 의존하여 액세스 규칙을 적용할 수 없습니다. 무단 데이터 노출을 방지하기 위해 데이터베이스 및 컨텍스트 레이어(멀티 테넌트 애플리케이션의 행 수준 개인 정보 보호 포함)에서 결정론적 제어를 시행해야 합니다.

QueryData 제품이 이를 통합하는 방법

QueryData 제품은 QueryData API 엔드포인트 이상의 기능을 제공합니다. 설계 시간 컨텍스트 엔지니어링을 빠르고 결정론적인 런타임 실행 및 일반화와 결합하는 통합된 두 부분으로 구성된 시스템으로 작동합니다.

설계 시점 컨텍스트 엔지니어링

도메인 로직을 오프라인으로 캡처하려면 데이터베이스를 컨텍스트 세트와 페어링하고 컨텍스트 엔지니어링 에이전트를 사용하여 선별합니다.

  • 원시 스키마를 넘어선 구조화된 도메인 컨텍스트: 데이터베이스의 테이블 및 열 설명과 함께 컨텍스트 세트는 데이터베이스에 대해 사전 컴파일된 도메인 지식을 저장합니다. 도메인 컨텍스트는 다양한 형식을 취할 수 있지만 컨텍스트 세트는 세 가지 특수 컨텍스트 유형을 지원합니다.
    • 쿼리 템플릿: 일반화된 질문 패턴과 일치하는 파라미터화된 SQL 패턴으로, 인증된 의도 설명과 쌍을 이루어 사용자가 QueryData가 핵심 비즈니스 질문을 어떻게 해석했는지 확인할 수 있습니다.
    • 쿼리 패싯: 템플릿과 동적으로 결합되는 모듈식 SQL 필터 조건자 및 데이터베이스 AI 연산자(예: ai.if 및 벡터 검색)로, 간결한 컨텍스트 집합이 수백 개의 필터 조합을 포괄할 수 있습니다.
    • 값 검색: 맞춤법 오류를 해결하고, 사용자 용어를 정확한 열과 값에 매핑하고, 용어가 여러 개념과 일치하는 경우를 식별하는 빠르고 결정론적인 데이터베이스 조회입니다.
  • 자동 선별 및 힐 클라이밍: 컨텍스트 파일을 직접 작성하는 대신 CLI 또는 IDE(예: Antigravity 또는 Claude Code)에서 컨텍스트 엔지니어링 에이전트를 실행하여 최적화 루프를 자동화합니다.
    • 골든 벤치마크 생성: 데이터베이스 스키마, 시드 쿼리, 애플리케이션 코드베이스에서 대표적인 질문-SQL 쌍을 빌드하고 확장합니다.
    • 자동 힐 클라이밍: Evalbench를 사용하여 QueryData API를 평가하고, 근본 원인 실패 패턴을 진단하고, 일반화된 컨텍스트를 작성하고, 정확도가 수렴될 때까지 CLI에서 개선된 컨텍스트 세트를 자동으로 업로드합니다.
    • 홀드아웃 테스트 세트에서 검증: 최적화가 끝날 때 보이지 않는 질문 변형에 대해 최종 컨텍스트 세트를 한 번 평가하여 과적합 없이 정확성이 실제 트래픽에 일반화되는지 확인합니다.

런타임 쿼리 실행

프로덕션에서 에이전트 하네스(예: 에이전트 개발 키트(ADK), LangChain, Antigravity, Claude Code)는 사용자 질문을 직접 또는 데이터베이스용 MCP 도구 상자를 통해 대화형 분석 API의 QueryData API 엔드포인트로 전송합니다.

  • 일반화 기능을 갖춘 빠르고 결정론적인 실행:
    • 결정론적 템플릿 및 속성 실행: 질문이 문구 변형 또는 필터 조합에서 설정된 컨텍스트와 일치하면 QueryData API가 데이터베이스 값을 확인하고 검증된 SQL 템플릿을 일치하는 속성과 결합합니다. 그런 다음 쿼리를 실행하고 짧은 지연 시간으로 답변과 인증된 의도 설명을 모두 반환합니다.
    • 모호성 감지: 프롬프트의 용어가 비공개 데이터의 여러 유효한 개념과 일치하는 경우 QueryData API는 모호성 해소 프롬프트를 반환하므로 에이전트가 추측하는 대신 사용자에게 설명을 요청할 수 있습니다.
    • 예상치 못한 쿼리에 대한 일반화: 질문이 사전 정의된 템플릿 및 패싯을 벗어나는 경우 QueryData API는 데이터베이스 스키마 메타데이터, 값 검색, 관련 템플릿을 가이드로 사용하여 SQL을 동적으로 합성합니다.
  • 데이터베이스 적용 보안: 프롬프트 조작으로부터 민감한 정보를 보호하기 위해 QueryData 제품은 데이터베이스 수준 액세스 제어와 함께 작동합니다. AlloyDB 및 Cloud SQL의 멀티 테넌트 애플리케이션의 경우 파라미터화된 보안 뷰가 인증된 필수 사용자 필터를 데이터베이스 뷰 정의에 직접 삽입하므로 모든 쿼리가 테넌트 격리를 준수합니다.

가격 책정

컨텍스트 세트를 만들고 데이터 에이전트 또는 데이터베이스 데이터 소스와 함께 QueryData를 사용할 때 실행되는 쿼리에 대해서는 AlloyDB 컴퓨팅 가격 책정에 따라 요금이 청구됩니다. 프리뷰 기간에는 컨텍스트 세트와 QueryData를 만들고 사용하는 데 추가 요금이 부과되지 않습니다. 자세한 내용은 데이터 클라우드 에이전트 가격 책정을 참조하세요.

다음 단계