嵌入和向量搜尋簡介

本文概略說明 BigQuery 的嵌入和向量搜尋功能。向量搜尋是一種使用嵌入項目比較相似物件的技術,用於支援 Google 產品,包括 Google 搜尋、YouTube 和 Google Play。您可以使用向量搜尋大規模執行語意搜尋,也可以執行混合搜尋,結合語意搜尋和詞彙 (關鍵字) 搜尋。搭配向量搜尋使用向量索引時,您可以運用反向檔案索引 (IVF) 和 ScaNN 演算法等基礎技術。

向量搜尋是以嵌入為基礎。嵌入是指以高維度數值向量表示特定實體,例如文字或音訊檔案。機器學習 (ML) 模型會使用嵌入技術,將這些實體的語意編碼,方便推論及比較。舉例來說,分群、分類和推薦模型中的常見作業,是測量嵌入空間中向量之間的距離,找出語意最相似的項目。

當您考慮如何繪製不同項目時,嵌入空間中的語意相似度和距離概念會以視覺化方式呈現。舉例來說,cat、dog 和 lion 等字詞都代表動物類型,因此在這個空間中,這些字詞會因語意特徵相同而分在同一組。同樣地,「car」、「truck」和更通用的字詞「vehicle」會形成另一個叢集。如下圖所示:

語意相似的概念 (例如「貓」、「狗」和「獅子」,或「汽車」、「卡車」和「車輛」) 在嵌入空間中會彼此靠近。

您可以看到動物和車輛叢集彼此相距甚遠。群組之間的區隔說明瞭一項原則:物件在嵌入空間中的距離越近,語意相似度越高;距離越遠,語意差異越大。

用途

結合嵌入生成和向量搜尋,可實現許多有趣的用途。以下是部分可能用途:

  • 檢索增強生成 (RAG):在 BigQuery 中剖析文件、對內容執行向量搜尋,並使用 Gemini 模型生成自然語言問題的摘要答案。如需說明這個情境的筆記本,請參閱「使用 BigQuery DataFrames 建構向量搜尋應用程式」。
  • 推薦替代產品或相符產品:根據顧客行為和產品相似度,建議替代產品,強化電子商務應用程式。
  • 記錄分析:協助團隊主動分類記錄中的異常狀況,並加快調查速度。您也可以運用這項功能,為 LLM 提供更豐富的背景資訊,進而改善威脅偵測、鑑識和疑難排解工作流程。如需說明此情境的筆記本,請參閱「使用文字嵌入和 BigQuery 向量搜尋功能偵測及調查記錄檔異常狀況」。
  • 分群和指定目標:精確區隔目標對象。例如,連鎖醫院可以使用自然語言附註和結構化資料將病患分群,或行銷人員可以根據查詢意圖指定廣告。如需說明此情境的筆記本,請參閱「Create-Campaign-Customer-Segmentation」。
  • 實體解析與簡化:清理及整合資料。舉例來說,廣告公司可以簡化個人識別資訊 (PII) 記錄,房地產公司則可找出相符的郵寄地址。

生成嵌入項目

以下各節說明 BigQuery 提供的函式,可協助您生成或使用嵌入項目。

生成單一嵌入

您可以搭配使用 AI.EMBED 函式和 Gemini Enterprise Agent Platform 嵌入模型,為輸入內容生成單一嵌入。

AI.EMBED 函式支援下列輸入類型:

  • 文字資料。
  • 以 ObjectRef 值表示的圖片資料。

生成嵌入項目資料表

您可以使用 AI.GENERATE_EMBEDDING,建立內含輸入資料表某資料欄中所有資料嵌入的資料表。對於所有類型的支援模型,AI.GENERATE_EMBEDDING 都能處理標準資料表中的結構化資料。如果是多模態嵌入模型,AI.GENERATE_EMBEDDING 也適用於包含 ObjectRef 值的標準資料表資料欄,或物件資料表中的視覺內容。

如果是遠端模型,所有推論作業都會在 Agent Platform 執行。如果是其他模型類型,所有推論都會在 BigQuery 中進行。結果會儲存在 BigQuery 中。

請參閱下列主題,嘗試在 BigQuery ML 中生成嵌入:

自主生成嵌入

您可以使用自主嵌入生成功能,簡化建立、維護及查詢嵌入的程序。BigQuery 會根據來源資料欄,在資料表中維護嵌入資料欄。您在來源資料欄新增或修改資料時,BigQuery 會使用 Agent Platform 嵌入模型,自動生成或更新該項資料的嵌入資料欄。如果來源資料會定期更新,且您希望 BigQuery 維護嵌入,這個方法就非常實用。

您可以使用下列搜尋函式執行語意向量搜尋,或結合語意搜尋和詞彙關鍵字搜尋的混合搜尋:

  • VECTOR_SEARCH:使用 SQL 執行語意向量搜尋或混合搜尋。

  • AI.SEARCH:執行語意或混合搜尋,找出與您提供的字串相近的結果。如果資料表已啟用自主嵌入生成功能,就能使用這個函式。

  • AI.SIMILARITY:計算兩個輸入內容嵌入之間的餘弦相似度,比較兩者。如果您想執行少量比較,且尚未預先計算任何嵌入,這個函式就很適合。如果效能至關重要,且您要處理大量嵌入,請使用 VECTOR_SEARCH。比較這些函式的功能,選擇最適合您用途的函式。

您也可以使用 CREATE VECTOR INDEX 陳述式建立向量索引。使用向量索引時,VECTOR_SEARCH 和 AI.SEARCH 函式會採用近似最鄰近搜尋技術,提高向量搜尋效能,但代價是喚回度降低,因此會傳回更多近似結果。如果沒有向量索引,這些函式會使用暴力搜尋來測量每筆記錄的距離。即使有向量索引,您也可以選擇使用暴力法取得精確結果。

重新排序結果

執行語意或混合搜尋後,您可以使用 AI.RANK 函式重新排序結果。AI.RANK 函式會根據指定資料欄中的文字與搜尋查詢的相符程度,重新排序資料表的資料列。它會一併評估查詢和各列文字,而非獨立比較。函式會傳回每個資料列,並附上關聯性分數和排名位置,依關聯性從高到低排序。

處理嵌入模型淘汰作業

嵌入模型淘汰後,您必須在模型停用前,將工作流程遷移至支援的替代模型。下列模型將於 2027 年 4 月 1 日淘汰:

  • text-embedding-005
  • text-embeding-004
  • text-multilingual-embedding-002
  • multimodalembedding@001

如要進一步瞭解模型淘汰日期和替代模型,請參閱「模型版本和生命週期」。

不同模型或同一模型的不同版本產生的嵌入,會存在於不同的嵌入空間中,通常在數學上不相容。即使向量的維度數量相同,也無法相容。比較不同模型的嵌入,會產生不準確的搜尋和相似度結果。

如要遷移至替代嵌入模型,請完成下列步驟:

  1. 使用替代模型重新生成現有資料表中的嵌入,讓所有儲存的嵌入共用相同的嵌入空間。
    • 如果您使用 AI.EMBED 或 AI.GENERATE_EMBEDDING 函式,請更新查詢或遠端模型,改用替代模型,然後重新生成資料表嵌入。
    • 如果您使用自主嵌入生成功能,請捨棄現有的生成嵌入資料欄,並新增使用替代模型的生成嵌入資料欄。
  2. 更新在搜尋時生成嵌入的所有查詢或管道,改用與資料表嵌入相同的替換模型。
  3. 重新生成資料表中的嵌入項目後,請重新建立或重建嵌入資料欄上的任何向量索引。

定價

VECTOR_SEARCH 和 AI.SEARCH 函式以及 CREATE VECTOR INDEX 陳述式採用 BigQuery 運算定價。

  • VECTOR_SEARCH 和 AI.SEARCH 函式:系統會依據隨選或版本定價,向您收取相似度搜尋費用。

    • 隨選:系統會根據基礎資料表、索引和搜尋查詢中掃描的位元組數收費。
    • 版本定價:系統會根據預留版本中完成工作所需的運算單元向您收費。相似度計算規模越大、越複雜,費用就越高。

  • CREATE VECTOR INDEX 聲明:只要索引資料表資料總大小低於貴組織的限制,就不會產生建構和重新整理向量索引所需的處理費用。如要支援超過此限制的索引,您必須提供自己的預留項目,以處理索引管理工作。

儲存空間也是嵌入和索引的考量因素。儲存為嵌入和索引的位元組數量,會產生使用中儲存空間費用。

  • 向量索引啟用時會產生儲存費用。
  • 您可以使用 INFORMATION_SCHEMA.VECTOR_INDEXES 檢視畫面查看索引儲存空間大小。如果向量索引涵蓋率尚未達到 100%,系統仍會針對已建立索引的內容收取費用。您可以使用 INFORMATION_SCHEMA.VECTOR_INDEXES 檢視畫面查看索引涵蓋範圍。

配額與限制

詳情請參閱「向量索引限制」和「生成式 AI 函式限制」。

限制

後續步驟