嵌入和向量搜尋簡介
本文概略說明 BigQuery 的嵌入和向量搜尋功能。向量搜尋是一種使用嵌入項目比較相似物件的技術,用於支援 Google 產品,包括 Google 搜尋、YouTube 和 Google Play。您可以使用向量搜尋大規模執行語意搜尋,也可以執行混合搜尋,結合語意搜尋和詞彙 (關鍵字) 搜尋。搭配向量搜尋使用向量索引時,您可以運用反向檔案索引 (IVF) 和 ScaNN 演算法等基礎技術。
向量搜尋是以嵌入為基礎。嵌入是指以高維度數值向量表示特定實體,例如文字或音訊檔案。機器學習 (ML) 模型會使用嵌入技術,將這些實體的語意編碼,方便推論及比較。舉例來說,分群、分類和推薦模型中的常見作業,是測量嵌入空間中向量之間的距離,找出語意最相似的項目。
當您考慮如何繪製不同項目時,嵌入空間中的語意相似度和距離概念會以視覺化方式呈現。舉例來說,cat、dog 和 lion 等字詞都代表動物類型,因此在這個空間中,這些字詞會因語意特徵相同而分在同一組。同樣地,「car」、「truck」和更通用的字詞「vehicle」會形成另一個叢集。如下圖所示:
您可以看到動物和車輛叢集彼此相距甚遠。群組之間的區隔說明瞭一項原則:物件在嵌入空間中的距離越近,語意相似度越高;距離越遠,語意差異越大。
用途
結合嵌入生成和向量搜尋,可實現許多有趣的用途。以下是部分可能用途:
- 檢索增強生成 (RAG):在 BigQuery 中剖析文件、對內容執行向量搜尋,並使用 Gemini 模型生成自然語言問題的摘要答案。如需說明這個情境的筆記本,請參閱「使用 BigQuery DataFrames 建構向量搜尋應用程式」。
- 推薦替代產品或相符產品:根據顧客行為和產品相似度,建議替代產品,強化電子商務應用程式。
- 記錄分析:協助團隊主動分類記錄中的異常狀況,並加快調查速度。您也可以運用這項功能,為 LLM 提供更豐富的背景資訊,進而改善威脅偵測、鑑識和疑難排解工作流程。如需說明此情境的筆記本,請參閱「使用文字嵌入和 BigQuery 向量搜尋功能偵測及調查記錄檔異常狀況」。
- 分群和指定目標:精確區隔目標對象。例如,連鎖醫院可以使用自然語言附註和結構化資料將病患分群,或行銷人員可以根據查詢意圖指定廣告。如需說明此情境的筆記本,請參閱「Create-Campaign-Customer-Segmentation」。
- 實體解析與簡化:清理及整合資料。舉例來說,廣告公司可以簡化個人識別資訊 (PII) 記錄,房地產公司則可找出相符的郵寄地址。
生成嵌入項目
以下各節說明 BigQuery 提供的函式,可協助您生成或使用嵌入項目。
生成單一嵌入
您可以搭配使用 AI.EMBED 函式和 Gemini Enterprise Agent Platform 嵌入模型,為輸入內容生成單一嵌入。
AI.EMBED 函式支援下列輸入類型:
- 文字資料。
- 以
ObjectRef值表示的圖片資料。
生成嵌入項目資料表
您可以使用 AI.GENERATE_EMBEDDING,建立內含輸入資料表某資料欄中所有資料嵌入的資料表。對於所有類型的支援模型,AI.GENERATE_EMBEDDING 都能處理標準資料表中的結構化資料。如果是多模態嵌入模型,AI.GENERATE_EMBEDDING 也適用於包含 ObjectRef 值的標準資料表資料欄,或物件資料表中的視覺內容。
如果是遠端模型,所有推論作業都會在 Agent Platform 執行。如果是其他模型類型,所有推論都會在 BigQuery 中進行。結果會儲存在 BigQuery 中。
請參閱下列主題,嘗試在 BigQuery ML 中生成嵌入:
- 使用
AI.GENERATE_EMBEDDING函式生成文字、圖片或影片。 - 生成及搜尋多模態嵌入
- 執行語意搜尋和檢索增強生成
自主生成嵌入
您可以使用自主嵌入生成功能,簡化建立、維護及查詢嵌入的程序。BigQuery 會根據來源資料欄,在資料表中維護嵌入資料欄。您在來源資料欄新增或修改資料時,BigQuery 會使用 Agent Platform 嵌入模型,自動生成或更新該項資料的嵌入資料欄。如果來源資料會定期更新,且您希望 BigQuery 維護嵌入,這個方法就非常實用。
搜尋
您可以使用下列搜尋函式執行語意向量搜尋,或結合語意搜尋和詞彙關鍵字搜尋的混合搜尋:
VECTOR_SEARCH:使用 SQL 執行語意向量搜尋或混合搜尋。AI.SEARCH:執行語意或混合搜尋,找出與您提供的字串相近的結果。如果資料表已啟用自主嵌入生成功能,就能使用這個函式。AI.SIMILARITY:計算兩個輸入內容嵌入之間的餘弦相似度,比較兩者。如果您想執行少量比較,且尚未預先計算任何嵌入,這個函式就很適合。如果效能至關重要,且您要處理大量嵌入,請使用VECTOR_SEARCH。比較這些函式的功能,選擇最適合您用途的函式。
您也可以使用 CREATE VECTOR INDEX 陳述式建立向量索引。使用向量索引時,VECTOR_SEARCH 和 AI.SEARCH 函式會採用近似最鄰近搜尋技術,提高向量搜尋效能,但代價是喚回度降低,因此會傳回更多近似結果。如果沒有向量索引,這些函式會使用暴力搜尋來測量每筆記錄的距離。即使有向量索引,您也可以選擇使用暴力法取得精確結果。
重新排序結果
執行語意或混合搜尋後,您可以使用 AI.RANK 函式重新排序結果。AI.RANK 函式會根據指定資料欄中的文字與搜尋查詢的相符程度,重新排序資料表的資料列。它會一併評估查詢和各列文字,而非獨立比較。函式會傳回每個資料列,並附上關聯性分數和排名位置,依關聯性從高到低排序。
處理嵌入模型淘汰作業
嵌入模型淘汰後,您必須在模型停用前,將工作流程遷移至支援的替代模型。下列模型將於 2027 年 4 月 1 日淘汰:
text-embedding-005text-embeding-004text-multilingual-embedding-002multimodalembedding@001
如要進一步瞭解模型淘汰日期和替代模型,請參閱「模型版本和生命週期」。
不同模型或同一模型的不同版本產生的嵌入,會存在於不同的嵌入空間中,通常在數學上不相容。即使向量的維度數量相同,也無法相容。比較不同模型的嵌入,會產生不準確的搜尋和相似度結果。
如要遷移至替代嵌入模型,請完成下列步驟:
- 使用替代模型重新生成現有資料表中的嵌入,讓所有儲存的嵌入共用相同的嵌入空間。
- 如果您使用
AI.EMBED或AI.GENERATE_EMBEDDING函式,請更新查詢或遠端模型,改用替代模型,然後重新生成資料表嵌入。 - 如果您使用自主嵌入生成功能,請捨棄現有的生成嵌入資料欄,並新增使用替代模型的生成嵌入資料欄。
- 如果您使用
- 更新在搜尋時生成嵌入的所有查詢或管道,改用與資料表嵌入相同的替換模型。
- 重新生成資料表中的嵌入項目後,請重新建立或重建嵌入資料欄上的任何向量索引。
定價
VECTOR_SEARCH 和 AI.SEARCH 函式以及 CREATE VECTOR INDEX 陳述式採用 BigQuery 運算定價。
VECTOR_SEARCH和AI.SEARCH函式:系統會依據隨選或版本定價,向您收取相似度搜尋費用。- 隨選:系統會根據基礎資料表、索引和搜尋查詢中掃描的位元組數收費。
版本定價:系統會根據預留版本中完成工作所需的運算單元向您收費。相似度計算規模越大、越複雜,費用就越高。
CREATE VECTOR INDEX聲明:只要索引資料表資料總大小低於貴組織的限制,就不會產生建構和重新整理向量索引所需的處理費用。如要支援超過此限制的索引,您必須提供自己的預留項目,以處理索引管理工作。
儲存空間也是嵌入和索引的考量因素。儲存為嵌入和索引的位元組數量,會產生使用中儲存空間費用。
- 向量索引啟用時會產生儲存費用。
- 您可以使用
INFORMATION_SCHEMA.VECTOR_INDEXES檢視畫面查看索引儲存空間大小。如果向量索引涵蓋率尚未達到 100%,系統仍會針對已建立索引的內容收取費用。您可以使用INFORMATION_SCHEMA.VECTOR_INDEXES檢視畫面查看索引涵蓋範圍。
配額與限制
詳情請參閱「向量索引限制」和「生成式 AI 函式限制」。
限制
- BigQuery BI Engine 不會加速含有
VECTOR_SEARCH或AI.SEARCH函式的查詢。 - 只有在篩選分區資料欄或儲存的資料欄時,
VECTOR_SEARCH和AI.SEARCH查詢中的預先篩選資料剪除功能才會最佳化,篩選叢集資料欄時則不會。在預先篩選子查詢中使用非儲存的叢集資料欄,會導致完整的資料表掃描。詳情請參閱「預先篩選限制」。
後續步驟
- 進一步瞭解如何建立向量索引,以及搭配混合型搜尋使用向量索引。
- 瞭解如何使用
VECTOR_SEARCH函式執行語意或混合搜尋。 - 瞭解如何使用
AI.SEARCH函式執行語意或混合搜尋。 - 進一步瞭解自主嵌入生成功能。
- 請參閱「使用向量搜尋功能搜尋嵌入」教學課程,瞭解如何建立向量索引,然後在有索引和沒有索引的情況下,對嵌入執行向量搜尋。
試用「執行語意搜尋和檢索增強生成」教學課程,瞭解如何執行下列工作:
- 生成文字嵌入。
- 為嵌入建立向量索引。
- 使用嵌入執行向量搜尋,找出相似文字。
- 使用向量搜尋結果執行檢索增強生成 (RAG),強化提示輸入並改善結果。
請參閱「在檢索增強生成管道中剖析 PDF」教學課程,瞭解如何根據剖析的 PDF 內容建立 RAG 管道。
您也可以在 Python 中使用 BigQuery DataFrames 執行向量搜尋。如需說明這個方法的筆記本,請參閱「使用 BigQuery DataFrames 建構向量搜尋應用程式」。