借助 AlloyDB for PostgreSQL 中的全文检索 (FTS),您可以识别满足查询条件的自然语言文档。这种方法比标准字符串匹配更有效,因为它考虑了语言上的细微差别,例如忽略“the”等常见停用词,并匹配单词的不同形式,例如“run”“running”或“ran”。
除了标准 PostgreSQL GIN 和 GiST 索引之外,AlloyDB 还提供 rum 扩展程序,可在所有 AlloyDB 支持的 PostgreSQL 版本(PostgreSQL 18 及更早版本)上实现高性能全文搜索,并在 PostgreSQL 17 及更高版本上实现 Best Matching 25 (BM25) 相关性排名。
全文搜索的核心概念
如需有效实现全文搜索 (FTS),您应了解 PostgreSQL 如何处理和搜索文本。搜索单元(即文档)通常是文本列或行中的列组合。索引构建过程会解析此文档,以将字词(或词位,即字词的基本形式)与行相关联。
此过程涉及一个预处理流水线,该流水线通过以下方式将原始文本转换为可搜索的格式:
- 将文本拆分为词元。
- 移除常见停用词。
- 将字词标准化为词根形式;例如,“run”是“run”“runs”“running”和“ran”的词位。
使用全文搜索还需要您了解专门的数据类型、运算符和各种索引策略,包括内置 PostgreSQL 索引和高性能 RUM 索引。
PostgreSQL 使用两种主要数据类型和一个匹配运算符来管理 FTS:
tsvector:以可搜索的格式表示文档,即不同词位的排序列表。tsquery:表示搜索字词,包括可让您组合词位的布尔运算符。@@:检查tsvector是否与tsquery匹配,从而实现语言感知搜索。
AlloyDB 支持内置 PostgreSQL 支持的所有全文搜索索引类型。索引的选择取决于搜索速度、索引构建时间、更新速度以及所需的特定搜索功能(例如短语搜索或相关性排名)之间的平衡。
为了优化搜索相关性和准确性,您还可以从以下选项中进行选择:
- RUM 索引:通过直接在索引中存储位置信息来改进标准 GIN 索引,让您无需访问表数据即可执行更快的短语搜索和相关性排名。所有 AlloyDB 支持的 PostgreSQL 版本(PostgreSQL 18 及更早版本)都支持此扩展程序。 如需了解详情,请参阅创建和管理 RUM 索引。
- BM25 索引:实现概率最佳匹配 25 算法,根据字词频率和长度饱和度对文档进行排名,从而提供业界标准的关键字匹配精度。PostgreSQL 17 或更高版本支持此扩展程序。如需了解详情,请参阅创建和管理 BM25 索引。
结合使用全文搜索和语义搜索
最强大的搜索实现通常会将使用 RUM 索引的全文搜索与 Vector Search 相结合。使用混合搜索,将语义理解和关键字匹配的优势相结合,合并不同的结果集,以实现全面的排名。
例如,在电子商务应用中,您可以先使用全文搜索和 RUM 查找包含特定关键字(如“跑鞋”)的产品,然后使用 Vector Search 根据与用户更详细查询(如“适合长距离训练的舒适鞋履”)的语义相似度查找结果。然后,数据库使用倒数排序融合 (RRF) 算法将两个搜索组件的排名结果融合到一个统一列表中,以生成最终排名。
如需详细了解如何使用此混合方法,请参阅运行混合式向量相似性搜索。
后续步骤
- 了解如何创建和查询 RUM 索引。
- 了解如何创建和管理 BM25 索引。
- 了解如何运行混合向量相似性搜索。