Apache Spark

本页面介绍了如何将 Looker 连接到 Apache Spark 3。

Looker 通过与 Spark Thrift Server 的 JDBC 连接来连接到 Apache Spark 3+。

加密网络流量

对 Looker 应用与数据库之间的网络流量进行加密是一种最佳实践。可以考虑启用安全的数据库访问文档页面上介绍的某个选项。

创建与数据库的 Looker 连接

在 Looker 的管理部分中,选择连接,然后点击添加连接。

填写连接详情。大多数设置对于大多数数据库方言都是通用的。如需了解相关信息,请参阅将 Looker 连接到您的数据库文档页面。下面介绍了一些设置:

  • 名称:连接的名称。这是在 LookML 模型中引用连接的方式。
  • 方言:选择 Apache Spark 3+。
  • 主机:Thrift 服务器主机。
  • Port Thrift 服务器端口(默认为 10000)。
  • 数据库:要建模的默认架构或数据库。如果未为表指定数据库,则系统会假定使用此数据库。
  • 用户名:Looker 将作为其进行身份验证的用户。
  • 密码:Looker 用户的可选密码。
  • 启用 PDT:使用此切换开关可启用永久性派生表。启用 PDT 后,连接窗口会显示其他 PDT 设置和 PDT 覆盖部分。
  • 临时数据库:用于存储 PDT 的临时架构或数据库。必须事先使用 CREATE SCHEMA looker_scratch; 等语句创建该数据库。
  • 其他 JDBC 参数:添加任何其他 JDBC 参数。如需查看受支持参数的列表,请参阅本页面上的受支持的 JDBC 参数部分。
  • SSL:不勾选此复选框。
  • 数据库时区:Spark 中存储的数据的时区。通常,您可以将其留空或设置为 UTC。
  • 查询时区:在 Looker 中显示查询数据时使用的时区。

如需验证连接是否成功,请点击连接设置页面底部状态详情部分中的测试连接按钮。

如果 Looker 显示可以连接,请按连接以创建连接。

然后,您的数据库连接会添加到 Looker 连接管理页面上的列表中。

支持的 JDBC 参数

对于 Apache Spark,Looker 支持在连接的其他 JDBC 参数字段中使用以下 JDBC 参数。如需了解这些参数,请参阅数据库的相关文档。

  • batchsize
  • cascadeTruncate
  • connectionProvider
  • createTableColumnTypes
  • createTableOptions
  • customSchema
  • dbtable
  • fetchsize
  • isolationLevel
  • keytab
  • lowerBound
  • numPartitions
  • oracle.jdbc.mapDateToTimestamp
  • partitionColumn
  • password
  • preferTimestampNTZ
  • prepareQuery
  • principal
  • pushDownAggregate
  • pushDownLimit
  • pushDownOffset
  • pushDownPredicate
  • pushDownTableSample
  • query
  • queryTimeout
  • sessionInitStatement
  • truncate
  • upperBound
  • url
  • user

功能支持

为了让 Looker 支持某些功能,您的数据库方言也必须支持这些功能。

Apache Spark 3+

自 Looker 26.22 起,Apache Spark 3+ 支持以下功能:

功能 是否支持?
Looker (Google Cloud Core)
对称聚合
派生表
永久性 SQL 派生表
原生永久性派生表
稳定视图
查询终止
基于 SQL 的透视
时区
SSL
小计
其他 JDBC 参数
区分大小写
位置类型
名单类型
百分位
不同值百分位
SQL Runner “Show Processes”
SQL Runner “Describe Table”
SQL Runner “Show Indexes”
SQL Runner “Select 10”
SQL Runner “Count”
SQL “Explain”
OAuth 2.0 凭证
背景信息评论
连接池
HLL 草图
汇总感知
增量 PDT
毫秒
微秒
物化视图
环比衡量
近似计数不同
数据库内分析模型
自定义日历

后续步骤

创建连接后,设置身份验证选项。