資料匯出簡介
本文說明從 BigQuery 匯出資料的各種方式。
如要進一步瞭解資料整合,請參閱載入、轉換及匯出資料簡介。
匯出查詢結果
您可以將查詢結果匯出至本機檔案 (CSV 或 JSON 檔案)、Google 雲端硬碟或 Google 試算表。詳情請參閱「將查詢結果匯出至檔案」。
匯出資料表
您可以匯出下列資料格式的 BigQuery 資料表:
| 資料格式 | 支援的壓縮類型 | 支援的匯出方法 |
|---|---|---|
| CSV | GZIP | 匯出至 Cloud Storage |
| JSON | GZIP | 匯出至 Cloud Storage
使用 Dataflow 從 BigQuery 讀取資料 |
| Avro | DEFLATE、SNAPPY | 匯出至 Cloud Storage
使用 Dataflow 從 BigQuery 讀取資料 |
| Parquet | GZIP、SNAPPY、ZSTD | 匯出至 Cloud Storage |
處理需要物件類型安全性的巢狀資料結構,或需要更廣泛的語言支援時,您也可以將 BigQuery 資料表匯出為 Protobuf 資料欄。
匯出大型資料表注意事項
從 BigQuery 匯出大量資料時,請注意下列事項:
- 資料量和格式:
- 計算要匯出的資料量。視資料大小、格式、方法和地理位置而定,匯出作業可能會產生大量費用。部分資源以每 GiB 為單位計費,其他則以每 TiB 為單位計費。
- 選擇與分析工具和資料結構相容的格式。 舉例來說,CSV 無法處理巢狀或重複欄位。檢查資料類型相容性。
- 建議您使用壓縮格式,縮減大小並降低費用。
- 匯出費用:
- 部分匯出方法提供免費額度,其他方法則一律會產生費用。 詳情請參閱資料擷取定價。
- 如果 BigQuery 資料表和目的地 (例如 Cloud Storage bucket) 位於不同位置,可能會產生費用。
- 配額:部分匯出方法設有每日上限。詳情請參閱「擷取作業」。
- 多個檔案:大型匯出檔案會分割成多個檔案。請考慮如何管理這些下游檔案。
- 自動化:如要定期匯出資料,請使用 BigQuery 排程查詢或 Dataflow。
- 保留政策:決定目標資料集中的保留期限,並實作生命週期規則,盡量降低儲存空間費用。
- 安全性和存取控管:實作適當的 IAM 權限和加密。
考量這些因素時,建議您對資料子集執行測試匯出作業,評估成本、檔案大小、計數和時間。您可以在 EXPORT DATA SQL 陳述式中使用 WHERE 子句,限制匯出測試。
匯出 BigQuery 程式碼資產
您可以下載 BigQuery Studio 程式碼資產,例如已儲存的查詢或筆記本,在本機保留資產副本。如要進一步瞭解如何下載 BigQuery 程式碼資產,請參閱下列文章:
使用反向 ETL 匯出
您可以設定反向 ETL (RETL) 工作流程,將資料從 BigQuery 移至下列資料庫:
後續步驟
- 瞭解擷取工作的配額。
- 瞭解 BigQuery 儲存空間定價。