虛擬私有雲 (VPC) 路由和防火牆規則可協助 Dataflow worker 彼此通訊,並連至必要的 Google Cloud 端點。請參考下列資訊,診斷及解決常見的網路錯誤,例如 worker 通訊逾時、IP 位址耗盡,以及缺少 Private Google Access 設定。
如要進一步瞭解如何設定 Dataflow 工作的網路,請參閱「設定網路連線能力和防火牆規則」和「指定網路和子網路」。
無法建立 PoolableConnectionFactory
Dataflow 工作需要連線至外部資料庫時,會發生下列錯誤:
java.sql.SQLException: Cannot create PoolableConnectionFactory
(The connection attempt failed.)
如果 Dataflow worker 無法與資料庫伺服器建立連線,就會發生這個問題,通常是因為輸出規則或防火牆。
如要找出這個問題的根本原因,請建立並執行 Connectivity Tests。Connectivity Tests 可協助您找出流量遭到封鎖的位置。
如要更新輸出規則,請參閱「防火牆輸出規則範例」。
使用 Cloud NAT 時連線逾時
Dataflow 工作嘗試透過 Cloud NAT 閘道連線至外部服務時,可能會發生下列錯誤:
java.net.ConnectTimeoutException: Connection timed out
如果 Dataflow 工作設為使用外部 IP 位址,且網路也設為使用 Cloud NAT 處理輸出流量,就可能發生這個問題。如果 Dataflow worker 具有外部 IP 位址,會嘗試直接將流量轉送至網際網路,而非透過 Cloud NAT 閘道,如果防火牆規則禁止這類直接存取,可能會導致連線逾時。
如要解決這個問題,請將 Dataflow worker 設為不使用外部 IP 位址。這項設定可確保輸出流量會透過設定的 Cloud NAT 閘道路由。詳情請參閱 Cloud NAT 說明文件。
如要瞭解如何停用外部 IP 位址,請參閱「設定網路連線能力和防火牆規則」。
不得跨專案參照這項資源
在 Shared VPC 網路上執行 Dataflow 工作時,會發生下列錯誤:
Invalid value for field 'resource.properties.networkInterfaces[0].subnetwork':
'https://www.googleapis.com/compute/v1/projects/PROJECT/regions/REGION/subnetworks/SUBNETWORK'.
Cross-project references for this resource are not allowed.
如果您在 Shared VPC 虛擬私有雲網路中指定子網路,但服務專案未附加至 Shared VPC 主機專案,就會發生這個問題。
如要解決這個問題,Shared VPC 管理員必須將服務專案連接至主專案。
執行個體必須與子網路位於相同區域
執行 Dataflow 工作並指定子網路時,會發生下列錯誤:
Failed to start the VM, launcher-ID, used for launching because of status code: INVALID_ARGUMENT, reason: Invalid Error:
Message: Invalid value for field 'resource.networkInterfaces[0].subnetwork': 'https://www.googleapis.com/compute/v1/projects/PROJECT/regions/REGION/subnetworks/SUBNETWORK'. Instance must be in the same region as the subnetwork.
HTTP Code: 400.
如果工作和工作指定的子網路位於不同區域,就會發生這個問題。
如要解決這個問題,請在子網路所在的區域執行工作。舉例來說,如果子網路位於 us-central1,請在 us-central1 區域執行工作。
IP 空間已用盡
建立 Dataflow 工作或觸發自動調度資源作業時,這些作業可能會失敗,並顯示下列訊息:
IP_SPACE_EXHAUSTED: Instance 'INSTANCE_NAME' creation failed: IP space of 'projects/PROJECT/regions/REGION/subnetworks/SUBNETWORK' is exhausted.
您可以嘗試下列任一策略來解決這項錯誤:
- 減少 Dataflow 工作的工作站要求數量。您可以設定
num_workers管道選項,指定特定數量的 worker,也可以使用max_num_workers管道選項,設定 worker 數量上限。詳情請參閱「管道選項」。 - 如果可以,請增加 Dataflow 工作的子網路大小。如要瞭解如何擴充現有子網路,請參閱虛擬私有雲說明文件。
- 請改用其他子網路,並確保該子網路有足夠的可用 IP 位址,可供 Dataflow 工作使用。
- 如果可行,請建立專用子網路,並為 Dataflow 工作提供足夠數量的 IP 位址。
如果網路資源處於自訂子網路模式,網路介面必須指定子網路
執行 Dataflow 工作時,發生下列錯誤:
Workflow failed. Causes: Invalid Error: Message: Invalid value for field
'resource.properties.networkInterfaces[0].subnetwork': ''. Network interface
must specify a subnet if the network resource is in custom subnet mode. HTTP
Code: 400
如果名為 default 的虛擬私有雲網路是從自動模式虛擬私有雲網路轉換為自訂模式虛擬私有雲網路,就會發生這個問題。
如要解決這個問題,請在使用自訂模式虛擬私有雲網路時指定子網路參數。詳情請參閱「指定網路和子網路」。
無法連上網路
如果停用外部 IP 位址,並嘗試執行 Dataflow 工作,就會發生下列錯誤:
NewConnectionError(''<pip._vendor.urllib3.connection.HTTPSConnection object at ID>:
Failed to establish a new connection: [Errno 101] Network is unreachable
發生這個問題的原因是管道設定不允許連線至外部 IP 位址,但管道需要連線至外部 IP 才能執行。下列管道選項會停用外部 IP 連線:
Java
--usePublicIps=false
Python
--no_use_public_ips=true
Go
--no_use_public_ips=true
API
options = PipelineOptions(use_public_ips=False)
如要找出流量遭到封鎖的位置,請建立並執行 Connectivity Tests。
如要解決這個問題,但不想允許連線至外部 IP 位址,請進行下列一或多項變更。
- 設定網路位址轉譯 (NAT) 解決方案,例如 Cloud NAT。
- 設定 Private Google Access。
- 如果無法設定網路位址轉譯解決方案,可以使用自訂容器提供 Python 管道依附元件。
如要進一步瞭解如何設定 Dataflow 的網路連線能力,請參閱「Dataflow 的網路連線能力」。
Dataflow 服務帳戶無法存取網路或子網路,或網路/子網路不存在
嘗試執行 Dataflow 工作時,發生下列其中一項錯誤。工作失敗。
Workflow failed. Causes: Network default is not accessible to Dataflow Service
account or does not exist
Workflow failed. Causes: Subnetwork SUBNETWORK is not
accessible to Dataflow Service account or does not exist
產生這個問題的可能原因如下:
- 建立 Dataflow 工作時,您省略了子網路和網路參數,但專案中沒有名為
default的自動模式虛擬私有雲網路。如果預設網路已刪除,或組織政策限制禁止建立預設網路,您可能就沒有預設網路。 - 缺少子網路。
- 子網路參數指定錯誤。
- Dataflow 服務帳戶缺少必要權限。
- 如果您使用 Shared VPC,主專案的值必須是託管 VPC 的專案。如要進一步瞭解 Shared VPC,請參閱「Shared VPC 總覽」。
如要解決這個問題,請按照指定網路和子網路的指南操作。
RPC 逾時或無法連線至通訊埠 12345 或 12346
執行未使用 Streaming Engine 或 Dataflow Shuffle 的 Dataflow 工作時,發生下列其中一項錯誤。工作停滯或失敗。
串流工作:
Rpc to WORKER_HARNESS:12345 completed with error
UNAVAILABLE: failed to connect to all addresses; last error : UNKNOWN:
ipv4:WORKER_IP_ADDRESS:12345: Failed to connect to remote
host: FD Shutdown
批次工作:
(g)RPC timed out when SOURCE_WORKER_HARNESS talking to
DESTINATION_WORKER_HARNESS:12346.
如果缺少允許 TCP 通訊埠 12345 和 12346 網路流量的防火牆規則,就會發生這個問題。如果工作使用多個 worker,worker 之間無法互相通訊。
如要解決這個問題,請參閱「DEADLINE_EXCEEDED 或伺服器沒有回應」中的疑難排解步驟。
單一 worker 反覆啟動和停止
啟動 Dataflow 工作時,會發生下列問題。在 Dataflow 工作的「Job metrics」(工作指標) 頁面上,「CPU utilization (All Workers)」(CPU 使用率 (所有 worker)) 圖表顯示 worker 重複啟動,然後在幾分鐘後停止。一次只能有一個 worker。

發生以下錯誤:
The Dataflow job appears to be stuck because no worker activity has been seen
in the last 1h. Please check the worker logs in Stackdriver Logging.
未建立任何 worker 記錄。
工作記錄中可能會顯示多則類似下列內容的訊息:
Autoscaling: Raised the number of workers to 1 based on the rate of progress in
the currently running stage(s).
如果虛擬私有雲網路沒有連往網際網路和子網路的預設路徑,就會發生這個問題。
如要解決這個問題,請在虛擬私有雲網路中新增預設路徑。詳情請參閱「Dataflow 的網路連線能力」。
如果使用者管理的 worker 服務帳戶和 Dataflow 工作位於不同專案,也可能發生這個問題。如要進一步瞭解如何在使用跨專案服務帳戶時避免這個問題,請參閱「指定使用者自行管理的 worker 服務帳戶」步驟 3 和步驟 4 的指引。
如果虛擬私有雲網路有預設路徑,且使用者自行管理的 worker 服務帳戶和 Dataflow 工作位於同一個專案,請登入 Dataflow 工作的 worker VM,並查看 /var/log/dataflow 目錄中的記錄,找出問題所在。
子網路未啟用私人 Google 存取權
啟動已停用外部 IP 位址的 Dataflow 工作時,會發生下列錯誤:
Workflow failed. Causes: Subnetwork SUBNETWORK on project
PROJECT_ID network NETWORK in
region REGION does not have Private Google Access, which
is required for usage of private IP addresses by the Dataflow workers.
如果關閉外部 IP 位址,但未啟用 Private Google Access,就會發生這個問題。
如要解決這個問題,請為 Dataflow 工作使用的子網路啟用 Private Google Access。
無法使用指定 IP 範圍建立 Dataflow
Dataflow 不支援為 worker VM 指派靜態 IP 範圍。如要解決這個問題,您可以建立具有特定 IP 位址範圍的子網路,並在該子網路中部署 Dataflow 工作。
如要進一步瞭解如何搭配使用子網路和 Dataflow,請參閱「指定網路和子網路」。
如要瞭解如何在子網路中設定 IP 範圍,請參閱「設定別名 IP 範圍」。
如要在子網路中執行管道,請參閱「使用指定的子網路執行管道」。
您可能也需要建立網路位址轉譯 (NAT) 規則和路由器。詳情請參閱「Cloud NAT」。
後續步驟
如需其他網路疑難排解步驟,請參閱「排解 VM 之間的內部連線問題」。