本頁面說明如何將資料從可公開存取的 HTTP/HTTPS 網址清單移轉至 Cloud Storage。
從網址清單移轉資料時,不需使用代理程式,而是由 Storage 移轉服務直接管理。
必要條件
從網址清單建立移轉作業前,請確認您已設定下列項目:
- 使用者權限:確認您的使用者帳戶或使用者自行管理的服務帳戶有權建立移轉工作。請參閱「必要的使用者權限」。
- 目的地 bucket 權限:將目的地 Cloud Storage bucket 的必要權限,授予 Storage 移轉服務代理。請參閱「設定接收器的存取權:Cloud Storage」。
- 儲存在 Cloud Storage 的網址清單 (選用):如果您將網址清單檔案儲存在 Cloud Storage bucket,而非公開 HTTP/HTTPS 網址,請將該 bucket 的
roles/storage.objectViewer和roles/storage.legacyBucketReader授予 Storage 移轉服務代理。請參閱「設定來源存取權:Cloud Storage」。
來源網址規定
如要允許 Storage 移轉服務讀取來源資料,請務必符合下列規定:
公開存取權:
- 網址清單檔案 (TSV 格式) 必須能透過開頭為
http://或https://的網址存取,或儲存在 Cloud Storage bucket。 - 檔案中列出的每個物件網址都必須可透過
http://或https://公開存取。
- 網址清單檔案 (TSV 格式) 必須能透過開頭為
網路伺服器設定:
- 代管各個物件的網路伺服器必須支援 HTTP
Range要求,才能進行平行分塊傳輸。 - 網路伺服器必須在每個回應中傳回有效的
Content-Length標頭。 - 網路伺服器的
robots.txt檔案必須允許Google-Storage-Transfer-Service使用者代理程式或所有使用者代理程式 (*) 存取網址。
- 代管各個物件的網路伺服器必須支援 HTTP
物件大小和核對和驗證:
- 如果您在網址清單中指定物件大小或 MD5 核對和,請確保這些值與伺服器傳回的實際物件酬載相符。如果大小或核對和不符,該物件的移轉作業就會失敗。
後續步驟
- 從網址清單建立移轉作業。
- 進一步瞭解網址清單檔案格式。
- 設定接收器的存取權:Cloud Storage。
- 請參閱角色和權限參考資料。