A4X Max, A4X, A4, A3 Ultra, A3 Mega, A3 High(GPU 8개) 머신 시리즈와 같은 클러스터형 GPU는 대규모 인공지능(AI) 및 머신러닝(ML) 클러스터를 실행할 수 있도록 설계되었으며 다음과 같은 클러스터 관리 기능을 제공합니다.
지원되는 머신 시리즈
이 페이지에 설명된 클러스터 관리 기능은 멀티 노드 대규모 워크로드에 최적화된 클러스터형 GPU 머신 시리즈에 사용할 수 있습니다.
이러한 기능은 표준 VPC 네트워킹을 사용하고 유지보수 운영 모드 또는 밀집 코로케이션을 지원하지 않는 독립적인 컴퓨팅 리소스로 구성된 일반 GPU 머신 시리즈에는 적용되지 않습니다.
다음 표에는 AI 하이퍼컴퓨터에서 지원되는 머신 시리즈가 요약되어 있습니다.
| 카테고리 | 머신 시리즈 | 클러스터 관리 지원 |
|---|---|---|
| 클러스터형 GPU | A5X, A4X Max, A4X, A4, A3 Ultra, A3 Mega, A3 High | 예 |
| 일반 GPU | A3 Edge, A2, G2, G4, N1 | 아니요 |
각 머신 시리즈에 대한 자세한 내용은 GPU 가속기 정보를 참조하세요.
대부분의 클러스터 관리 기능은 클러스터형 GPU 머신 유형만 지원하는 예약 바인딩 프로비저닝 모델을 사용하는 인프라인 예약 바인딩 용량에만 지원됩니다. 다른 프로비저닝 모델을 사용하는 용량의 경우 다음 클러스터 관리 기능만 사용할 수 있습니다.
클러스터형 GPU 인프라 코로케이션
A4X Max, A4X, A4, A3 Ultra, A3 Mega, A3 High(GPU 8개)와 같은 클러스터형 GPU를 사용하는 경우 Compute Engine에서 최대한 가깝게 프로비저닝하는 호스트 머신을 요청할 수 있습니다. 이러한 머신은 다음과 같은 기능을 제공합니다.
Compute Engine은 머신을 리소스 블록으로 프로비저닝합니다.
동적 머신러닝(ML) 네트워크 패브릭은 머신을 상호 연결합니다.
이 리소스 정렬은 네트워크 홉을 최소화하고 가장 짧은 네트워크 지연 시간에 맞게 최적화합니다. Compute Engine이 밀집하여 할당하는 가속기 최적화 머신 블록을 배포하려면 다음 옵션을 사용하면 됩니다.
다음 중 하나 이상을 수행하는 경우 리소스를 서로 밀집하게 할당해야 합니다.
동일한 AI 하이퍼컴퓨터의 미래용 예약 또는 캘린더 모드의 미래용 예약을 사용하는 리소스를 만듭니다.
크기 조절 요청을 사용하는 관리형 인스턴스 그룹(MIG)을 배포하고 동일한 요청에서 리소스를 만듭니다.
리소스가 최대 거리 값을 지정하는 동일한 압축 배치 정책 또는 워크로드 정책을 사용하도록 지정합니다. 특히 리소스는 정책에서 지정하는 최대 거리 값만큼만 가까우면 됩니다.
다음 중 하나 이상을 수행하면 최선의 가용성을 기반으로 리소스가 서로 밀집되게 할당될 수 있습니다.
Flex-start VM과 동일한 요청에서 리소스를 만듭니다.
리소스가 최대 거리를 지정하지 않는 동일한 압축 배치 정책 또는 워크로드 정책을 사용하도록 지정합니다.
클러스터 토폴로지 인식 배치
클러스터형 GPU를 만든 후 노드 및 클러스터 수준에서 토폴로지 정보를 가져올 수 있습니다. 이 정보는 다음을 수행하는 데 도움이 됩니다.
애플리케이션 또는 워크로드 설계를 조정하여 네트워크 지연 시간을 한층 더 최소화합니다.
서로 자주 통신하는 인스턴스의 네트워크 지연 시간 및 성능 문제를 이해하고 해결합니다. 이러한 문제는 인스턴스가 예기치 않게 멀리 떨어져 있는 경우에 발생할 수 있습니다.
구체적으로 토폴로지 기능에 대한 지원은 다음과 같습니다.
토폴로지 정보는 예약에 바인딩된 용량과 함께 사용할 때 가장 효과적이며, 이는 예약의 토폴로지를 확인하는 데 필요합니다.
토폴로지 기능은 압축 배치 정책을 지원하는 머신 유형만 지원합니다.
스팟 VM의 경우 머신이 압축 배치 정책을 사용하는 경우에만 토폴로지 정보가 표시됩니다.
자세한 내용은 컴퓨팅 인스턴스 토폴로지 보기를 참조하세요.
클러스터 운영 모드
클러스터형 GPU를 사용하여 컴퓨팅 인스턴스 또는 클러스터를 만들기 위해 용량을 예약하는 경우 예약하는 머신 유형에 따라 인스턴스의 클러스터 운영 모드가 결정됩니다. 이 모드는 호스트 오류 또는 장애가 있는 호스트 신고 후 인스턴스가 작동하는 방식을 지정합니다. 인스턴스에 사용할 수 있는 운영 모드는 관리형 모드입니다. 이 모드에서는 Compute Engine이 결함이 있는 머신을 자동으로 교체하지만, 인스턴스에 다시 시작하는 데 필요한 리소스가 있도록 예약된 용량의 일부를 보류합니다. 또는 전체 예약 용량에 액세스할 수 있지만 장애 및 계획된 유지보수를 관리해야 하는 모든 용량 모드가 있습니다.
자세한 내용은 예약 운영 모드를 참조하세요.
클러스터 유지보수 예약 및 제어
리소스 블록에서 토폴로지 인식 예약을 사용하여 클러스터형 GPU의 유지보수를 제어합니다. 이 기능을 사용하면 업그레이드를 동기화하여 워크로드가 호스트 이벤트에 더 탄력적으로 대응하고 중단을 최소화할 수 있습니다. 이 접근 방식은 워크로드의 처리량을 개선하는 데 도움이 됩니다.
유지보수 이벤트를 완전히 제어하려면 다음 기능을 사용하면 됩니다.
유지보수 예약 유형
컴퓨팅 인스턴스 또는 클러스터형 GPU 클러스터를 만들기 위해 용량을 예약할 때 Compute Engine에서 인스턴스가 실행되는 인프라를 유지보수하는 방법을 정의할 수 있습니다. 인스턴스에 사용할 머신 유형에 따라 인스턴스 간 동기화된 유지보수(그룹화) 또는 다른 유지보수 일정(독립적) 중에서 선택할 수 있습니다.
자세한 내용은 유지보수 예약 유형을 참조하세요.
호스트 이벤트 관리
클러스터형 GPU를 만들고 워크로드를 시작한 후 인스턴스 또는 예약된 블록의 유지보수가 예약되거나 시작되거나 완료될 때 알림을 설정하고 알림을 받을 수 있습니다. 또한 예약된 시간 전에 인스턴스 또는 예약된 블록에서 유지보수를 확인하고 필요한 경우 수동으로 시작할 수 있습니다. 이러한 옵션을 사용하면 워크로드의 다운타임을 사전에 제어하고 최소화할 수 있습니다.
자세한 내용은 다음을 참조하세요.
클러스터 모니터링 및 진단 도구
모니터링 및 문제 해결을 위해 클러스터형 GPU에는 다음 서비스가 포함됩니다.
VM 성능 저하 예측: 향후 5시간 이내에 성능이 저하될 가능성이 있는 VM을 식별하는 데 도움이 됩니다.
장애가 있는 호스트 신고: 개별 호스트 머신의 문제를 신고하는 데 사용할 수 있습니다.
Cloud Monitoring 측정항목 지원: 네트워크 및 GPU 성능을 모니터링하는 데 도움이 됩니다.