Model Armor를 Gemini Enterprise와 통합하면 AI 에이전트의 사용자 프롬프트와 응답을 검사하여 프롬프트 인젝션, 유해 콘텐츠, 민감한 정보 유출과 같은 위험을 완화할 수 있습니다. 통합이 설정되면 모든 사용자 상호작용에 적용됩니다.
시작하기 전에
Model Armor 템플릿을 만들고 Gemini Enterprise와 동일한 Google Cloud 프로젝트에 있는지 확인합니다. 템플릿과 Gemini Enterprise 인스턴스의 위치가 일치해야 합니다. 지원되는 위치에 대한 자세한 내용은 Model Armor 위치 및 Gemini Enterprise 위치를 참조하세요.
필요한 역할
Gemini Enterprise와 Model Armor를 통합하기 전에 필요한 역할이 있는지 확인하세요.
Model Armor 템플릿을 만들고 관리하는 데 필요한 권한을 얻으려면 관리자에게 Model Armor 템플릿에 대한 Model Armor 관리자 (roles/modelarmor.admin) IAM 역할을 부여해 달라고 요청하세요.
역할 부여에 대한 자세한 내용은 프로젝트, 폴더, 조직에 대한 액세스 관리를 참조하세요.
커스텀 역할이나 다른 사전 정의된 역할을 통해 필요한 권한을 얻을 수도 있습니다.
통합 사용 설정
Model Armor로 Gemini Enterprise를 사용 설정하려면 보안 관리자가 Model Armor에서 정책을 만들고 Gemini Enterprise 관리자가 이러한 정책을 Gemini Enterprise 인스턴스에 적용합니다.
제한사항 및 고려사항
Gemini Enterprise와 Model Armor를 통합할 때는 다음 제한사항 및 고려사항을 고려하세요.
- 익명화 및 마스크 처리: Model Armor가 프롬프트 또는 응답을 검사하기 위해
Sensitive Data Protection 템플릿을 사용하는 경우
Model Armor는 콘텐츠가 템플릿에 정의된 infoType 감지기
기준과 일치하는지 확인합니다. Sensitive Data Protection은 템플릿 구성을 기반으로 익명화를 지원하지만 Model Armor는 익명화되거나 마스크 처리된 데이터를 Gemini Enterprise로 다시 전달하지 않습니다. 콘텐츠가 Sensitive Data Protection의 infoType 감지기를 트리거하고 적용 유형이
INSPECT_AND_BLOCK인 경우 Gemini Enterprise는 익명화하는 대신 요청 또는 응답을 차단합니다. 문서 및 이미지 검사: 텍스트 프롬프트 외에도 통합은 문서 (예: PDF) 및 이미지를 지원합니다. 통합은 Gemini Enterprise 어시스턴트에 업로드할 때만 다음 파일을 검사합니다.
- 직접 업로드하는 이미지
- 직접 업로드하는 다른 파일 및 문서 내에 포함된 이미지
파일 또는 문서 내 이미지가 구성된 정책을 위반하는 경우 전체 파일 또는 문서가 삭제되고 요청에서 제외됩니다.
검사된 에이전트 및 상호작용: 검사는 Gemini Enterprise 어시스턴트, 직원 제작 에이전트 (Agent Designer를 사용하여 Gemini Enterprise 앱에서 생성됨), Google 제작 에이전트에 적용됩니다. 조직의 커스텀 에이전트(예: ADK, A2A, Dialogflow)와의 상호작용은 검사되지 않습니다.
토큰 한도 및 할당량: Gemini Enterprise와 함께 Model Armor를 사용할 때는 직접적인 토큰 한도가 없지만 Model Armor 평가의 총 처리량은 Gemini Enterprise 시스템 할당량 및 Model Armor API 비율 제한에 의거하여 결정됩니다.
서비스수준계약(SLA): Gemini Enterprise는 서비스수준계약(SLA)을 제공합니다. Gemini Enterprise가 Model Armor를 사용하도록 구성된 경우 오류 시 허용 또는 오류 시 종료 모드 사용 여부와 관계없이 차단된 쿼리는 SLA 위반으로 간주되지 않습니다.
규정 준수: Gemini Enterprise와 Model Armor는 모두 다양한 규정 준수 인증을 제공합니다. 함께 사용하면 유효한 규정 준수 인증은 두 제품의 공통 하위 집합입니다. 두 제품의 규정 준수 인증을 검토하여 규제 요구사항을 충족하는지 확인하세요.
작동 방식
통합이 구성되면 Gemini Enterprise는 선택한 템플릿을 사용하여 검사하기 위해 Model Armor API를 통해 사용자 입력과 어시스턴트 출력을 라우팅합니다. Gemini Enterprise는 서비스 에이전트를 사용하여 Model Armor에 인증합니다. Model Armor는 템플릿에 정의된 필터 구성에 따라 응답하고, Gemini Enterprise는 이 응답에 따라 요청이나 대답을 차단하거나 허용합니다.
예를 들어 Gemini Enterprise는 개인 식별 정보가 포함된 요청을 감지하고 검사를 위해 Model Armor로 라우팅할 수 있습니다. Model Armor 템플릿이 개인 식별 정보 (PII)를 차단하도록 구성된 경우 Gemini Enterprise에 요청을 차단하도록 지시합니다.
로깅
Model Armor는 Cloud Logging에서 정리 요청 및 응답에 대한 플랫폼 로그를 생성합니다. Model Armor 감사 로그를 보려면 비공개 로그 뷰어(roles/logging.privateLogViewer) IAM 역할이 필요합니다. 자동 생성 감사 로그에 대한 자세한 내용은
Model Armor 감사 로깅을 참조하세요.
정리 작업을 로깅하려면 templateMetadata.logSanitizeOperations 필드를 true로 설정합니다. 자세한 내용은
템플릿에서 로깅 구성을 참조하세요.