收集 1Password 日志
解析器版本:5.0
本文档介绍了如何使用 Google Cloud Storage V2 将 1Password 日志注入到 Google Security Operations。
1Password 是一款密码管理平台,可帮助团队安全地存储、共享和管理凭据、Secret 和敏感信息。1Password Events API 可让您访问 1Password Business 账号中的登录尝试和项目使用情况数据。
准备工作
确保您满足以下前提条件:
- Google SecOps 实例
- 已启用 Cloud Storage API 的 GCP 项目
- 创建和管理 GCS 存储分区的权限
- 管理 GCS 存储分区的 IAM 政策的权限
- 创建 Cloud Run 服务、Pub/Sub 主题和 Cloud Scheduler 作业的权限
- 1Password Business 账号
- 您在 1Password 账号中拥有所有者或管理员角色
创建 Google Cloud Storage 存储桶
- 前往 Google Cloud 控制台。
- 选择您的项目或创建新项目。
- 在导航菜单中,依次前往 Cloud Storage > 存储分区。
- 点击创建存储分区。
提供以下配置详细信息:
设置 值 为存储桶命名 输入一个全局唯一的名称(例如 onepassword-secops-logs)位置类型 根据您的需求进行选择(区域级、双区域、多区域) 位置 选择营业地点(例如 us-central1)存储类别 标准(建议用于经常访问的日志) 访问权限控制 均匀(推荐) 保护工具 可选:启用对象版本控制或保留政策 点击创建。
收集 1Password 凭据
设置“活动报告”集成
- 在 1Password.com 上登录您的账号。
- 在边栏中选择集成。
- 如果您之前已设置其他集成,请在集成页面上选择目录。
- 在事件报告部分,选择其他。
- 在名称字段中,输入集成的名称(例如
Google SecOps Integration)。 - 点击添加集成。
创建不记名令牌
- 在集成详情页面上,点击添加不记名令牌。
- 提供以下配置详细信息:
- 令牌名称:输入一个描述性名称(例如
SecOps GCS Collector - SignIn and ItemUsage) - 过期时间:根据您的偏好选择过期期限。选择永不过期可生成永不过期的令牌,也可以选择 30 天、90 天或 180 天。
- 要报告的事件:选中以下复选框:
- 登录尝试
- 商品使用情况事件
- 令牌名称:输入一个描述性名称(例如
- 点击 Issue Token。
在保存令牌页面上,点击 Save in 1Password(在 1Password 中保存),或复制令牌并将其保存在安全的位置。
点击查看集成详情,确认集成处于有效状态。
确定 Events API 的基本网址
基准网址取决于托管 1Password 账号的服务器:
| 如果您的账号托管在 | Events API 的基本网址为 |
|---|---|
1password.com |
https://events.1password.com |
ent.1password.com |
https://events.ent.1password.com |
1password.ca |
https://events.1password.ca |
1password.eu |
https://events.1password.eu |
测试 API 访问权限
在继续进行集成之前,请先测试您的凭据:
# Replace with your actual bearer token and base URL BEARER_TOKEN="<your-bearer-token>" API_BASE="https://events.1password.com" # Test API access using the introspect endpoint curl -v \ -H "Authorization: Bearer $BEARER_TOKEN" \ "$API_BASE/api/v2/auth/introspect"
如果请求成功,系统会返回一个 JSON 对象,其中包含 features 字段,该字段会列出您的令牌可以访问的活动类型(例如 ["signinattempts", "itemusages"])。
为 Cloud Run 函数创建服务账号
Cloud Run 函数需要一个服务账号,该账号具有写入 GCS 存储桶的权限,并且可以由 Pub/Sub 调用。
创建服务账号
- 在 GCP 控制台中,依次前往 IAM 和管理 > 服务账号。
- 点击创建服务账号。
- 提供以下配置详细信息:
- 服务账号名称:输入
onepassword-logs-collector-sa - 服务账号说明:输入
Service account for Cloud Run function to collect 1Password logs
- 服务账号名称:输入
- 点击创建并继续。
- 在向此服务账号授予对项目的访问权限部分中,添加以下角色:
- 点击选择角色。
- 搜索并选择 Storage Object Admin。
- 点击 + 添加其他角色。
- 搜索并选择 Cloud Run Invoker。
- 点击 + 添加其他角色。
- 搜索并选择 Cloud Functions Invoker。
- 点击继续。
- 点击完成。
必须拥有这些角色,才能:
- Storage Object Admin:将日志写入 GCS 存储桶并管理状态文件
- Cloud Run Invoker:允许 Pub/Sub 调用函数
- Cloud Functions Invoker:允许调用函数
授予对 GCS 存储桶的 IAM 权限
向服务账号授予对 GCS 存储桶的写入权限:
- 前往 Cloud Storage > 存储分区。
- 点击您的存储桶 (
onepassword-secops-logs)。 - 前往权限标签页。
- 点击授予访问权限。
- 提供以下配置详细信息:
- 添加主账号:输入
onepassword-logs-collector-sa@PROJECT_ID.iam.gserviceaccount.com - 分配角色:选择 Storage Object Admin
- 添加主账号:输入
- 点击保存。
创建 Pub/Sub 主题
创建一个 Pub/Sub 主题,Cloud Scheduler 将向该主题发布消息,而 Cloud Run 函数将订阅该主题。
- 在 GCP 控制台中,前往 Pub/Sub > 主题。
- 点击创建主题。
- 提供以下配置详细信息:
- 主题 ID:输入
onepassword-logs-trigger - 将其他设置保留为默认值
- 主题 ID:输入
- 点击创建。
创建 Cloud Run 函数以收集日志
Cloud Run 函数将由来自 Cloud Scheduler 的 Pub/Sub 消息触发,以从 1Password Events API 中提取登录尝试和项目使用情况日志,并将这些日志写入 GCS。
- 在 GCP 控制台中,前往 Cloud Run。
- 点击创建服务。
- 选择函数(使用内嵌编辑器创建函数)。
在配置部分中,提供以下配置详细信息:
设置 值 Service 名称 onepassword-logs-collector区域 选择与您的 GCS 存储桶匹配的区域(例如 us-central1)运行时 选择 Python 3.12 或更高版本 在触发器(可选)部分中:
- 点击 + 添加触发器。
- 选择 Cloud Pub/Sub。
- 在选择 Cloud Pub/Sub 主题中,选择
onepassword-logs-trigger。 - 点击保存。
在身份验证部分中:
- 选择需要进行身份验证。
- 检查 Identity and Access Management (IAM)。
向下滚动并展开容器、网络、安全性。
前往安全性标签页:
- 服务账号:选择
onepassword-logs-collector-sa
- 服务账号:选择
前往容器标签页:
- 点击变量和密钥。
为每个环境变量点击+ 添加变量:
变量名称 示例值 说明 GCS_BUCKETonepassword-secops-logsGCS 存储桶名称 GCS_PREFIXonepassword日志文件的前缀 STATE_KEYonepassword/state.json状态文件路径 OP_API_BASEhttps://events.1password.com1Password Events API 基本网址 OP_BEARER_TOKEN<your-bearer-token>1Password Events API 令牌 MAX_RECORDS10000每次运行中每个端点的记录数上限 PAGE_SIZE1000每页记录数(最多 1000 条) LOOKBACK_HOURS24初始回溯期(以小时为单位)
在变量和 Secret 部分中,滚动到请求:
- 请求超时:输入
600秒(10 分钟)
- 请求超时:输入
前往设置标签页:
- 在资源部分中:
- 内存:选择 512 MiB 或更高值
- CPU:选择 1
- 在资源部分中:
在修订版本伸缩部分中:
- 实例数下限:输入
0 - 实例数上限:输入
100(或根据预期负载进行调整)
- 实例数下限:输入
点击创建。
等待服务创建完成(1-2 分钟)。
创建服务后,系统会自动打开内嵌代码编辑器。
添加函数代码
- 在入口点字段中输入 main。
在内嵌代码编辑器中,创建两个文件:
第一个文件:main.py::
import functions_framework from google.cloud import storage import json import os import urllib3 from datetime import datetime, timezone, timedelta import time # Initialize HTTP client with timeouts http = urllib3.PoolManager( timeout=urllib3.Timeout(connect=5.0, read=30.0), retries=False, ) # Initialize Storage client storage_client = storage.Client() # Environment variables GCS_BUCKET = os.environ.get('GCS_BUCKET') GCS_PREFIX = os.environ.get('GCS_PREFIX', 'onepassword') STATE_KEY = os.environ.get('STATE_KEY', 'onepassword/state.json') API_BASE = os.environ.get('OP_API_BASE') BEARER_TOKEN = os.environ.get('OP_BEARER_TOKEN') MAX_RECORDS = int(os.environ.get('MAX_RECORDS', '10000')) PAGE_SIZE = int(os.environ.get('PAGE_SIZE', '1000')) LOOKBACK_HOURS = int(os.environ.get('LOOKBACK_HOURS', '24')) # 1Password Events API v2 endpoints for sign-in and item usage ENDPOINTS = { 'signinattempts': '/api/v2/signinattempts', 'itemusages': '/api/v2/itemusages', } def parse_datetime(value: str) -> datetime: """Parse RFC 3339 datetime string to datetime object.""" if value.endswith('Z'): value = value[:-1] + '+00:00' return datetime.fromisoformat(value) @functions_framework.cloud_event def main(cloud_event): """ Cloud Run function triggered by Pub/Sub to fetch 1Password sign-in attempt and item usage logs and write them to GCS as NDJSON. """ if not all([GCS_BUCKET, API_BASE, BEARER_TOKEN]): print('Error: Missing required environment variables ' '(GCS_BUCKET, OP_API_BASE, OP_BEARER_TOKEN)') return try: bucket = storage_client.bucket(GCS_BUCKET) # Load state (stores cursors per endpoint) state = load_state(bucket, STATE_KEY) now = datetime.now(timezone.utc) total_records = 0 for event_type, path in ENDPOINTS.items(): print(f'--- Processing endpoint: {event_type} ---') saved_cursor = state.get(f'cursor_{event_type}') records, last_cursor = fetch_endpoint( api_base=API_BASE, path=path, bearer_token=BEARER_TOKEN, saved_cursor=saved_cursor, lookback_hours=LOOKBACK_HOURS, page_size=PAGE_SIZE, max_records=MAX_RECORDS, ) if records: timestamp = now.strftime('%Y%m%d_%H%M%S') object_key = (f'{GCS_PREFIX}/' f'{event_type}_{timestamp}.ndjson') blob = bucket.blob(object_key) ndjson = '\n'.join( json.dumps(r, ensure_ascii=False) for r in records ) + '\n' blob.upload_from_string( ndjson, content_type='application/x-ndjson' ) print(f'Wrote {len(records)} {event_type} records ' f'to gs://{GCS_BUCKET}/{object_key}') # Save cursor even if no records (for next poll) if last_cursor: state[f'cursor_{event_type}'] = last_cursor total_records += len(records) # Save state with all cursors state['last_run'] = now.isoformat() save_state(bucket, STATE_KEY, state) print(f'Successfully processed {total_records} total records') except Exception as e: print(f'Error processing logs: {str(e)}') raise def load_state(bucket, key): """Load state from GCS.""" try: blob = bucket.blob(key) if blob.exists(): state_data = blob.download_as_text() return json.loads(state_data) except Exception as e: print(f'Warning: Could not load state: {e}') return {} def save_state(bucket, key, state: dict): """Save state to GCS.""" try: blob = bucket.blob(key) blob.upload_from_string( json.dumps(state, indent=2), content_type='application/json', ) print(f'Saved state: {json.dumps(state)}') except Exception as e: print(f'Warning: Could not save state: {e}') def fetch_endpoint(api_base, path, bearer_token, saved_cursor, lookback_hours, page_size, max_records): """ Fetch events from a single 1Password Events API v2 endpoint. The 1Password Events API uses cursor-based pagination with POST requests. The first request sends a ResetCursor object with optional start_time and limit. Subsequent requests send the cursor returned from the previous response. Args: api_base: Events API base URL path: Endpoint path bearer_token: JWT bearer token saved_cursor: Cursor from previous run (or None) lookback_hours: Hours to look back on first run page_size: Max events per page (1-1000) max_records: Max total events per run Returns: Tuple of (records list, last_cursor string) """ url = f'{api_base.rstrip("/")}{path}' headers = { 'Authorization': f'Bearer {bearer_token}', 'Content-Type': 'application/json', 'Accept': 'application/json', } records = [] cursor = saved_cursor page_num = 0 backoff = 1.0 while True: page_num += 1 if len(records) >= max_records: print(f'Reached max_records limit ({max_records})') break # Build request body if cursor: # Continuing cursor: resume from last position body = json.dumps({'cursor': cursor}) else: # ResetCursor: first request or no saved state start_time = ( datetime.now(timezone.utc) - timedelta(hours=lookback_hours) ) body = json.dumps({ 'limit': page_size, 'start_time': start_time.strftime( '%Y-%m-%dT%H:%M:%SZ' ), }) try: response = http.request( 'POST', url, body=body, headers=headers, ) # Handle rate limiting (600 req/min, 30000 req/hour) if response.status == 429: retry_after = int( response.headers.get( 'Retry-After', str(int(backoff)) ) ) print(f'Rate limited (429). Retrying after ' f'{retry_after}s...') time.sleep(retry_after) backoff = min(backoff * 2, 60.0) continue backoff = 1.0 if response.status != 200: response_text = response.data.decode('utf-8') print(f'HTTP Error {response.status}: ' f'{response_text}') break data = json.loads(response.data.decode('utf-8')) page_items = data.get('items', []) cursor = data.get('cursor') has_more = data.get('has_more', False) if page_items: print(f'Page {page_num}: Retrieved ' f'{len(page_items)} events') records.extend(page_items) if not has_more: print(f'No more pages (has_more=false)') break if not cursor: print(f'No cursor returned, stopping') break except urllib3.exceptions.HTTPError as e: print(f'HTTP error: {str(e)}') break except Exception as e: print(f'Error fetching events: {str(e)}') break print(f'Retrieved {len(records)} total records ' f'from {page_num} pages') return records, cursor第二个文件:requirements.txt::
functions-framework==3.* google-cloud-storage==2.* urllib3>=2.0.0
点击部署以保存并部署该函数。
等待部署完成(2-3 分钟)。
创建 Cloud Scheduler 作业
Cloud Scheduler 会定期向 Pub/Sub 主题发布消息,从而触发 Cloud Run 函数。
- 在 GCP Console 中,前往 Cloud Scheduler。
- 点击创建作业。
提供以下配置详细信息:
设置 值 名称 onepassword-logs-collector-hourly区域 选择与 Cloud Run 函数相同的区域 频率 0 * * * *(每小时一次,整点时)时区 选择时区(建议选择 UTC) 目标类型 Pub/Sub 主题 选择 onepassword-logs-trigger消息正文 {}(空 JSON 对象)点击创建。
时间表频率选项
根据日志量和延迟时间要求选择频次:
| 频率 | Cron 表达式 | 使用场景 |
|---|---|---|
| 每隔 5 分钟 | */5 * * * * |
大批量、低延迟 |
| 每隔 15 分钟 | */15 * * * * |
搜索量中等 |
| 每小时 | 0 * * * * |
标准(推荐) |
| 每 6 小时 | 0 */6 * * * |
低成交量、批处理 |
| 每天 | 0 0 * * * |
历史数据收集 |
测试集成
- 在 Cloud Scheduler 控制台中,找到
onepassword-logs-collector-hourly。 - 点击强制运行以手动触发作业。
- 等待几秒钟。
- 前往 Cloud Run > 服务。
- 点击
onepassword-logs-collector。 - 点击日志标签页。
验证函数是否已成功执行。查找:
--- Processing endpoint: signinattempts --- Page 1: Retrieved X events Wrote X signinattempts records to gs://onepassword-secops-logs/onepassword/signinattempts_YYYYMMDD_HHMMSS.ndjson --- Processing endpoint: itemusages --- Page 1: Retrieved X events Wrote X itemusages records to gs://onepassword-secops-logs/onepassword/itemusages_YYYYMMDD_HHMMSS.ndjson Successfully processed X total records前往 Cloud Storage > 存储分区。
点击
onepassword-secops-logs。转到
onepassword/文件夹。验证是否已创建具有当前时间戳的新
.ndjson文件。
如果您在日志中看到错误,请执行以下操作:
- HTTP 401:检查
OP_BEARER_TOKEN环境变量中的不记名令牌。令牌可能已过期。 - HTTP 429:速率限制。该函数会自动重试,并采用退避机制。1Password Events API 允许每分钟 600 个请求,每小时 30,000 个请求。
- 缺少环境变量:检查是否已在 Cloud Run 函数配置中设置所有必需的变量。
- 未返回任何记录:使用自检端点验证您的不记名令牌是否具有对所请求事件类型的访问权限。
检索 Google SecOps 服务账号
Google SecOps 使用唯一的服务账号从您的 GCS 存储桶中读取数据。您必须授予此服务账号对您的存储桶的访问权限。
获取服务账号电子邮件地址
- 依次前往 SIEM 设置 > Feed。
- 点击添加新 Feed。
- 点击配置单个 Feed。
- 在 Feed 名称字段中,输入 Feed 的名称(例如
1Password Sign-In and Item Usage Logs)。 - 选择 Google Cloud Storage V2 作为来源类型。
- 选择 1Password 作为日志类型。
点击获取服务账号。系统会显示一个唯一的服务账号电子邮件地址,例如:
chronicle-12345678@chronicle-gcp-prod.iam.gserviceaccount.com复制此电子邮件地址,以便在下一步中使用。
点击下一步。
为以下输入参数指定值:
存储桶网址:输入带有前缀路径的 GCS 存储桶 URI:
gs://onepassword-secops-logs/onepassword/
来源删除选项:根据您的偏好选择删除选项:
- 永不:转移后永不删除任何文件(建议用于测试)。
- 删除已转移的文件:在成功转移后删除文件。
删除已转移的文件和空目录:成功转移后删除文件和空目录。
文件存在时间上限:包含在过去指定天数内修改的文件(默认值为 180 天)
资产命名空间:资产命名空间
注入标签:要应用于此 Feed 中事件的标签
点击下一步。
在最终确定界面中查看新的 Feed 配置,然后点击提交。
向 Google SecOps 服务账号授予 IAM 权限
Google SecOps 服务账号需要您的 GCS 存储桶的 Storage Object Viewer 角色。
- 前往 Cloud Storage > 存储分区。
- 点击
onepassword-secops-logs。 - 前往权限标签页。
- 点击授予访问权限。
- 提供以下配置详细信息:
- 添加主账号:粘贴 Google SecOps 服务账号电子邮件地址
- 分配角色:选择 Storage Object Viewer
点击保存。
UDM 映射表
| 日志字段 | UDM 映射 | 逻辑 |
|---|---|---|
| 类别 | security_result.category_details | 该值取自原始日志中的 category 字段。 |
| client.app_name | principal.application | 该值取自原始日志中的 client.app_name 字段。 |
| client.app_version | metadata.product_version | 该值取自原始日志中的 client.app_version 字段。 |
| client.ip_address | principal.ip | 该值取自原始日志中的 client.ip_address 字段。 |
| client.os_name | principal.platform | 该值取自原始日志中的 client.os_name 字段,并映射到相应的 UDM 平台值(LINUX、WINDOWS、MAC)。 |
| client.os_version | principal.platform_version | 该值取自原始日志中的 client.os_version 字段。 |
| client.platform_name | principal.resource.attribute.labels | 该值取自原始日志中的 client.platform_name 字段。 |
| client.platform_version | principal.asset.platform_software.platform_version | 该值取自原始日志中的 client.platform_version 字段。 |
| 国家/地区 | principal.location.country_or_region | 如果不存在 location.country,则该值取自原始日志中的 country 字段。 |
| item_uuid | security_result.about.resource.attribute.labels | 该值取自原始日志中的 item_uuid 字段。 |
| location.city | principal.location.city | 该值取自原始日志中的 location.city 字段。 |
| location.country | principal.location.country_or_region | 该值取自原始日志中的 location.country 字段。 |
| location.latitude | principal.location.region_latitude | 该值取自原始日志中的 location.latitude 字段。 |
| location.longitude | principal.location.region_longitude | 该值取自原始日志中的 location.longitude 字段。 |
| location.region | principal.location.name | 该值取自原始日志中的 location.region 字段。 |
| session.ip | principal.ip | 该值取自原始日志中的 session.ip 字段。 |
| session_uuid | network.session_id | 该值取自原始日志中的 session_uuid 字段。 |
| target_user.email | target.user.email_addresses | 该值取自原始日志中的 target_user.email 字段。 |
| target_user.uuid | target.user.userid | 该值取自原始日志中的 target_user.uuid 字段。 |
| 时间戳 | metadata.event_timestamp | 该值取自原始日志中的 timestamp 字段,并转换为秒和纳秒。 |
| 类型 | additional.fields | 该值取自原始日志中的 type 字段。 |
| user.email | principal.user.email_addresses | 该值取自原始日志中的 user.email 字段。 |
| user.name | principal.user.user_display_name | 该值取自原始日志中的 user.name 字段。 |
| used_version | additional.fields | 该值取自原始日志中的 used_version 字段。 |
| uuid | principal.resource.attribute.labels | 该值取自原始日志中的 uuid 字段。 |
| vault_uuid | security_result.about.resource.attribute.labels | 该值取自原始日志中的 vault_uuid 字段。 |
| 不适用 | extensions.auth | 系统会为此字段创建一个空对象。 |
| 不适用 | metadata.event_type | 如果类别为 success 或 firewall_reported_success,则设置为 USER_LOGIN;如果没有用户信息,则设置为 STATUS_UPDATE;否则设置为 USER_UNCATEGORIZED。 |
| 不适用 | metadata.log_type | 设置为 ONEPASSWORD。 |
| 不适用 | metadata.product_name | 设置为 ONEPASSWORD。 |
| 不适用 | metadata.vendor_name | 设置为 ONEPASSWORD。 |
| 不适用 | security_result.action | 如果类别为 success 或 firewall_reported_success,则设置为 ALLOW;如果类别为 credentials_failed、mfa_failed、modern_version_failed 或 firewall_failed,则设置为 BLOCK;否则留空。 |
lt |
event.idm.read_only_udm.metadata.product_event_type |
从变更日志映射 |
item.actor_details.uuid |
principal.user.userid |
从变更日志映射 |
item.actor_details.name |
principal.user.user_display_name |
从变更日志映射 |
item.actor_details.email |
principal.email |
从变更日志映射 |
item.actor_uuid |
security_result.about.resource.attribute.labels |
从变更日志映射 |
item.object_type |
additional.fields |
从变更日志映射 |
item.object_uuid |
security_result.about.resource.attribute.labels |
从变更日志映射 |
item.aux_info |
additional.fields |
从变更日志映射 |
item.aux_uuid |
security_result.about.resource.attribute.labels |
从变更日志映射 |
item.session.uuid |
network.session_id |
从变更日志映射 |
item.session.device_uuid |
target.resource.product_object_id |
从变更日志映射 |
item.session.ip |
principal.ip |
从变更日志映射 |
target_user.name |
target.user.user_display_name |
从变更日志映射 |
uuid |
principal.userid |
从变更日志映射 |
type","action","used_version", |
additional.fields |
从变更日志映射 |
target_user.uuid |
target.user.product_object_id |
从变更日志映射 |