Zuordnungen von einheitlichen Typen zu Quell- und Zieldatentypen

Datastream konvertiert quellenspezifische Datentypen in einen Standardsatz von einheitlichen Typen in Avro- und JSON-Änderungsereignissen. Einheitliche Typen stellen die Obermenge aller unterstützten Quelldatentypen dar, sodass Datastream Daten ohne Datenverlust über Quellen und Ziele hinweg replizieren kann.

In diesem Dokument sind die einheitlichen Datastream-Typen und die Datentypzuordnungen für die folgenden Quellen aufgeführt:

Informationen zu BigQuery-Zielzuordnungen finden Sie unter Datentypzuordnungen in BigQuery.

Einheitliche Datastream-Typen

Typname Info Avro-Definition JSON-Definition
BOOLEAN Boolesch Boolesch Boolesch
BYTES Eine Folge nicht signierter Byte Byte String
DATE Tage seit der Epoche Logischer Typ „date“ String [ISO-8601]
DATETIME Das Datum (in Tagen seit der Epoche) und die Uhrzeit (in Mikrosekunden seit Mitternacht)

Ein benutzerdefinierter Typ

{
  "type": "record",
  "name": "datetime",
  "fields": [
    {"name": "date",
     "type": "int",
     "logicalType": "date"},
    {"name": "time",
     "type": "long",
     "logicalType": "time-micros"}
  ]
}
String [ISO-8601]
DECIMAL (p,s) Vorzeichenbehaftete Dezimalzahl mit beliebiger Genauigkeit Ein logischer Dezimaltyp Zahl
DOUBLE 64-Bit-Gleitkommazahlen double Zahl
FLOAT 32-Bit-Gleitkommazahlen float Zahl
GEOMETRY Ein räumliches Geometrie- oder Geografieobjekt

Ein benutzerdefinierter Typ

{
  "type": "record",
  "name": "geometry",
  "fields": [
    {"name": "value",
     "type": "bytes"},
    {"name": "srid",
     "type": "int"},
    {"name": "type",
     "type": "string"}
  ]
}
verschachteltes JSON
INTEGER Eine 32-Bit-Ganzzahl Ganzzahl Zahl
INTERVAL Dauer zwischen zwei Ereignissen (in Monaten, Stunden und Mikrosekunden)

Ein benutzerdefinierter Typ

{
  "type": "record",
  "name": "interval",
  "fields": [
    {"name": "months",
     "type": "int"}
    {"name": "hours",
     "type": "int"},
    {"name": "micros",
     "type": "long"}
  ]
}
String [ISO-8601]
JSON Ein JSON-Objekt

Ein benutzerdefinierter logischer Typ

{
  "type": "string",
  "logicalType": "json"
}
verschachteltes JSON
LONG Eine 64-Bit-Ganzzahl long Zahl
NUMBER Ein numerischer Datentyp

Ein benutzerdefinierter logischer Typ

{
  "type": "string",
  "logicalType": "number"
}
String
STRING Eine unbegrenzte Stringlänge String String
TIME Wie viele Mikrosekunden seit Mitternacht vergangen sind, unabhängig von der Zeitzone. Logischer Typ „time-micros“ String [ISO-8601]
TIME INTERVAL Anzahl der zwischen zwei Ereignissen verstrichenen Mikrosekunden

Ein benutzerdefinierter logischer Typ

{
  "type": "long",
  "logicalType": "time-interval-micros"
}
long
TIMESTAMP Wie viele Mikrosekunden seit der Epoche vergangen sind, unabhängig von der Zeitzone Ein logischer Zeitstempeltyp String [ISO-8601]
TIMESTAMP WITH TIME ZONE Wie viele Mikrosekunden seit der Epoche mit einem bestimmten Zeitzonen-Offset in Millisekunden vergangen sind

Ein benutzerdefinierter Typ

{
  "type": "record",
  "name": "timestampTz",
  "fields": [
    {"name": "timestamp",
     "type": "long"
     "logicalType": "timestamp-micros"},
    {"name": "offset",
     "type": "int"
     "logicalType": "time-millis"}
  ]
}
String [ISO-8601]
TIME WITH TIME ZONE Wie viele Mikrosekunden seit Mitternacht mit einer bestimmten Zeitzonenverschiebung vergangen sind

Ein benutzerdefinierter Typ

{
  "type": "record",
  "name": "timeTz",
  "fields": [
    {"name": "time",
     "type": "long"
     "logicalType": "time-micros"},
    {"name": "offset",
     "type": "int",
     "logicalType": "time-millis"}
  ]
}
String [ISO-8601]
UNSUPPORTED Ein nicht unterstützter Datentyp

Ein benutzerdefinierter logischer Typ

{
  "type": "null",
  "logicalType": "unsupported"
}
null
VARCHAR Ein String mit einer maximalen Länge von n Zeichen

Ein benutzerdefinierter logischer Typ

{
  "type": "string",
  "logicalType": "varchar"
  "length": N
}
String

Oracle-Datentypen den einheitlichen Datastream-Typen zuordnen

Oracle-Datentyp Einheitlicher Datastream-Typ
ANYDATA UNSUPPORTED
BFILE STRING
BINARY DOUBLE DOUBLE
BINARY FLOAT FLOAT
BLOB BYTES
CHAR VARCHAR
CLOB STRING
DATE DATETIME
DOUBLE PRECISION DOUBLE
FLOAT(p) DOUBLE
INTERVAL DAY TO SECOND UNSUPPORTED
INTERVAL YEAR TO MONTH UNSUPPORTED
LONG/LONG RAW UNSUPPORTED
NCHAR STRING
NCLOB STRING
NUMBER NUMBER
NUMBER(p,s<=0)

Wenn p<=18, dann LONG. Wenn p>18 oder p=*, dann NUMBER.

NUMBER(p,s>0)

Wenn p=*, dann DECIMAL(38,s), andernfalls DECIMAL(p,s).
NVARCHAR2 STRING
RAW STRING
ROWID STRING
SDO_GEOMETRY UNSUPPORTED
SMALLINT INTEGER
TIMESTAMP TIMESTAMP
TIMESTAMP WITH TIME ZONE TIMESTAMP WITH TIME ZONE
UDT (benutzerdefinierter Typ) UNSUPPORTED
UROWID UNSUPPORTED
VARCHAR VARCHAR
VARCHAR2 VARCHAR
XMLTYPE UNSUPPORTED

MySQL-Datentypen zu einheitlichen Datastream-Typen zuordnen

MySQL-Datentyp Einheitlicher Datastream-Typ
BIGINT(size) SIGNED LONG
BIGINT(size) UNSIGNED Wenn das Ziel BigQuery ist, dann DECIMAL, wenn Cloud Storage, dann NUMBER
BINARY(size) STRING (hex encoded)
BIT(size) LONG
BLOB(size) STRING (hex encoded)
BOOL INTEGER
CHAR(size) STRING
DATE Wenn das Ziel BigQuery ist, dann DATE, wenn Cloud Storage, dann TIMESTAMP
DATETIME(fsp) Wenn das Ziel BigQuery ist, dann DATETIME, wenn Cloud Storage, dann TIMESTAMP
DECIMAL(size, d) DECIMAL(size, d)
DOUBLE(size, d) DOUBLE
ENUM(val1, val2, val3, ...) STRING
FLOAT(p) FLOAT
FLOAT(size, d) FLOAT
GEOMETRY UNSUPPORTED
INTEGER(size) SIGNED INTEGER
INTEGER(size) UNSIGNED LONG
JSON Wenn das Ziel BigQuery ist, dann JSON, wenn Cloud Storage, dann STRING
LONGBLOB STRING (hex encoded)
LONGTEXT STRING
MEDIUMBLOB STRING (hex encoded)
MEDIUMINT(size) INTEGER
MEDIUMTEXT STRING
SET(val1, val2, val3, ...) STRING
SMALLINT(size) INTEGER
TEXT(size) STRING
TIME(fsp) Wenn das Ziel BigQuery ist, dann INTERVAL, wenn Cloud Storage, dann TIME_INTERVAL
TIMESTAMP(fsp) TIMESTAMP
TINYBLOB STRING (hex encoded)
TINYINT(size) INTEGER
TINYTEXT STRING
VARBINARY(size) STRING (hex encoded)
VARCHAR STRING
YEAR INTEGER

PostgreSQL-Datentypen einheitlichen Datastream-Typen zuordnen

PostgreSQL-Datentyp Einheitlicher Datastream-Typ
ARRAY JSON
BIGINT LONG
BIT BYTES
BIT VARYING BYTES
BOOLEAN BOOLEAN
BOX UNSUPPORTED
BYTEA BYTES
CHARACTER
  • Wenn es eine Längenbeschränkung gibt, ordnen Sie sie VARCHAR zu.
  • Andernfalls wird STRING zugeordnet.
CHARACTER VARYING
  • Wenn es eine Längenbeschränkung gibt, ordnen Sie sie VARCHAR zu.
  • Andernfalls zu STRING zuordnen
CIDR STRING
CIRCLE UNSUPPORTED
CITEXT STRING
COMPOSITE UNSUPPORTED
DATE DATE
DOUBLE PRECISION DOUBLE
ENUM STRING
INET STRING
INTEGER INTEGER
INTERVAL INTERVAL
JSON JSON
JSONB JSON
LINE UNSUPPORTED
LSEG UNSUPPORTED
MACADDR STRING
MONEY DOUBLE
NUMERIC
  • Wenn precision = -1 und scale = -1, dann wird NUMBER zugeordnet
  • Andernfalls wird DECIMAL zugeordnet.
OID LONG
PATH UNSUPPORTED
POINT UNSUPPORTED
POLYGON UNSUPPORTED
REAL FLOAT
SMALLINT INTEGER
SMALLSERIAL INTEGER
SERIAL INTEGER
TEXT STRING
TIME TIME
TIMESTAMP TIMESTAMP
TIMESTAMP WITH TIME ZONE TIMESTAMP WITH TIME ZONE
TIME WITH TIME ZONE TIME WITH TIME ZONE
TSQUERY STRING
TSVECTOR STRING
TXID SNAPSHOT STRING
UUID STRING
XID STRING
XID8 STRING
XML STRING

SQL Server-Datentypen einheitlichen Datastream-Typen zuordnen

SQL Server-Datentyp Einheitlicher Datastream-Typ
BIGINT LONG
BINARY BYTES
BIT BOOLEAN
CHAR STRING
DATE DATE
DATETIME2 DATETIME
DATETIME DATETIME
DATETIMEOFFSET TIMESTAMP WITH TIME ZONE
DECIMAL DECIMAL (p, s)
FLOAT DOUBLE
GEOGRAPHY GEOMETRY
GEOMETRY GEOMETRY
INT INTEGER
IMAGE BYTES
MONEY DECIMAL
NCHAR STRING
NVARCHAR STRING
NVARCHAR(MAX) STRING
NTEXT STRING
NUMERIC DECIMAL (p, s)
REAL FLOAT
SMALLDATETIME DATETIME
SMALLINT INTEGER
SMALLMONEY DECIMAL
TEXT STRING
TINYINT INTEGER
TIME TIME
TIMESTAMP/ROWVERSION BYTES
UNIQUEIDENTIFIER STRING
VARCHAR STRING
VARCHAR(MAX) STRING
VARBINARY BYTES
VARBINARY(MAX) BYTES
XML STRING

Salesforce-Datentypen einheitlichen Datastream-Typen zuordnen

Salesforce unterstützt zwei Arten von Datentypen:

Zuordnungen primitiver Datentypen

Salesforce-Datentyp Einheitlicher Datastream-Typ
BOOLEAN BOOLEAN
BYTE BYTES
DATE Wenn das Ziel BigQuery ist, dann DATE, wenn Cloud Storage, dann TIMESTAMP
DATETIME Wenn das Ziel BigQuery ist, dann DATETIME, wenn Cloud Storage, dann TIMESTAMP
DOUBLE DOUBLE
INT INTEGER
STRING STRING
TIME TIME

Feld-Datentypzuordnungen

Salesforce-Datentyp Einheitlicher Datastream-Typ
ADDRESS Unterfelder dieses zusammengesetzten Felds werden mit ihren jeweiligen Datentypen repliziert.
ANYTYPE

(kann entweder STRING, DATE, NUMBER oder BOOLEAN sein)

 STRING
COMBOBOX STRING
CURRENCY DOUBLE
DATACATEGORYGROUPREFERENCE STRING
EMAIL STRING
ENCRYPTEDSTRING STRING
GEOLOCATION Unterfelder dieses zusammengesetzten Felds werden mit ihren jeweiligen Datentypen repliziert.
ID STRING
JUNCTIONIDLIST STRING
MASTERRECORD STRING
MULTIPICKLIST STRING
PERCENT DOUBLE
PHONE STRING
PICKLIST STRING
REFERENCE STRING
TEXTAREA STRING
URL STRING

Workday-Datentypen einheitlichen Datastream-Typen zuordnen

Workday-Datentyp Einheitlicher Datastream-Typ
ARRAYS ARRAY
BASE64BINARY BYTES
BOOLEAN BOOLEAN
COMPLEX TYPES JSON
DATE DATE
DATETIME TIMESTAMP
DECIMAL DECIMAL
STRING STRING

Spanner-Datentypen (GoogleSQL) einheitlichen Datastream-Typen zuordnen

Spanner-Datentyp Einheitlicher Datentyp
ARRAY ARRAY
BOOL BOOLEAN
BYTES BYTES
DATE DATE
FLOAT32 FLOAT
FLOAT64 DOUBLE
INT64 LONG
JSON JSON
NUMERIC NUMBER
STRING STRING
TIMESTAMP TIMESTAMP WITH TIME ZONE
UUID STRING
PROTO UNSUPPORTED
ENUM UNSUPPORTED

Spanner-Datentypen (PostgreSQL) einheitlichen Datastream-Typen zuordnen

Spanner-Datentyp Einheitlicher Datentyp
ARRAY ARRAY
BIGINT LONG
BOOL BOOLEAN
BYTEA BYTES
CHARACTER VARYING STRING
DATE DATE
DECIMAL NUMBER
DOUBLE PRECISION DOUBLE
FLOAT8 DOUBLE
INT8 LONG
JSONB JSON
NUMERIC NUMBER
TEXT STRING
TIMESTAMP WITH TIME ZONE TIMESTAMP WITH TIME ZONE
TIMESTAMPTZ TIMESTAMP WITH TIME ZONE
VARCHAR STRING
UUID STRING

ServiceNow-Datentypen den einheitlichen Datastream-Typen zuordnen

ServiceNow-Datentyp Einheitlicher Datastream-Typ
action_conditions STRING
approval_rules STRING
audio STRING
auto_increment LONG
auto_number STRING
boolean BOOLEAN
bootstrap_color STRING
breakdown_element STRING
calendar_date_time DATETIME
catalog_preview STRING
char STRING
choice STRING
collection STRING
color STRING
color_display STRING
composite_field STRING
composite_name STRING
compressed STRING
conditions STRING
condition_string STRING
counter STRING
css STRING
currency DOUBLE
currency2 JSON
data_array STRING
data_object JSON
data_structure JSON
date STRING
datetime DATETIME
days_of_week STRING
day_of_week INTEGER
decimal DOUBLE
documentation_field STRING
document_id JSON
domain_id JSON
domain_path STRING
due_date DATETIME
dynamic_attribute_store STRING
email STRING
email_script STRING
expression STRING
external_names STRING
field_list STRING
field_name STRING
file_attachment STRING
float DOUBLE
formula STRING
geo_point STRING
glide_action_list STRING
glide_date DATE
glide_date_time DATETIME
glide_duration TIME INTERVAL
glide_encrypted STRING
glide_list STRING
glide_precise_time DATETIME
glide_time DATETIME
glide_utc_time TIME
glide_var STRING
glyphicon STRING
graphql_schema STRING
guid STRING
hash STRING
html STRING
html_script STRING
html_template STRING
icon STRING
image STRING
index_name STRING
insert_timestamp DATETIME
int INTEGER
integer INTEGER
integer_date DATE
integer_time TIME
internal_type STRING
ip_addr STRING
ip_address STRING
journal STRING
journal_input STRING
journal_list STRING
json JSON
json_translations JSON
language STRING
le_progress STRING
long LONG
longint LONG
mask_code STRING
metric_absolute DOUBLE
metric_counter DOUBLE
metric_derive DOUBLE
metric_gauge DOUBLE
mid_config STRING
month_of_year INTEGER
multi_small STRING
multi_two_lines STRING
name_values JSON
nds_icon STRING
nl_task_int1 INTEGER
order_index INTEGER
password STRING
password2 STRING
percent_complete DOUBLE
phone_number STRING
phone_number_e164 STRING
ph_number STRING
price DOUBLE
properties STRING
radio STRING
records STRING
record_hierarchy_path STRING
reference JSON
reference_name STRING
related_tags STRING
reminder_field_name STRING
repeat_count INTEGER
repeat_type STRING
replication_payload STRING
schedule_date_time TIMESTAMP WITH TIME ZONE
schedule_interval_count INTEGER
script STRING
script_client STRING
script_plain STRING
script_server STRING
short_field_name STRING
short_table_name STRING
simple_name_values JSON
slushbucket STRING
snapshot_template_value STRING
source_id JSON
source_name STRING
source_table STRING
string STRING
string_boolean STRING
string_full_utf8 STRING
structure STRING
sysevent_name STRING
sysrule_field_name STRING
sys_class_name STRING
sys_class_path STRING
table_name STRING
template_value STRING
timer TIME INTERVAL
time TIME
translated STRING
translated_field STRING
translated_html STRING
translated_text STRING
tree_code STRING
tree_path STRING
url STRING
user_image STRING
user_input STRING
user_roles STRING
variables STRING
variable_conditions STRING
variable_template_value STRING
version STRING
video STRING
week_of_month INTEGER
wide_text STRING
wiki_text STRING
wms_job STRING
workflow STRING
workflow_conditions STRING
xml STRING

MongoDB-Datentypen

Jedes MongoDB-Dokument wird in Datastream als einheitlicher Typ JSON geschrieben. Beispiele für die Schreibweise von Datentypen in BigQuery finden Sie unter BigQuery-Ziel konfigurieren.

Microsoft Dataverse-Datentypen

Jeder Microsoft Dataverse-Eintrag wird in Datastream als einheitlicher JSON-Typ geschrieben.

Salesforce Marketing Cloud-Datentypen

Jeder Salesforce Marketing Cloud-Datensatz wird als einheitlicher JSON-Typ in Datastream geschrieben.

Nächste Schritte