数据库同步规则

February 26, 2024About 36 min

数据库同步规则

SDK类名:/stream/SyncRule

同步规则 - 列表

SDK方法名:listSyncRules

URL

/vers/v3/sync_rule

Method

GET

Request

名称类型必选简介Mock初始值Mock规则
pageNumber偏移数1
limitNumber最多多少行10
search_fieldString搜索域rule_name
search_valueString搜索值
group_uuidString查询业务组
where_argsObject
  rule_uuidString@guid
  statusString状态
  src_db_nameString数据源
  tgt_db_nameString目标端
  db_ipString数据库ip
  node_ipString机器节点ip
  usernameString用户名
  rule_nameString(其余同步规则)规则名
  src_db_typeString源端数据库类型
  tgt_db_typeString备端数据库类型

Response

名称类型必选简介Mock初始值Mock规则
totalNumber20
retNumber200
msgString
dataObject
  codeNumber0
  messageString[0] 操作成功。
  info_listArray10
    usernameStringadmin
    user_uuidString1BCFCAA3-E3C8-3E28-BDC5-BE36FDC2B5DC
    rule_uuidString['6ECF19A1-3754-1490-C6A3-52AFB4D7F497', '6ECF19A1-3754-1490-C6A3-52AFB4D7F496']
    src_db_uuidStringAF16E01E-6988-D0FA-3A7F-DEE04C4D3B4A
    tgt_db_uuidString72855161-CD57-6FB5-C195-B19F466AB2C0
    rule_typeNumber0
    rule_nameString123123
    node_uuidString
    create_timeNumber1593511163
    has_bk_takeoverString是否有对应接管规则
    has_reverseString是否有对应反向同步规则
    bk_takeover_uuidString对应接管规则uuid
    reverse_uuidString对应反向同步uuid
  totalNumber11

同步规则 - 操作

SDK方法名:

继续:resumeOracleRule;

停止:stopOracleRule;

重启:restartOracleRule

开始日志解析:startAnalysisOracleRule;

停止日志解析:stopAnalysisOracleRule;

重新日志解析:resetAnalysisOracleRule;

停止规则并停止日志解析:stopAndStopanalysisOracleRule;

复制:duplicateOracleRule

URL

/vers/v3/sync_rule/operate

Method

POST

Request

名称类型必选简介Mock初始值Mock规则
rule_uuidsArray规则uuid['@guid']10
operateStringresume 继续
stop 停止
restart 重启
start_analysis 启动解析
stop_analysis 停止解析
reset_analysis 重置解析
stop_and_stopanalysis 停止并停止解析
duplicate 复制
reverse_restart 重启反向同步
reverse_stop 停止反向同步
bk_takeover_restart 重新接管
bk_takeover_stop 停止接管
table_fix 表修复
restart
scnString(重置解析)SCN1
allNumber(重置解析)重置源库所有规则
rule_nameString(复制)复制的规则新名称
tabArray(表修复)修复映射关系
  userString用户
  tableString表名
fix_relationNumber(表修复)是否修复关联表,0:关,1:开

Response

名称类型必选简介Mock初始值Mock规则
retNumber200
msgString
dataObject
  messageString
  codeNumber0
  dataObject
    success_listArray5
      codeNumber,0
      messageString
      rule_uuidString
      rule_nameFunction($x)=>{return JSON.stringify(arguments, null, 2);}
      idNumber+1
    fail_listArray5
      codeNumber-1
      messageString
    all_listArray10
      codeNumber@pick(0,-1)
      messageString

同步规则 - 新建

SDK方法名:createSyncRule; 创建同步规则

URL

/vers/v3/sync_rule

Method

POST

Request

名称类型必选简介Mock初始值Mock规则
rule_nameString规则名称ctt->ctt
commentString备注
src_db_uuidString源端数据库uuid6C4AEF37-6496-6DCD-E085-DD640001E4EC
src_db_auth_uuidString源端用户认证uuid
tgt_db_uuidString备端数据库uuid1C5F3C4B-7333-9518-7349-9712BC9ED664
tgt_db_auth_uuidString备端用户认证uuid
map_type_listArray映射方式(支持多种映射的规则使用,源端为Oracle或OceanBase)
base_settingsObject基本设置
  dbmap_topicString备端kafka整库映射topic
  json_templateStringjson模板
  binary_codeString二进制数据编码方式(hex、base64)
  kafka_message_encodingString消息字符集(UTF-8、GBK)
  kafka_time_outNumberProducer超时时间(毫秒)
  part_load_balanceString分区均衡策略(by_table、by_key)
  row_map_modeString行映射方式
(rowid、where、auto)
  save_json_textBoolean保存为额外json
  message_formatString消息格式(protobuf、json)
  full_sync_modeString全同步方式,逻辑:logic 物理 physics 自动 auto
  lib_nameString日志库名
  jnr_nameString日志名称
  exclude_dbsArray排除库列表
  exclude_dbs_switchString排除库开关,0:关,1:开
  start_rule_nowString立即开始规则,0:关,1:开
  ob_sharding_instString(源端为obshading)实例名
user_mapObject用户映射模式
  src_userStringuser1
  tgt_userStringuser2
table_mapArray表映射模式
  keyArray自定义主键key列@last3
  split_dst_tableArray表拆分
    conditionString拆分条件
    dst_tableString备端表名
    dst_userString备端用户
  dst_tableString备端表名a
  dst_userString备端用户b
  src_tableString源端表名c
  src_userString源端用户d
  columnArray
    dst_columnString备端字段e
    src_columnString源端字段f
column_mapArray按列匹配映射,格式为:用户,列1,列2,列3。(用户支持星号)例:
["U1, ID, NAME", "
, CARD"]
  userString原用户
  targetString目标用户或目标topic(kafka)
  columnString列名
database_mapArraypgsql整实例映射
  src_databaseString
  src_schemaString
  tgt_databaseString
full_sync_settingsObject全量设置
  dump_thdNumber全量导出线程数1
  load_thdNumber全量装载线程数1
  clean_user_before_dumpNumber全量同步前清除用户0
  existing_tableString并发同步表drop_to_recycle
  full_syncNumber整库开关0
  start_scnString起始SCN
  ld_dir_optNumber0
  try_split_part_tableNumber0
  concurrent_tableArray["hello.world"]
  full_sync_custom_cfgArray全局自定义配置
    keyString
    valueString
  dump_splitObject单表拆分配置
    enableBoolean是否启用单表拆分false
    least_rowsNumber单表拆分最大行数
    least_bytesNumber单表拆分最大字节数
    expire_secondsNumber拆分过期时间(秒)
  end_target_dbString最终目标库
  end_target_typeString最终目标库类型
  end_db_mapArray最终库映射
    src_dbString
    tar_dbString
  end_tab_mapArray最终表映射
    src_dbString
    src_tableString
    dst_dbString
    dst_tableString
    columnArray
      src_columnString
      dst_columnString
inc_sync_settingsObject增量设置
  incre_syncNumber增量同步,0:关闭,1:开启
  dyn_threadNumber增量装载线程数
  redo_read_threadNumber读取日志线程数
  ddl_cvNumber备端对删除的表进行备份,0:关闭,1:开启
  convert_urp_of_keyString转换更新主键操作
  sync_lobNumber同步LOB数据,0:关闭,1:开启
  keep_bad_actNumber保留装载失败事务,0:关闭,1:开启
  fill_lob_columnNumber补全更新操作LOB数据,0:关闭,1:开启
  keep_seq_syncString序列校准
  gen_txnNumber定期在源库产生空事务,0:关闭,1:开启
  merge_trackNumber统一解析,0:关闭,1:开启
  storage_settingsObject存储设置
    src_max_memNumber源端内存缓存上限(MB)
    src_max_diskNumber源端磁盘缓存上限(MB)
    txn_max_memNumber事务最大内存占用(KB)
    tf_max_sizeNumber最大跟踪文件大小(MB)
    max_ld_memNumber增量装载队列内存上限(MB)
    keep_incre_timeNumber备端保留增量导出数据时长
  error_handlingObject错误处理设置
    load_err_setString装载错误处理方式
continue 继续装载
stopld:停止装载
stoptabld:停止此表装载
    drpString删除时未找到记录
ignore :忽略
err:报错
    irpString插入时记录冲突
"irpafterdel" (删除后插入,默认值)
"tourp"(转换为更新)
"err"(报错)
以上为原有值不变,新增以下三个值:
"choose_bigger" (按指定字段更大值插入)
"choose_smaller" (按指定字段更小值插入)
"sp" (执行指定存储过程)
    urpString更新时为找到记录
toirp: 转换为插入
err:报错
    infoString上传dml 错误,0:关闭,1:开启
    report_failed_dmlString指定信息,表示用户指定的字段名或者存储过程名称。
  dml_trackObjectDML操作追踪设置
    change_table_structureBoolean变更同步表结构
    date_time_column_uniqueString操作产生时间字段值主键
    load_date_time_column_uniqueBoolean操作装载时间字段值主键
    op_columnString操作标记字段名
    opv_insertString操作标记字段:插入操作标记值
    opv_updateString操作标记字段:更新操作标记值
    opv_update_keyString操作标记字段:更新主键、唯一键操作标记值
    opv_deleteString操作标记字段:删除操作标记值
    auditBoolean是否启用审计表
    audit_prefixString审计表前辍
    audit_appendixString审计表后辍
    identity_columnString自增列字段
    load_date_columnString操作装载时间字段名称仅日期
    load_time_columnString操作装载时间字段名称仅时间
    load_date_time_columnBoolean操作装载时间字段名称时间和日期
    keep_deleted_rowBoolean是否保留删除列 true
    date_columnString操作日期字段名
    time_columnString操作时间字段名
    date_time_columnString操作日期+时间字段名
  trackmodeString(DM)抽取方式,本地:local
远程:remote
  incre_full_sync_custom_cfgArray(MySQL)增量自定义配置
    keyString
    valueString
full_sync_obj_filterObject全同步对象过滤
  full_sync_obj_dataArray["PROCEDURE","PACKAGE","PACKAGE BODY","DATABASE LINK","OLD JOB","JOB","PRIVS","CONSTRAINT","JAVA RESOURCE","JAVA SOURCE"]
inc_sync_ddl_filterObject增量同步对象ddl过滤
  inc_sync_ddl_dataArray["INDEX","VIEW","FUNCTION"]
other_settingsObject其他设置
  table_delay_loadArray表延迟约束装载设置
  keep_dyn_dataNumber(废弃字段)0
  dyn_threadNumber增量装载线程数1
  dly_constraint_loadNumber(废弃字段)0
  ddl_cvNumber备端对删除的表进行备份0
  keep_bad_actNumber保留装载失败事务0
  keep_usr_pwdNumber备库保留存在用户的密码1
  convert_urp_of_keyNumber转换更新主键操作0
  ignore_foreign_keyNumber忽略外键依赖0
  run_timeString运行时间"1200:00-13:0040M,300:00-13:0040M"
  table_change_infoNumber表结构变更通知
  jointingObject字段拼接
    tableString
    opString操作
op类型定义
前辍 prefix 后辍 append 常量 const 拼接 join 加 add 减 sub 乘 multiply 除 divide
append
    contentArray目标列+其他两行
  enable_truncate_frequenceNumbertruncate频率限制 0:关 1:开
  tgt_extern_tableString备端外部表存储位置
  bw_limitString宽带设置
  etl_tableArrayetl设置
    oprTypeString
    tableString
    userString
    processString
    addInfoString
  filter_table_settingsObject表过滤设置
    exclude_tableArray表过滤设置
      userString用户名
      tableString表名
    exclude_tab_with_columnString格式为:用户,列1,列2,列3。(用户支持星号)例:
["U1, ID, NAME", "
, CARD"]
    exclude_tab_with_column_switchNumber按列匹配过滤表,0:关闭,1:开启
  table_space_mapObject表空间设置
    tgt_table_spaceString备端表空间存储位置
    table_mapping_wayString
    table_path_mapObject{"ddd":"sss","ddd1":"sss1"}
    table_space_nameObject{"qq":"ss"}
biz_grp_listArray业务组
compress_encrypt_settingsObject压缩加密设置
  compress_switchString压缩开关0:关,1:开
  compress_levelString压缩等级 1-9(算法为snappy固定为0,为lzma时可以选1-22)
  compress_algoString压缩算法:lz4,zip,bzip2,snappy,zstd,lzma
  encrypt_switchString加密开关0:关,1:开
  encryptString加密算法
  compressString压缩级别 1 2 3 4 5 6 7 8 9 0(0为自定义压缩)
policy_settingsObject运行策略(暂时不用)
  policy_typeString
  one_timeString
  policiesString
maintenanceNumber维护模式,0:关,1:开
is_duplicateNumber是否被复制规则,0:关,1:开
full_map_switchNumber是否整库映射,0:关,1:开

Response

名称类型必选简介Mock初始值Mock规则
retNumber200
msgString
dataObject
  uuidString@uuid
  codeNumber0
  messageStringsuccess

同步规则 - 批量新建

SDK方法名:createBatchSyncRule;

URL

/vers/v3/sync_rule/batch

Method

POST

Request

名称类型必选简介Mock初始值Mock规则
prefixString前缀
db_listArray
  rule_uuidString
  src_db_uuidString
  src_auth_db_uuidString
  tgt_db_uuidString
  tgt_auth_db_uuidString
commentString备注
start_rule_nowNumber开始规则0
map_type_listArray映射方式
user_mapObject用户映射模式{"CTT":"CTT"}
table_mapArray表映射模式
  keyArray自定义主键key列@last3
  split_dst_tableArray
    conditionString拆分条件
    dst_tableString备端表名
    dst_userString备端用户
  dst_tableString备端表名a
  dst_userString备端用户b
  src_tableString源端表名c
  src_userString源端用户d
  columnArray
    dst_columnString备端字段e
    src_columnString源端字段f
column_mapObject按列匹配设置
  include_tab_with_columnArray格式为:用户,列1,列2,列3。(用户支持星号)例:
["U1, ID, NAME", "
, CARD"]
    userString原用户
    targetString目标用户或目标topic(kafka)
    columnString列名
  include_tab_with_column_switchString按列匹配,0:关闭,1:开启
base_settingsObject基本设置
  dbmap_topicString备端kafka整库映射topic
  json_templateStringjson模板
  binary_codeString二进制数据编码方式(hex、base64)
  kafka_message_encodingString消息字符集(UTF-8、GBK)
  kafka_time_outNumberProducer超时时间(毫秒)
  part_load_balanceString分区均衡策略(by_table、by_key)
  row_map_modeString行映射方式
(rowid、where、auto)
  save_json_textBoolean保存为额外json
  message_formatString消息格式(protobuf、json)
full_sync_settingsObject全同步设置
  dump_thdNumber1
  clean_user_before_dumpNumber0
  existing_tableStringdrop_to_recycle
  sync_modeNumber0
  start_scnString
  keep_exist_tableNumber0
  keep_tableNumber0
  load_thdNumber1
  ld_dir_optNumber0
  his_threadNumber1
  try_split_part_tableNumber0
  concurrent_tableArray["hello.world"]
  full_sync_custom_cfgArray全局自定义配置
    keyString
    valueString
filter_table_settingsObject表过滤设置
  exclude_tableArray表过滤设置
    userString用户名
    tableString表名
  exclude_tab_with_columnArray格式为:用户,列1,列2,列3。(用户支持星号)例:
["U1, ID, NAME", "
, CARD"]
  exclude_tab_with_column_switchNumber0:关闭,1:开启
incre_sync_settingsObject增量设置
  incre_syncNumber增量同步
  dyn_threadNumber增量装载线程数
  convert_urp_of_keyNumber转换更新主键操作
  sync_lobNumber同步LOB数据
  gen_txnNumber定期在源库产生空事务
  merge_trackNumber统一解析
  keep_bad_actNumber保留装载失败事务
full_sync_obj_filterObject全同步对象过滤
  full_sync_obj_dataArray["PROCEDURE","PACKAGE","PACKAGE BODY","DATABASE LINK","OLD JOB","JOB","PRIVS","CONSTRAINT","JAVA RESOURCE","JAVA SOURCE"]
inc_sync_ddl_filterObject增量同步对象ddl过滤
  inc_sync_ddl_dataArray["INDEX","VIEW","FUNCTION"]
etl_settingsObjectetl设置
  etl_tableArray
    oprTypeStringIRP
    tableString
    userString
    processStringSKIP
    addInfoString
other_settingsObject其他设置
  gen_txnString
  table_delay_loadArray["hh.ww"]
  keep_dyn_dataNumber0
  dyn_threadNumber1
  dly_constraint_loadNumber0
  zip_levelNumber0
  ddl_cvNumber备端对删除的表进行备份0
  keep_bad_actNumber0
  keep_usr_pwdNumber1
  convert_urp_of_keyNumber0
  ignore_foreign_keyNumber0
  run_timeString运行时间"1200:00-13:0040M,300:00-13:0040M"
  table_change_infoNumber表结构变更通知
  jointingObject字段拼接
    tableString
    opString操作
op类型定义
前辍 prefix 后辍 append 常量 const 拼接 join 加 add 减 sub 乘 multiply 除 divide
append
    contentArray目标列+其他两行
  encrypt_switchNumber
  encrypt_typeNumber
  enable_truncate_frequenceNumbertruncate频率限制 0:关 1:开
  merge_trackString统一解析
  message_formatStringprotobuf
json
  json_formatStringjson
canaljson
message_format为json时,可传json , canaljson, 其他值传空串
  fill_lob_columnString
  keep_seq_syncString
storage_settingsObject存储设置
  keep_incre_timeString备端保留增量导出数据时长
  src_max_memNumber源端内存缓存上限512
  src_max_diskNumber源端磁盘缓存上限5000
  txn_max_memNumber事务最大内存占用10000
  tf_max_sizeNumber最大跟踪文件大小100
  tgt_extern_tableString
  max_ld_memString
table_space_mapObject表空间映射
  tgt_table_spaceString备端表空间存储位置
  table_mapping_wayStringptop
  table_path_mapObject{"ddd":"sss","ddd1":"sss1"}
  table_space_nameObject{"qq":"ss"}
bw_settingsObject宽带设置
  bw_limitString"1200:00-13:0040M,300:00-13:0040M"
biz_grp_listArray业务组
error_handlingObject错误处理
  load_err_setString装载错误处理方式
continue 继续装载
stopld:停止装载
stoptabld:停止此表装载
continue
  drpString删除时未找到记录
ignore :忽略
err:报错
ignore
  irpString插入时记录冲突
"irpafterdel" (删除后插入,默认值)
"tourp"(转换为更新)
"err"(报错)
以上为原有值不变,新增以下三个值:
"choose_bigger" (按指定字段更大值插入)
"choose_smaller" (按指定字段更小值插入)
"sp" (执行指定存储过程)
irpafterdel
  urpString更新时为找到记录
toirp: 转换为插入
err:报错
toirp
  report_failed_dmlNumber上传dml 错误
0:没选中
1:选中
  infoString任意字符串,表示用户指定的字段名或者存储过程名称。
dml_trackArrayDML操作追踪设置
  change_table_structureBoolean变更同步表结构
  date_time_column_uniqueBoolean操作产生时间字段值主键
  load_date_time_column_uniqueBoolean操作装载时间字段值主键
  op_columnString操作标记字段名
  opv_insertString操作标记字段:插入操作标记值
  opv_updateString操作标记字段:更新操作标记值
  opv_update_keyString操作标记字段:更新主键、唯一键操作标记值
  opv_deleteString操作标记字段:删除操作标记值
  auditBoolean是否启用审计表
  audit_prefixString审计表前辍
  audit_appendixString审计表后辍
  identity_columnString自增列字段AUTO_INCR
  load_date_columnString装载仅日期
  load_time_columnString装载仅时间
  load_date_time_columnString时间和日期
  enableBoolean是否启用 true
  keep_deleted_rowBoolean是否保留删除列 true
  date_columnString操作日期字段名
  time_columnString操作时间字段名
  date_time_columnString操作日期+时间字段名
compress_encrypt_settingsObject压缩加密设置
  compress_switchString压缩开关0:关,1:开
  compress_levelString压缩等级 1-9(算法为snappy固定为0,为lzma时可以选1-22)
  compress_algoString压缩算法:lz4,zip,bzip2,snappy,zstd,lzma
  encrypt_switchString加密开关0:关,1:开
  encryptString加密算法
  compressString压缩级别 1 2 3 4 5 6 7 8 9 0(0为自定义压缩)

Response

名称类型必选简介Mock初始值Mock规则
retNumber200
msgString
dataObject
  uuidString@uuid
  codeNumber0
  messageStringsuccess

同步规则 - 批量修改

SDK方法名:batchModifySyncRule; 批量修改同步规则

URL

/vers/v3/sync_rule/batch

Method

PUT

Request

名称类型必选简介Mock初始值Mock规则
rule_uuidsArray规则uuid数组
batch_base_settingsString批量修改基本设置开关(包含映射部分)
0:关,1:开
batch_full_sync_settingsString批量修改全量设置开关
0:关,1:开
batch_inc_sync_settingsString批量修改增量设置开关
0:关,1:开
batch_full_sync_obj_filterString批量修改全量对象过滤设置开关
0:关,1:开
batch_inc_sync_ddl_filterString批量修改增量DDL过滤设置设置开关
0:关,1:开
batch_other_settingsString批量修改高级设置设置开关
0:关,1:开
batch_compress_encrypt_settingsString批量修改压缩加设置设置开关
0:关,1:开
map_type_listArray映射方式
base_settingsObject基本设置
  dbmap_topicString备端kafka整库映射topic
  json_templateStringjson模板
  binary_codeString二进制数据编码方式(hex、base64)
  kafka_message_encodingString消息字符集(UTF-8、GBK)
  kafka_time_outNumberProducer超时时间(毫秒)
  part_load_balanceString分区均衡策略(by_table、by_key)
  row_map_modeString行映射方式
(rowid、where、auto)
  save_json_textBoolean保存为额外json
  message_formatString消息格式(protobuf、json)
  full_sync_modeString全同步方式,逻辑:logic 物理 physics 自动 auto
  lib_nameString日志库名
  jnr_nameString日志名称
  exclude_dbsArray排除库列表
  exclude_dbs_switchString排除库开关,0:关,1:开
  start_rule_nowString立即开始规则,0:关,1:开
user_mapObject用户映射模式
  src_userStringuser1
  tgt_userStringuser2
table_mapArray表映射模式
  keyArray自定义主键key列@last3
  split_dst_tableArray表拆分
    conditionString拆分条件
    dst_tableString备端表名
    dst_userString备端用户
  dst_tableString备端表名a
  dst_userString备端用户b
  src_tableString源端表名c
  src_userString源端用户d
  columnArray
    dst_columnString备端字段e
    src_columnString源端字段f
column_mapObject按列匹配映射,格式为:用户,列1,列2,列3。(用户支持星号)例:
["U1, ID, NAME", "
, CARD"]
  userString原用户
  targetString目标用户或目标topic(kafka)
  columnString列名
full_sync_settingsObject全量设置
  dump_thdNumber1
  clean_user_before_dumpNumber0
  existing_tableStringdrop_to_recycle
  full_syncNumber整库开关0
  start_scnString
  keep_exist_tableNumber0
  keep_tableNumber0
  load_thdNumber1
  ld_dir_optNumber0
  try_split_part_tableNumber0
  concurrent_tableArray["hello.world"]
  full_sync_custom_cfgArray全局自定义配置
    keyString
    valueString
inc_sync_settingsObject增量设置
  incre_syncNumber增量同步,0:关闭,1:开启
  dyn_threadNumber增量装载线程数
  ddl_cvNumber备端对删除的表进行备份,0:关闭,1:开启
  convert_urp_of_keyString转换更新主键操作
  sync_lobNumber同步LOB数据,0:关闭,1:开启
  keep_bad_actNumber保留装载失败事务,0:关闭,1:开启
  fill_lob_columnNumber补全更新操作LOB数据,0:关闭,1:开启
  keep_seq_syncString序列校准
  gen_txnNumber定期在源库产生空事务,0:关闭,1:开启
  merge_trackNumber统一解析,0:关闭,1:开启
  storage_settingsObject存储设置
    src_max_memNumber源端内存缓存上限(MB)
    src_max_diskNumber源端磁盘缓存上限(MB)
    txn_max_memNumber事务最大内存占用(KB)
    tf_max_sizeNumber最大跟踪文件大小(MB)
    max_ld_memNumber增量装载队列内存上限(MB)
    keep_incre_timeNumber备端保留增量导出数据时长
  error_handlingObject错误处理设置
    load_err_setString装载错误处理方式
continue 继续装载
stopld:停止装载
stoptabld:停止此表装载
    drpString删除时未找到记录
ignore :忽略
err:报错
    irpString插入时记录冲突
"irpafterdel" (删除后插入,默认值)
"tourp"(转换为更新)
"err"(报错)
以上为原有值不变,新增以下三个值:
"choose_bigger" (按指定字段更大值插入)
"choose_smaller" (按指定字段更小值插入)
"sp" (执行指定存储过程)
    urpString更新时为找到记录
toirp: 转换为插入
err:报错
    infoString上传dml 错误,0:关闭,1:开启
    report_failed_dmlString指定信息,表示用户指定的字段名或者存储过程名称。
  dml_trackObjectDML操作追踪设置
    change_table_structureBoolean变更同步表结构
    date_time_column_uniqueString操作产生时间字段值主键
    load_date_time_column_uniqueBoolean操作装载时间字段值主键
    op_columnString操作标记字段名
    opv_insertString操作标记字段:插入操作标记值
    opv_updateString操作标记字段:更新操作标记值
    opv_update_keyString操作标记字段:更新主键、唯一键操作标记值
    opv_deleteString操作标记字段:删除操作标记值
    auditBoolean是否启用审计表
    audit_prefixString审计表前辍
    audit_appendixString审计表后辍
    identity_columnString自增列字段
    load_date_columnString操作装载时间字段名称仅日期
    load_time_columnString操作装载时间字段名称仅时间
    load_date_time_columnBoolean操作装载时间字段名称时间和日期
    keep_deleted_rowBoolean是否保留删除列 true
    date_columnString操作日期字段名
    time_columnString操作时间字段名
    date_time_columnString操作日期+时间字段名
full_sync_obj_filterObject全同步对象过滤
  full_sync_obj_dataArray["PROCEDURE","PACKAGE","PACKAGE BODY","DATABASE LINK","OLD JOB","JOB","PRIVS","CONSTRAINT","JAVA RESOURCE","JAVA SOURCE"]
inc_sync_ddl_filterObject增量同步对象ddl过滤
  inc_sync_ddl_dataArray["INDEX","VIEW","FUNCTION"]
other_settingsObject其他设置
  table_delay_loadArray表延迟约束装载设置
  keep_dyn_dataNumber0
  dyn_threadNumber1
  dly_constraint_loadNumber0
  zip_levelNumber0
  ddl_cvNumber备端对删除的表进行备份0
  keep_bad_actNumber0
  keep_usr_pwdNumber备库保留存在用户的密码1
  convert_urp_of_keyNumber0
  ignore_foreign_keyNumber忽略外键依赖0
  run_timeString运行时间"1200:00-13:0040M,300:00-13:0040M"
  table_change_infoNumber表结构变更通知
  jointingObject字段拼接
    tableString
    opString操作
op类型定义
前辍 prefix 后辍 append 常量 const 拼接 join 加 add 减 sub 乘 multiply 除 divide
append
    contentArray目标列+其他两行
  enable_truncate_frequenceNumbertruncate频率限制 0:关 1:开
  tgt_extern_tableString备端外部表存储位置
  bw_limitString宽带设置
  etl_tableArrayetl设置
    oprTypeString
    tableString
    userString
    processString
    addInfoString
  filter_table_settingsObject表过滤设置
    exclude_tableArray表过滤设置
      userString用户名
      tableString表名
    exclude_tab_with_columnString格式为:用户,列1,列2,列3。(用户支持星号)例:
["U1, ID, NAME", "
, CARD"]
    exclude_tab_with_column_switchNumber按列匹配过滤表,0:关闭,1:开启
  table_space_mapObject表空间设置
    tgt_table_spaceString备端表空间存储位置
    table_mapping_wayString
    table_path_mapObject{"ddd":"sss","ddd1":"sss1"}
    table_space_nameObject{"qq":"ss"}
biz_grp_listArray业务组
compress_encrypt_settingsObject压缩加密设置
  compress_switchString压缩开关0:关,1:开
  compress_levelString压缩等级 1-9(算法为snappy固定为0,为lzma时可以选1-22)
  compress_algoString压缩算法:lz4,zip,bzip2,snappy,zstd,lzma
  encrypt_switchString加密开关0:关,1:开
  encryptString加密算法
  compressString压缩级别 1 2 3 4 5 6 7 8 9 0(0为自定义压缩)
policy_settingsObject运行策略
  policy_typeString
  one_timeString
  policiesString
maintenanceNumber维护模式,0:关,1:开
is_duplicateNumber是否被复制规则,0:关,1:开
full_map_switchNumber是否整库映射,0:关,1:开

Response

名称类型必选简介Mock初始值Mock规则
retNumber200
msgString
dataObject
  uuidString@uuid
  codeNumber0
  messageStringsuccess

同步规则 - 删除

SDK方法名:deleteSyncRule

URL

/vers/v3/sync_rule

Method

DELETE

Request

名称类型必选简介Mock初始值Mock规则
rule_uuidsArray规则数组
forceBoolean强制删除

Response

名称类型必选简介Mock初始值Mock规则
msgString
dataObject
  codeNumber1
  messageStringDelete success
  success_listArray
    codeString0
    rule_uuidString@guid
    rule_nameString@first
    messageString
  fail_listArray
    codeNumber-1
    messageString
    rule_uuidString@guid
    rule_nameString@first
retNumber200

同步规则 - 通用操作

SDK方法名:syncRuleCommonOperate;

URL

/vers/v3/sync_rule/common_operate

Method

POST

Request

名称类型必选简介Mock初始值Mock规则
operateStringresume 继续
stop 停止
restart 重启
uuidsArray操作对应规则uuid@guid

Response

名称类型必选简介Mock初始值Mock规则
retNumber200
msgString
dataObject
  messageString
  codeNumber0
  dataObject
    success_listArray5
      codeNumber,0
      messageString
    fail_listArray5
      codeNumber-1
      messageString
    all_listArray10
      codeNumber@pick(0,-1)
      messageString

同步规则-获取单个

SDK方法名:describeSyncRules

URL

/vers/v3/sync_rule/:uuid([A-F0-9-]+)

Method

GET

Request

名称类型必选简介Mock初始值Mock规则
uuidStringF530FB0E-0208-9071-66D3-E595AE7D5A4C

Response

名称类型必选简介Mock初始值Mock规则
retNumber200
msgString
dataObject
  messageStringsuccess
  codeNumber0
  info_listObject
    rule_uuidString751A03F5-C97D-645B-82B2-316A5D198528
    src_db_uuidString4CA773F4-36E3-A091-122C-ACDFB2112C21
    tgt_db_uuidString40405FD3-DB86-DC8A-81C9-C137B6FDECE5
    tgt_typeStringkafka
    db_user_mapString{"11":"1122"}
    row_map_modeStringrowid
    map_typeStringuser
    table_mapArray[{src_user: "111", src_table: "222", dst_user: "3", dst_table: "4"}]
    dbmap_topicString
    node_uuidString
    sync_modeNumber0
    start_scnString0
    full_sync_settingsObject
      keep_exist_tableNumber0
      keep_tableNumber0
      load_modeStringdirect
      ld_dir_optNumber0
      his_threadNumber1
      try_split_part_tableNumber0
      concurrent_tableArray["hello.world"]
    rule_nameStringctt->ctt
    inc_sync_ddl_filterObject
      inc_sync_ddl_dataArray["CREATE TABLE","DROP TABLE","ALTER TABLE"]
    filter_table_settingsObject
      exclude_tableArray["hh.ww"]
    etl_settingsObject
      etl_tableArray[{obj_fix_type: "URP", user: "123", table: "123", deal_type: "SKIP", field_condition: "44"}]
    start_rule_nowNumber0
    storage_settingsObject
      src_max_memNumber512
      src_max_diskNumber5000
      txn_max_memNumber10000
      tf_max_sizeNumber100
      tgt_extern_tableString
    error_handlingObject
      load_err_setStringcontinue
      drpStringignore
      irpStringirpafterdel
      urpStringtoirp
    table_space_mapObject
      tgt_table_spaceString
      table_mapping_wayStringptop
      table_path_mapString{"ddd":"sss"}
      table_space_nameString{"qq":"ss"}
    other_settingsObject
      keep_dyn_dataNumber0
      dyn_threadNumber1
      dly_constraint_loadNumber0
      zip_levelNumber0
      ddl_cvNumber0
      keep_bad_actNumber0
      keep_usr_pwdNumber1
      convert_urp_of_keyNumber0
      ignore_foreign_keyNumber0
    bw_settingsObject
      bw_limitString1200:00-13:0040k,300:00-13:0040m
    biz_grp_listArray业务组
    dml_trackObject
      enableNumber1
      urpNumber0
      drpNumber1
      tmcolString
      delcolString
    producer_send_timeString66666
    part_load_balanceStringby_table
    kafka_time_outString132000
    full_sync_obj_filterObject
      full_sync_obj_dataArray["PROCEDURE","PACKAGE","PACKAGE BODY","DATABASE LINK","OLD JOB","JOB","PRIVS","CONSTRAINT","JAVA RESOURCE","JAVA SOURCE"]

同步规则-状态

SDK方法名:listSyncRulesStatus

URL

/vers/v3/sync_rule/status

Method

GET

Request

名称类型必选简介Mock初始值Mock规则
uuidsArray

Response

名称类型必选简介Mock初始值Mock规则
retNumber200
msgString
dataObject
  codeNumber0
  messageString[0] 操作成功。
  has_false_ruleBoolean是否有残留规则false
  info_listArray2
    rule_uuidString同步规则 uuid['6ECF19A1-3754-1490-C6A3-52AFB4D7F497', '6ECF19A1-3754-1490-C6A3-52AFB4D7F496']+1
    work_stateObject导出状态信息
      statusStringACTIVE_RULE_NORMAL : 正常
ACTIVE_RULE_ABNORMAL : 异常
ACTIVE_RULE_TRACK : 增量
ACTIVE_RULE_TRACK_WARNING : 增量
ACTIVE_RULE_PAUSE : 停止
ACTIVE_RULE_STOP : 停止
ACTIVE_RULE_DUMPDICT : 准备
ACTIVE_RULE_DUMP : 全量
ACTIVE_RULE_DONE : 完成
ACTIVE_RULE_FINISH : 完成
ACTIVE_RULE_ERROR : 错误
ACTIVE_RULE_INIT : 未启动
ACTIVE_RULE_FIX : 修复中
ACTIVE_RULE_UNKNOWN : 未知
ACTIVE_RULE_ONLINE : 在线
ACTIVE_RULE_WARN : 警告
ACTIVE_RULE_DOING : 在线
ACTIVE_RULE_ : 未知
ACTIVE_RULE_OFFLINE : 停止
ACTIVE_RULE_RUN : 运行
ACTIVE_RULE_WAIT : 准备
ACTIVE_REVERSE_FINISH : 完成
ACTIVE_REVERSE_ABNORMAL : 异常
ACTIVE_REVERSE_WARN : 警告
ACTIVE_REVERSE_UNKNOWN : 未知
ACTIVE_REVERSE_ : 未知
ACTIVE_REVERSE_FINISH : 完成
ACTIVE_REVERSE_ABNORMAL : 异常
ACTIVE_REVERSE_WARN : 警告
ACTIVE_REVERSE_UNKNOWN : 未知
ACTIVE_REVERSE_ : 未知
REVERSE_DOING : 在线
REVERSE_DONE : 完成
REVERSE_STOP : 停止
REVERSE_PAUSE : 暂停
ACTIVE_RULE_SCHEDULING : [调度中]
ACTIVE_RULE_STOP_SCHEDUL : [停止调度]
OBJ_FIX_DOING : 正在修复
OBJ_FIX_DONE : 修复完成
OBJ_FIX_ERROR : 修复错误
OBJ_FIX_UNKNOWN : 未知
OBJ_FIX_STOP : 停止修复
OBJ_FIX_ABNORMAL : 修复异常
OBJ_FIX_PAUSE : 停止
OBJ_FIX_OFFLINE : 离线
CMP_ABNORMAL : 比较异常
CMP_DOING : 正在比较
CMP_DONE : 比较完成
CMP_ERROR : 比较错误
CMP_UNKNOWN : 未知
CMP_PAUSE : 停止
CMP_STOP : 停止
CMP_WAIT : 等待中
CMP_OFFLINE : 离线
TAKEOVER_UNKNOWN : 未知
TAKEOVER_DOING : 正在接管
TAKEOVER_DONE : 接管完成
TAKEOVER_ERROR : 接管错误
TAKEOVER_STOP : 接管停止
TAKEOVER_ABNORMAL : 接管异常
TAKEOVER_OFFLINE : 离线
ACTIVE_RULE_TRACK
      error_codeNumber-4018
      progressString[98, 66]+1
    back_stateObject装载信息
      statusString同上work_stateACTIVE_RULE_PAUSE
    relay_stateObject中继节点的信息
      statusString同上work_state
      error_codeString
    track_stateObject解析状态信息
      statusString同上work_state['ACTIVE_RULE_PAUSE', 'OFFLINE']+1
    src_stateObject此功能对应数据源的状态,领导要求暂时屏蔽此功能,可不看
      statusStringACTIVE_RULE_UNKNOWN
    dst_stateObject同src_state
      statusStringACTIVE_RULE_UNKNOWN
    extractString解析时间-
    loadString装载时间-
    delayNumber延迟0
    peakNumber峰值0
    has_new_errNumber对应日志报警 1:显示有新的日志
0:没有新日志产生
1
    data_infoObject对应的悬浮框内的信息
      dstObject目标端
        db_ipArray目标端ip["192.168.12.199"]
        node_ipString节点ip192.168.12.199
        node_nameString名称test_c199
        log_read_typeString日志读取方式file
        orclString服务名orcl
      srcObject数据源
        db_ipArray数据库ip["192.168.12.200"]
        node_ipString节点ip192.168.12.200
        node_nameString节点名test_c200
        log_read_typeString读取方式file
        orclString服务名orcl
    stageString对应原先功能总览->同步规则的功能,暂时弃用PAUSE
    stateNumber对应原先功能总览->同步规则的功能,暂时弃用-4018
    progressNull对应原先功能总览->同步规则的功能,暂时弃用
    scheduleStateStringACTIVE_RULE_SCHEDULING:调度中
ACTIVE_RULE_STOP_SCHEDUL:停止调度
ACTIVE_RULE_STOP_SCHEDUL

同步规则 - 分片信息

SDK方法名:listSyncRulesSliceStatus

URL

/vers/v3/sync_rule/slice_status

Method

GET

Request

名称类型必选简介Mock初始值Mock规则
rule_uuidString规则uuid
pageNumber偏移数1
limitNumber最多多少行10
search_fieldString搜索域rule_name
search_valueString搜索值
where_argsObject
  src_slice_idString源端分片ID@id
  src_slice_ipString源端分片IP@ip
  src_slice_portString源端端口
  src_slice_statusString源端分片状态
  statusString状态

Response

名称类型必选简介Mock初始值Mock规则
totalNumber20
retNumber200
msgString
dataObject
  codeNumber0
  messageString[0] 操作成功。
  statusArray10
    rule_uuidStringuuid[6ECF19A1-3754-1490-C6A3-52AFB4D7F497
    src_slice_idString源端分片IDshard-01
    src_slice_addrArray源端分片状态1.1.1.1
      slice_ipString源端分片IP
      slice_portString源端分片端口
      slice_statusString源端分片状态,主:master,从:slave
    work_stateObject导出状态
      statusString状态
      error_codeNumber错误码(有错误码时优先显示错误码)
    back_stateObject装载状态
      statusString
      error_codeNumber
    track_stateObject解析状态
      statusString
      error_codeNumber
    extractString解析时间2024-05-29 17:01:24
    loadString装载时间2024-05-29 17:01:24
    delayString延迟10
    peakString峰值10
    cluster_nameString集群名
    manage_nameString租户名
    phy_addrString物理地址
    phy_portString物理端口
  totalNumber11

同步规则-日志(复用旧接口)

SDK方法名:listRuleLog;同规则的日志管理

URL

/active/rule/log

Method

POST

Request

名称类型必选简介Mock初始值Mock规则
offsetNumber0
limitNumber10
date_startString开始时间@date
date_endString开始时间的结束时间@date
typeNumber0:错误 2:消息 -1:全部-1
module_typeNumber0:导出 1:装载 2:解析 3:中继 4:脱敏 -1 全部-1
query_typeNumber最新查询:1 最早查询:2 查询 :01
rule_uuidString规则uuidF530FB0E-0208-9071-66D3-E595AE7D5A4C
search_contentString关键词过滤test

Response

名称类型必选简介Mock初始值Mock规则
msgString
dataObject
  codeNumber0
  messageStringDelete success
  info_listArray5
    create_timeString2019-08-09 17:29:43
    detailStringFull Sync done, elapsed time: 24 sec'
    log_levelString日志级别 0:serious 2
2
    flagNumber0:正常, 1新信息 标红1
    log_typeString模块: 导出,装载,解析装载
    uuidString@uuid
  totalNumber666
retNumber200

同步规则 - 修改维护模式

SDK方法名:switchSyncRuleMaintenance

URL

/vers/v3/sync_rule/maintenance

Method

POST

Request

名称类型必选简介Mock初始值Mock规则
maintenance_switchString
uuidString

Response

名称类型必选简介Mock初始值Mock规则
retNumber0
msgString
dataObject
  codeNumber
  messageString

同步规则-选择用户

SDK方法名:describeRuleUser;选择用户

URL

/active/rule/select_user

Method

POST

Request

名称类型必选简介Mock初始值Mock规则
db_uuidString数据uuid@guid

Response

名称类型必选简介Mock初始值Mock规则
msgString
dataObject
  codeNumber0
  messageStringDelete success
  info_listArray6
    idString
    pidString
    db_uuidStringdb_uuid@guid
    nameString@name
retNumber200

同步规则-表修复

SDK方法名:ruleTableFix;表修复

URL

/active/rule/table_fix

Method

POST

Request

名称类型必选简介Mock初始值Mock规则
rule_uuidString规则uuidF530FB0E-0208-9071-66D3-E595AE7D5A4C
tabArrayI2.table["I2.table"]
fix_relationNumber0 无关联 1 有关联0

Response

名称类型必选简介Mock初始值Mock规则
retNumber200
msgString
dataObject
  messageString
  codeNumber0

同步规则-获取scn号

SDK方法名:ruleGetScn;

URL

/active/rule/get_scn

Method

GET

Request

名称类型必选简介Mock初始值Mock规则
uuidString@guid

Response

名称类型必选简介Mock初始值Mock规则
retNumber200
msgString
dataObject
  messageString
  codeNumber0
  scnString

同步规则 - 从底层获取SCN

SDK方法名:ruleGetRpcScn;

URL

/active/rule/get_rpc_scn

Method

GET

Request

名称类型必选简介Mock初始值Mock规则
db_uuidString

Response

名称类型必选简介Mock初始值Mock规则
retString
msgString
dataObject
  messageString
  codeNumber
  scnString

同步规则 - 从底层获取接管SCN

SDK方法名:ruleGetReverseScn;

URL

/active/rule/get_revert_rpc_scn

Method

GET

Request

名称类型必选简介Mock初始值Mock规则
rule_uuidString

Response

名称类型必选简介Mock初始值Mock规则
retString
msgString
dataObject
  messageString
  codeNumber
  scnString

同步规则-偏移量信息

SDK方法名:listKafkaOffsetInfo;

URL

/active/rule/kafka_offset

Method

POST

Request

名称类型必选简介Mock初始值Mock规则
rule_uuidString@guid

Response

名称类型必选简介Mock初始值Mock规则
info_listString
retNumber200
msgString
dataObject
  messageString
  codeNumber0
  info_listObject
    update_timeString2020-12-02 18:07:59
    kafka_latest_offsetArray2
      topicStringtest1
      partitionString0
      offsetString1
      timestampString2020-12-02 16:45:27

同步规则 - 全量状态统计

SDK方法名:getRuleFullSyncStat

URL

/vers/v3/sync_rule/full_sync_stat

Method

POST

Request

名称类型必选简介Mock初始值Mock规则
rule_uuidString
limitString
offsetString
userString
tableString
stageString状态过滤
total:所有
done:完成
sync:正在同步
err:同步失败
wait:等待同步
total

Response

名称类型必选简介Mock初始值Mock规则
retNumber200
msgString
dataObject
  codeNumber0
  messageString[0] 操作成功。
  summaryObject
    totalNumber总表数10
    waitNumber2
    syncNumber3
    doneNumber4
    errNumber5
    statsString符合查询结果总表数(分页用)2
  tabstArray
    userString用户u1
    nameString表名t1
    stageString状态done
    startString同步开始时间2024-07-08 10:45:10
    endString同步结束时间2024-07-08 10:45:10
    rowsNumber表总行数123
    drowsNumber已同步行数123
    bytesNumber数据量(bytes)123
    dtimeNumber同步用时(s)1
    speedNumber传输速率(row/s)123
  totalNumber10
Last update: 8/1/2024, 2:00:50 PM
Contributors: ganl