离线同步任务支持Greenplum数据源,支持该数据源的抽取(Reader)导入(Writer)

使用前提


在使用之前需要在“项目配置-项目中心(新)-数据源管理”完成该类型数据源的登记并测试通过(可在控制台的用户手册中查看具体登记详情信息),以及获取该数据源类型或数据的读权限(配置入口在安全中心-项目下的具体成员或角色)。

Greenplum作为数据来源


Greenplum to Hive为例,在数据来源端选择Greenplum数据源类型及数据源名称,选择需要进行读取的schema和表。

分区字段:如果数据源版本为浪潮云海Insight MPP V4时,分区字段可选填;如果数据源版本为PostgreSQL v9.4时,分区字段为必填项。

数据过滤支持填写where过滤语句(不含where关键字),通常用作增量同步,支持系统参数和参数组参数。特殊字符替换根据实际情况进行填写。

Greenplum作为数据去向


Hive to Greenplum为例,当Greenplum作为数据去向时,除了需要填写数据源类型、数据源等基础信息之外,还可以填写PreSqlPostSql

  • PreSql:导入数据前执行的SQL语句,例如清除旧数据;目前向导模式仅允许执行五条SQL语句,多条SQL语句通过“;”分隔,最大长度为2000个字符。
  • PostSql:导入数据后执行的SQL语句,例如加上某一个时间戳;目前向导模式仅允许执行五条SQL语句,多条SQL语句通过“;”分隔,最大长度为2000个字符。

Greenplum支持APPENDOverwrite-deleteOverwrite-truncate写入规则:

  • APPEND:追加
  • Overwrite-delete:删除表后更新创建表并插入数据
  • Overwrite-truncate:清空表数据后插入数据