Greenplum
更新时间: 2024-12-04 15:39:24
离线同步任务支持Greenplum数据源,支持该数据源的抽取(Reader)和导入(Writer),当前支持的版本为:4.3.22.0、5.7、浪潮云海Insight MPP V4。
使用前提
在使用之前需要在项目中心(新)完成Greenplum数据源的登记并测试通过。
数据源登记过程中,需要填写如下信息:
- 源系统账号鉴权:源系统账号鉴权开关,仅在首次登记数据源时可配置生效,保存后不可修改。对于开启的数据源,保存后会自动进入该数据源的详情页。在数据源的详情页可以编辑该数据源,添加本平台账号和源系统账号的映射关系(可参考源系统账号映射)
- 数据源名称:Greenplum数据源的名称
- 数据源标识:仅允许包含英文小写、数字、下划线,只允许英文小写开头,最大长度为64个字符。平台内唯一,保存数据源后数据标识不可修改
- 归属项目:由于元数据中心是项目组级别,因此此处支持选择项目组下的项目,默认为当前项目名称
- 负责人:默认为当前创建人员
- 协助管理员:同负责人,有该数据源的管理权限,包括编辑、设置“源系统账号映射”。可在安全中心为自己或其他人设置该数据源的使用权限
- 版本:支持选择PostgreSQL v9.4、浪潮云海Insight MPP V4。需要注意的是数据源管理中登记的版本并不代表数据传输支持的版本,数据传输使用时请根据支持的版本进行选择
- 数据源连接:根据jdbc:postgresql://ServerIP:Port/Database格式进行填写
- 用户名:填写访问数据源的用户名
- 密码:填写用户名所对应的密码
- schema:保存数据源后请勿修改schema,否则引用该数据源的数据传输任务会报错。如果填写schema,只可使用登记的schema;如果未填写schema,可使用登记数据库中用户账号有权限的所有schema
- 自定义属性:支持添加数据源的其它配置
唯一性校验规则: 1)如果未开启源系统账号鉴权,则基于数据源连接+用户名+schema进行校验; 2)如果开启源系统账号鉴权,则基于数据源连接进行校验。 |
数据源配置完成后,需点击测试连接按钮进行测试,测试通过后才可使用。
除了数据源需要准备之外,进行离线同步任务创建和数据源的使用都需要在安全中心-功能权限中添加相应的权限(可参考数据传输权限、元数据中心权限)。
Greenplum作为数据来源
以Greenplum to Hive为例,在数据来源端选择Greenplum数据源类型及数据源名称,选择需要进行读取的schema和表。
分区字段:如果数据源版本为浪潮云海Insight MPP V4时,分区字段可选填;如果数据源版本为PostgreSQL v9.4时,分区字段为必填项。
数据过滤支持填写where过滤语句(不含where关键字),通常用作增量同步,支持系统参数和参数组参数。特殊字符替换根据实际情况进行填写。
Greenplum作为数据去向
以Hive to Greenplum为例,当Greenplum作为数据去向时,除了需要填写数据源类型、数据源等基础信息之外,还可以填写PreSql和PostSql。
- PreSql:导入数据前执行的SQL语句,例如清除旧数据;目前向导模式仅允许执行五条SQL语句,多条SQL语句通过“;”分隔,最大长度为2000个字符。
- PostSql:导入数据后执行的SQL语句,例如加上某一个时间戳;目前向导模式仅允许执行五条SQL语句,多条SQL语句通过“;”分隔,最大长度为2000个字符。
Greenplum支持APPEND、Overwrite-delete、Overwrite-truncate写入规则:
- APPEND:追加
- Overwrite-delete:删除表后更新创建表并插入数据
- Overwrite-truncate:清空表数据后插入数据