ETL转换与写入:从金蝶系统到目标平台

  • 轻易云集成顾问-杨嫦
### 查询金蝶付款单③:金蝶云星空数据集成到轻易云集成平台 在系统对接和数据整合的过程中,确保异构系统之间高效、可靠的数据交换是核心目标之一。此次案例分享聚焦于如何将金蝶云星空中的付款单数据快速、准确地集成到轻易云集成平台,这不仅包括了API接口调用,还涵盖了分页处理、限流管理及异常情况处理等关键技术环节。 首先,在本次项目中,我们面临的主要挑战是在庞大的业务数据量下实现无缝且高效的接口对接,同时保证每一条付款单据均能被准确捕捉并传递至轻易云集成平台。这需要依赖金蝶提供的`executeBillQuery` API来查询付款单信息,并将这些信息通过轻易云提供的写入API进行存储。为了应对大量数据操作带来的性能问题,我们采用定时抓取机制,批量拉取和分页处理策略,不但保障了实时性,还提升了整体效率。 在整个方案实施过程中,还要特别注意以下几个技术细节: 1. **调用金蝶云星空接口`executeBillQuery`**:通过制定符合业务需求的查询条件,从而精确获取所需的数据库记录。 2. **处理分页和限流问题**:由于API调用次数限制,通过合理设置分页大小与循环控制,保证每一次请求能够成功返回有效结果。 3. **定制化数据映射与格式转换**:由于两边系统间的数据格式存在差异,需要针对字段属性进行深度解析,以便正确识别与转换。此外,为防止遗漏或重复,同步过程中特别加入了去重校验功能。 4. **异常处理与错误重试机制**:确保所有潜在的问题都可以即时反馈,并自动触发相应策略来完成重试,提高稳定性和可靠性。 配合使用轻易云强大的监控能力,可以实时追踪支付订单从提取到存储过程中的每一个状态变化,对意外情况作出迅速响应,从而持续优化业务流程。在接下来的文章内容中,将详细阐述具体实现步骤及最佳实践方法,包括代码示例解释各个重要环节。 ![泛微OA与ERP系统接口开发配置](https://pic.qeasy.cloud/D4.png~tplv-syqr462i7n-qeasy.image) ### 调用金蝶云星空接口executeBillQuery获取并加工数据 在数据集成的生命周期中,调用源系统接口获取数据是至关重要的一步。本文将详细探讨如何通过轻易云数据集成平台,调用金蝶云星空的`executeBillQuery`接口来获取付款单数据,并进行必要的数据加工。 #### 接口配置与请求参数 首先,我们需要配置调用金蝶云星空接口的元数据。以下是具体的元数据配置: ```json { "api": "executeBillQuery", "method": "POST", "number": "FBillNo", "id": "FPAYBILLENTRY_FEntryID", "pagination": { "pageSize": 20 }, "formatResponse": [ { "old": "FApproveDate", "new": "DATE", "format": "date" } ], "idCheck": true, "request": [ {"field":"FPAYBILLENTRY_FEntryID","label":"FPAYBILLENTRY_FEntryID","type":"string","value":"FPAYBILLENTRY_FEntryID"}, {"field":"FID","label":"实体主键","type":"string","value":"FID"}, {"field":"FBillNo","label":"单据编号","type":"string","value":"FBillNo"}, {"field":"FDOCUMENTSTATUS","label":"单据状态","type":"string","value":"FDOCUMENTSTATUS"}, {"field":"FCreatorId","label":"创建人","type":"string","value":"FCreatorId"}, {"field":"FAPPROVERID","label":"审核人","type":"string","value":"FAPPROVERID"}, {"field":"FCreateDate","label":"创建日期","type":"string","value":"FCreateDate"}, {"field":"FSETTLEORGID","label":"结算组织","type":"string","value":"FSETTLEORGID.FNumber"}, {"field":"FApproveDate","label":"审核日期","type":"string","value":"FApproveDate"}, {"field":"FPURCHASEORGID","label":"采购组织","type":"string","value":"FPURCHASEORGID.FNumber"}, {"field":"FPAYTOTALAMOUNTFOR_H","label":"表头-应付金额","type":"string","value":"FPAYTOTALAMOUNTFOR_H"}, {"field":"FCURRENCYID","label":"币别","type":"string","value":"FCURRENCYID.FNumber"}, {"field\":\"FDATE\",\"label\":\"业务日期\",\"type\":\"string\",\"value\":\"FDATE\"}, // ...省略部分字段... {"field\":\"FSRCBILLNO\",\"label\":\"源单编号\",\"type\":\"string\",\"value\":\"FSRCBILLNO\"} ], "otherRequest": [ {"field\":\"Limit\",\"label\":\"最大行数\",\"type\":\"string\",\"describe\":\"金蝶的查询分页参数\",\"value\":\"100\"}, {"field\":\"StartRow\",\"label\":\"开始行索引\",\"type\":\"string\",\"describe\":\"金蝶的查询分页参数\",\"value\":\"{PAGINATION_START_ROW}\"}, {"field\":\"TopRowCount\",\"label\":\"返回总行数\",\"type\":\"int\",\"describe\":\"金蝶的查询分页参数\"}, {"field\":\"FilterString\",\"label\":\"过滤条件\",\"type\":\"string\",\"describe\":\"示例写法 FSupplierId.FNumber = 'VEN00010' and FApproveDate>=\", \"value\": \"FCreateDate>='{{LAST_SYNC_TIME|dateTime}}'\"}, {"field\": \"FieldKeys\", \"label\": \"需查询的字段key集合\", \"type\": \"array\", \"describe\": \"金蝶分录主键ID格式:FPOOrderEntry_FEntryId,其它格式 FPurchaseOrgId.FNumber\", \"parser\": {\"name\": \"ArrayToString\", \"params\": \",\"}}, {"field\": \"FormId\", \"label\": \"业务对象表单Id\", \"type\": \"string\", \"describe\": \"必须填写金蝶的表单ID如:PUR_PurchaseOrder\", \"value\": \"AP_PAYBILL\"} ] } ``` #### 请求与响应处理 通过上述配置,我们可以构建请求体并发送POST请求到`executeBillQuery`接口。请求体中包含了必要的字段和分页参数,例如: ```json { "FormId": "AP_PAYBILL", "FieldKeys": ["FBillNo", "FID", ...], "FilterString": "FCreateDate>='2023-01-01'", "Limit": 100, "StartRow": 0 } ``` 在接收到响应后,需要对数据进行格式化处理。例如,将`FApproveDate`字段转换为标准日期格式: ```json { "old": "FApproveDate", "new": "DATE", "format": "date" } ``` 此步骤确保了数据的一致性和可读性。 #### 数据清洗与转换 在获取到原始数据后,下一步是进行数据清洗和转换。轻易云平台提供了丰富的数据处理功能,可以对不同类型的数据进行转换、过滤和校验。例如: 1. **字段重命名**:将原始字段名`FApproveDate`重命名为更具语义化的名称,如`DATE`。 2. **格式转换**:将日期字符串转换为标准日期格式,便于后续处理。 3. **校验**:根据业务需求,对关键字段进行校验,如检查`FBillNo`是否为空。 #### 实际案例应用 假设我们需要从金蝶云星空中获取所有在2023年1月1日之后创建且已审核通过的付款单信息,并将其导入到目标系统中。我们可以按照以下步骤操作: 1. **构建请求**:设置过滤条件`FilterString: FCreateDate>='2023-01-01' and FDOCUMENTSTATUS='C'`。 2. **发送请求**:通过轻易云平台发送POST请求到金蝶云星空接口。 3. **处理响应**:接收并解析响应数据,对日期字段进行格式化处理。 4. **导入目标系统**:将清洗后的数据写入目标系统。 通过上述步骤,我们实现了从源系统到目标系统的数据无缝对接,确保了数据的一致性和准确性。 以上就是调用金蝶云星空接口获取并加工付款单数据的详细技术案例。在实际应用中,可以根据具体业务需求灵活调整元数据配置和处理逻辑,以达到最佳效果。 ![如何开发用友BIP接口](https://pic.qeasy.cloud/S8.png~tplv-syqr462i7n-qeasy.image) ### 数据集成生命周期中的ETL转换与写入 在数据集成的过程中,ETL(Extract, Transform, Load)转换是至关重要的一步。本文将详细探讨如何将已经集成的源平台数据进行ETL转换,并转为目标平台轻易云集成平台API接口所能够接收的格式,最终写入目标平台。 #### 数据请求与清洗 在数据请求与清洗阶段,我们已经从金蝶系统中获取了付款单的数据。假设我们已经完成了数据的提取和初步清洗,接下来我们需要将这些数据转换为目标平台可以接受的格式。 #### 数据转换 在数据转换阶段,我们需要根据目标平台API接口的要求,对数据进行格式化处理。以下是一个简单的数据转换示例: ```python def transform_data(source_data): transformed_data = [] for record in source_data: transformed_record = { "id": record["付款单号"], "amount": record["金额"], "date": record["日期"], "status": record["状态"] } transformed_data.append(transformed_record) return transformed_data ``` 在这个示例中,我们将源数据中的“付款单号”、“金额”、“日期”和“状态”字段提取出来,并重命名为目标平台所需的字段名。这一步确保了数据格式符合API接口的要求。 #### 数据写入 一旦数据完成转换,我们就可以使用轻易云集成平台提供的API接口将数据写入目标平台。根据元数据配置,我们需要使用POST方法,并且进行ID检查。以下是一个Python代码示例,展示如何调用API接口: ```python import requests def write_to_target_platform(transformed_data): url = "https://api.qingyiyun.com/write" headers = { "Content-Type": "application/json" } for record in transformed_data: payload = { "api": "写入空操作", "method": "POST", "data": record, "idCheck": True } response = requests.post(url, json=payload, headers=headers) if response.status_code == 200: print(f"Record {record['id']} written successfully.") else: print(f"Failed to write record {record['id']}. Status code: {response.status_code}") # 示例调用 source_data = [ {"付款单号": "001", "金额": 1000, "日期": "2023-10-01", "状态": "已支付"}, {"付款单号": "002", "金额": 2000, "日期": "2023-10-02", "状态": "未支付"} ] transformed_data = transform_data(source_data) write_to_target_platform(transformed_data) ``` 在这个代码示例中,我们首先定义了一个`write_to_target_platform`函数,用于将转换后的数据通过POST方法发送到目标平台。我们根据元数据配置中的要求,设置了API接口名称、HTTP方法以及ID检查参数。 #### API接口特性 轻易云集成平台API接口具有以下几个关键特性: 1. **全异步处理**:确保高并发情况下的数据处理效率。 2. **多种异构系统支持**:能够无缝对接不同类型的数据源和目标系统。 3. **实时监控**:提供实时的数据流动和处理状态监控,确保每个环节都透明可见。 通过这些特性,我们能够高效地完成从源系统到目标系统的数据集成过程,确保数据的一致性和完整性。 总结以上步骤,通过详细解析ETL转换与写入过程,以及结合具体代码示例,展示了如何利用轻易云集成平台API接口实现高效的数据集成。这不仅提升了业务流程的透明度,也极大地提高了工作效率。 ![金蝶与MES系统接口开发配置](https://pic.qeasy.cloud/T2.png~tplv-syqr462i7n-qeasy.image)