ETL转换与管易云API数据写入:轻易云平台的数据集成方案

  • 轻易云集成顾问-曹润

金蝶云星空数据集成到管易云的技术实现:盘亏单转化为其他出库单

在系统对接及数据集成的实际应用中,跨平台的数据同步和转换是常见但复杂的任务。本案例聚焦于将金蝶云星空中的盘亏单(executeBillQuery)无缝集成至管易云作为其他出库单(gy.erp.stock.other.out.add)。通过详细剖析该集成方案,我们展示了如何有效利用API接口进行高效的数据传输和处理。

1. 接口调用与数据抓取

首先,需要从金蝶云星空中定时、可靠地抓取盘亏单信息。调用executeBillQuery API获取符合条件的账务记录。由于该接口存在分页和限流的问题,通过自定义脚本设计合理的分页逻辑,确保能够完整获取所需数据,而不漏掉任何一张盘亏单。

{
    "serviceName": "executeBillQuery",
    "parameters": {
        "pageSize": 50,
        "pageNumber": 1,
        // additional filter parameters
    }
}

上述请求形式可以根据业务需求调整参数,以满足特定条件下的数据提取。

2. 数据格式转换与映射

不同的平台往往具有各自独立的数据结构。在这个项目中,我们需要将原始盘亏数据信息转换并适配为管易云可接受的表格字段。这一步骤包括字段名称映射、值类型转换以及必要的信息补充,确保每条记录都能准确反映在目标系统中。例如,将金蝶云中的仓库编码、日期等信息映射到管易云对应字段:

{
    "warehouse_code_from_kingdee": "{source_warehouse_code}",
    // additional mapping fields...
}

相应地,每个字段完成匹配后才提交写入操作,为保证最终数据传输的一致性和正确性,可使用轻易平台提供的数据质量监控功能来追踪异常情况,并做实时处理。

3. 高吞吐量写入与实时监控

为了优化大规模数据同步过程中可能遇到的瓶颈问题,我们采用批量提交策略,将经过清洗后的大量账务记录一次性写入管易云系统。调用gy.erp.stock.other.out.add API,实现快速且稳定的数据录入过程。同时,通过集中式监控告警系统,对整个流程进行实时跟踪,一旦发现异常立即采取相应措施,如自动重试机制,最大程度减少因网络波动或服务响应时间导致的问题。

综上,在这一切操作完成之后,我们不仅达到了跨平台间顺畅的数据交换,还提升了整体业务运作效率及透明度 金蝶与WMS系统接口开发配置

调用金蝶云星空接口executeBillQuery获取并加工数据

在数据集成的生命周期中,调用源系统接口获取数据是至关重要的一步。本文将详细探讨如何通过轻易云数据集成平台调用金蝶云星空的executeBillQuery接口,获取盘亏单数据并进行初步加工。

接口调用配置

首先,我们需要配置调用金蝶云星空接口的元数据。以下是关键的元数据配置项:

  • api: executeBillQuery
  • method: POST
  • number: FBillNo
  • id: FBillEntry_FEntryID
  • idCheck: true

这些配置项定义了我们将要调用的API、请求方法以及主键字段等信息。

请求参数设置

请求参数是接口调用成功与否的关键。根据元数据配置,我们需要设置以下请求参数:

{
  "FormId": "STK_StockCountLoss",
  "FieldKeys": [
    "FBillEntry_FEntryID",
    "FID",
    "F_UQRW_BaseProperty1",
    "FNoteHead",
    "FLossQty",
    "FBillNo",
    "F_UQRW_BaseProperty",
    "F_352_cangkuleixing",
    "FMaterialId"
  ],
  "FilterString": "FApproveDate>='{{LAST_SYNC_TIME|dateTime}}'",
  "Limit": "{PAGINATION_PAGE_SIZE}",
  "StartRow": "{PAGINATION_START_ROW}"
}

这些参数包括表单ID、字段键、过滤条件以及分页参数等。其中,FilterString用于筛选符合条件的数据,例如筛选出审批日期在上次同步时间之后的数据。

数据清洗与转换

在获取到原始数据后,需要对其进行清洗和转换,以便后续处理。以下是一些常见的数据清洗和转换操作:

  1. 字段映射:将金蝶云星空返回的数据字段映射到目标系统所需的字段。例如,将FBillEntry_FEntryID映射为目标系统中的entry_id
  2. 数据类型转换:确保所有字段的数据类型符合目标系统要求。例如,将字符串类型的数量字段转换为数值类型。
  3. 缺失值处理:处理可能存在的缺失值,例如填充默认值或删除包含缺失值的记录。

实际案例

假设我们从金蝶云星空获取到以下盘亏单数据:

[
  {
    "FBillEntry_FEntryID": "1001",
    "FID": "2001",
    "F_UQRW_BaseProperty1": "WH001",
    "FNoteHead": "盘亏原因A",
    "FLossQty": "10",
    "FBillNo": "PKD20230001",
    "F_UQRW_BaseProperty": "MAT001",
    "F_352_cangkuleixing": "OMS",
    "FMaterialId": "M001"
  }
]

我们需要将其转换为目标系统所需的格式,例如:

[
  {
    "entry_id": 1001,
    "main_id": 2001,
    "warehouse_code": "WH001",
    "note": "盘亏原因A",
    "loss_qty": 10,
    "bill_no": "PKD20230001",
    "material_code_external": "MAT001",
    "warehouse_type": "OMS",
    "material_code_internal": M001
  }
]

通过上述步骤,我们可以确保从金蝶云星空获取的数据经过清洗和转换后,能够无缝对接到目标系统中。

自动填充响应

轻易云平台提供了自动填充响应功能,可以根据预先定义的规则自动填充部分响应内容。这极大地简化了开发工作,提高了效率。例如,可以自动填充分页参数或过滤条件,从而减少手动配置的工作量。

条件过滤

在实际应用中,我们可能需要根据特定条件过滤数据。例如,仅获取仓库类型为OMS的数据。可以通过如下条件配置实现:

{
  "[[{"field":"F_352_cangkuleixing","logic":"in","value":"OMS"}]]"
}

这种灵活的条件过滤机制使得我们能够精确控制数据集成过程中的每一个环节,确保最终的数据质量和一致性。

通过以上步骤,我们完成了从调用金蝶云星空接口获取盘亏单数据,到对数据进行清洗和转换,再到最终写入目标系统的一系列操作。这不仅提高了数据集成效率,也确保了业务流程的顺畅运行。 打通用友BIP数据接口

轻易云数据集成平台:ETL转换与数据写入管易云API接口

在轻易云数据集成平台的生命周期中,第二步是将已经集成的源平台数据进行ETL(Extract, Transform, Load)转换,并转为目标平台——管易云API接口所能够接收的格式,最终写入目标平台。本文将深入探讨这一过程中涉及的技术细节和实现方案。

数据请求与清洗

在进行ETL转换之前,首先需要从源系统(金蝶盘亏单)中提取原始数据,并进行必要的清洗和预处理。这一步骤确保了数据的一致性和完整性,为后续的转换和写入提供了可靠的数据基础。

数据转换与写入

在完成数据清洗之后,接下来就是将这些数据转换为目标平台(管易云API接口)所能接受的格式,并通过API接口将其写入到管易云系统中。以下是详细的元数据配置及其应用。

元数据配置解析
{
  "api": "gy.erp.stock.other.out.add",
  "effect": "EXECUTE",
  "method": "POST",
  "idCheck": true,
  "request": [
    {
      "field": "warehouse_code",
      "label": "仓库代码",
      "type": "string",
      "describe": "111",
      "value": "{F_UQRW_BaseProperty1}"
    },
    {
      "field": "wms_bizcode",
      "label": "第三方系统单号",
      "type": "string",
      "describe": "判断排重的依据",
      "value": "{FBillNo}"
    },
    {
      "field": "note",
      "label": "备注",
      "type": "string",
      "describe": "111",
      "value": "{FNoteHead}"
    },
    {
      "field": "mail_no",
      "label": "物流单号",
      "type": "string",
      "value": "{FBillNo}"
    },
    {
      "field": "details",
      ...

上述元数据配置定义了如何将金蝶盘亏单的数据映射到管易云API gy.erp.stock.other.out.add 的请求参数中。具体字段如下:

  • warehouse_code: 映射到 {F_UQRW_BaseProperty1},表示仓库代码。
  • wms_bizcode: 映射到 {FBillNo},用于判断排重。
  • note: 映射到 {FNoteHead},表示备注信息。
  • mail_no: 映射到 {FBillNo},表示物流单号。
  • details: 包含商品代码和数量的数组结构,其中:
    • item_code: 映射到 {F_UQRW_BaseProperty},表示商品代码。
    • qty: 映射到 {FLossQty},表示数量。
实现步骤
  1. 提取原始数据: 从金蝶盘亏单中提取相关字段的数据,例如仓库代码、第三方系统单号、备注、物流单号以及商品明细等。

  2. 构建请求体: 根据元数据配置,将提取的数据按照目标API接口要求构建请求体。例如:

    {
     ...
     warehouse_code: data.F_UQRW_BaseProperty1,
     wms_bizcode: data.FBillNo,
     note: data.FNoteHead,
     mail_no: data.FBillNo,
     details: data.list.map(item => ({
       item_code: item.F_UQRW_BaseProperty,
       qty: item.FLossQty
     }))
     ...
    }
  3. 发送请求: 使用HTTP POST方法,将构建好的请求体发送至管易云API gy.erp.stock.other.out.add 接口,并处理返回结果。

  4. 错误处理与日志记录: 对于可能出现的错误情况进行处理,例如网络问题、接口返回错误等。同时记录日志以便后续追踪和分析。

示例代码

以下是一个简化版的示例代码,用于展示如何实现上述步骤:

const axios = require('axios');

async function sendDataToGuanyi(data) {
  const requestBody = {
    warehouse_code: data.F_UQRW_BaseProperty1,
    wms_bizcode: data.FBillNo,
    note: data.FNoteHead,
    mail_no: data.FBillNo,
    details: data.list.map(item => ({
      item_code: item.F_UQRW_BaseProperty,
      qty: item.FLossQty
    }))
  };

  try {
    const response = await axios.post('https://api.guanyiyun.com/gy.erp.stock.other.out.add', requestBody);
    console.log('Response:', response.data);
  } catch (error) {
    console.error('Error:', error);
  }
}

// 示例调用
const exampleData = {
  F_UQRW_BaseProperty1: 'WH001',
  FBillNo: 'ORD12345',
  FNoteHead: 'Test Note',
  list: [
    { F_UQRW_BaseProperty: 'ITEM001', FLossQty: '10' },
    { F_UQRW_BaseProperty: 'ITEM002', FLossQty: '5' }
  ]
};

sendDataToGuanyi(exampleData);

通过以上步骤,我们成功地将金蝶盘亏单的数据经过ETL转换后,通过管易云API接口写入到了目标平台。这一过程不仅确保了数据的一致性和准确性,还大大提升了业务流程的自动化程度。 钉钉与MES系统接口开发配置

更多系统对接方案