你为什么需要一个强大的数据集成平台?

开发 后端
数据集成管道不是孤立运行的。顶级平台可与 IT 服务管理、敏捷开发和其他 IT 平台集成。

强大的数据集成平台的特点

数据集成平台支持多个数据管道的开发、测试、运行和更新。企业选择它们的原因是他们认识到数据集成是一个具有特定开发技能、测试要求和运营服务级别期望的平台和能力。当架构师、IT 领导者、CIO 和首席数据官谈论扩展数据集成能力时,才认识到软件开发人员并不能通过自定义代码轻松实现他们寻求的功能。

你或许能在数据集成平台中找到以下功能:

  • 专门用于开发和增强集成的工具。通常低代码可视化工具支持拖放处理元素、配置元素并将它们连接到数据管道中。
  • 开箱即用的连接器。它可与常见的企业系统、SaaS平台、数据库、数据湖、大数据平台、API和云数据服务快速集成。例如,假设你想要连接 Salesforce 数据,捕获帐户和联系人,并将数据推送到 AWS Relational Database Service,集成平台可能已经预先构建了连接器,并准备好在数据管道中使用。
  • 处理相关数据结构和文件类型以外的多种数据结构和格式的能力。数据集成平台通常支持 JSON、XML、Parquet、Avro、ORC,或许也能支持特定行业的格式,例如金融服务中的 NACHA、医疗保健中的 HIPAA EDI 和保险中的 ACORD XML。
  • 高数据质量和主数据管理能力可能是数据集成平台的特性,也可能是开发人员可以从数据管道接口得到的附加产品。
  • 一些数据集成平台以数据科学和机器学习能力为目标,包括分析元素处理和与机器学习模型的接口。一些平台还提供数据准备工具,以便数据科学家和分析师可以构建原型并开发集成。
  • Devops 功能,例如支持版本控制、数据管道部署自动化、拆除和关闭测试环境、在暂存环境中处理数据、扩大和缩小生产管道基础设施以及启用多线程执行。
  • 多种托管选项,包括数据中心、公共云和SaaS。
  • Dataops 能力可以用于维护测试数据集、捕获数据沿袭、支持管道重用和自动化测试。
  • 在运行时,数据集成平台可利用多种方式触发数据管道,例如调度作业、事件驱动触发器或实时流处理模式。
  • 可观察到的生产数据管道可以提供性能报告、数据源问题警报,并提供诊断数据处理问题的工具。
  • 多种支持安全性、合规性和数据治理要求的工具,例如加密格式、审计功能、数据屏蔽、访问管理以及与数据目录的集成。
  • 数据集成管道不是孤立运行的。顶级平台可与 IT 服务管理、敏捷开发和其他 IT 平台集成。

如何选择数据集成平台

考虑到平台类型、在每个领域竞争的供应商数量以及选项分类时使用的分析师术语,对数据集成功能和要求的列表可能令人头疼。在这种情况下,你如何为当前和未来的数据集成需求选择正确的工具组合呢?

简单来说,需要服从一些规律。首先清点已经使用的集成工具,对用例进行编目,并对数据源、格式、转换、目标点和触发条件的需求进行逆向工程。然后确定操作要求,包括服务层级的目标、安全要求、合规性要求和数据验证要求。最后,考虑添加一些与现有数据集成不同的重要业务的新用例或刚崭露头角的用例。

通过这样的尽职调查,你可能会找到充分的理由来解释为什么自己动手的集成解决方案是不合格的,以及在审查数据集成平台时需要寻找什么样的指导。

作者:Isaac Sacolick是StarCIO的总裁,也是亚马逊畅销书《推动数字化:通过技术实现业务转型的领导者指南》的作者。Sacolick是公认的顶级社交CIO和数字化转型影响者。他在InfoWorld.com、CIO.com、他的博客Social、Agile和Transformation以及其他网站上发表了700多篇文章。

原文网址:https://www.infoworld.com/article/3621992/why-you-need-a-data-integration-platform.html

责任编辑:武晓燕 来源: 计算机世界
相关推荐

2022-04-29 08:00:06

Linux目录网络

2020-01-18 14:59:36

手机AI手机处理器

2013-11-22 13:25:57

数据中心云计算

2017-11-14 11:12:50

Go语言编译器

2014-02-11 10:09:37

中小企业UC

2020-04-29 15:30:22

CSP网页前端

2017-07-24 16:55:42

闪存数据中心SSD

2018-07-03 15:46:35

数据集训练模型

2020-02-25 17:04:05

数据库云原生分布式

2020-12-31 10:57:01

云计算云安全数据

2021-08-04 10:51:04

数据库单元测试SQL

2016-01-28 10:04:09

Jenkins运维持续交付

2018-10-21 16:10:54

数据科学算法逻辑回归

2018-10-22 09:34:30

FIT2CLOUD飞致云云管平台

2021-12-22 11:15:04

云计算混合云公有云

2020-07-09 07:39:59

人工智能

2014-04-25 10:05:42

OpenStack私有云公共云

2022-09-19 16:38:59

数据产品SaaSSnowflake

2024-02-28 17:24:28

人工智能边缘计算动态数据

2013-06-08 10:58:39

应用交付虚拟化数据中心
点赞
收藏

51CTO技术栈公众号