Apache Kylin™ 概览

Apache Kylin™是一个开源的、分布式的分析型数据仓库,提供Hadoop/Spark 之上的 SQL 查询接口及多维分析(OLAP)能力以支持超大规模数据,最初由 eBay 开发并贡献至开源社区。它能在亚秒内查询巨大的表。

Apache Kylin™ 令使用者仅需三步,即可实现超大数据集上的亚秒级查询。

  1. 1 定义数据集上的一个星形或雪花形模型
  2. 2 在定义的数据表上构建cube
  3. 3 使用标准 SQL 通过 ODBC、JDBC 或 RESTFUL API 进行查询,仅需亚秒级响应时间即可获得查询结果

Kylin 提供与多种数据可视化工具的整合能力,如 Tableau,PowerBI 等,令用户可以使用 BI 工具对 Hadoop 数据进行分析。

Kylin 是什么?

可扩展超快的基于大数据的分析型数据仓库:
Kylin 是为减少在 Hadoop/Spark 上百亿规模数据查询延迟而设计
Hadoop ANSI SQL 接口:
作为一个分析型数据仓库(也是 OLAP 引擎),Kylin 为 Hadoop 提供标准 SQL 支持大部分查询功能
交互式查询能力:
通过 Kylin,用户可以与 Hadoop 数据进行亚秒级交互,在同样的数据集上提供比 Hive 更好的性能
多维立方体(MOLAP Cube):
用户能够在 Kylin 里为百亿以上数据集定义数据模型并构建立方体
实时 OLAP:
Kylin 可以在数据产生时进行实时处理,用户可以在秒级延迟下进行实时数据的多维分析。
与BI工具无缝整合:
Kylin 提供与 BI 工具的整合能力,如Tableau,PowerBI/Excel,MSTR,QlikSense,Hue 和 SuperSet
其他特性:
  • Job管理与监控
  • 压缩与编码
  • 增量更新
  • 利用HBase Coprocessor
  • 基于HyperLogLog的Dinstinc Count近似算法
  • 友好的web界面以管理,监控和使用立方体
  • 项目及表级别的访问控制安全
  • 支持LDAP、SSO

Kylin 生态圈

Kylin 核心:

Kylin 基础框架,包括元数据(Metadata)引擎,查询引擎,Job引擎及存储引擎等,同时包括REST服务器以响应客户端请求

扩展:

支持额外功能和特性的插件

整合:

与调度系统,ETL,监控等生命周期管理系统的整合

用户界面:

在Kylin核心之上扩展的第三方用户界面

驱动:

ODBC 和 JDBC 驱动以支持不同的工具和产品,比如Tableau