Apache Kylin™ 概览

Apache Kylin™是一个开源的分布式分析引擎,提供Hadoop/Spark之上的SQL查询接口及多维分析(OLAP)能力以支持超大规模数据,最初由eBay Inc. 开发并贡献至开源社区。它能在亚秒内查询巨大的Hive表。

Apache Kylin™令使用者仅需三步,即可实现超大数据集上的亚秒级查询。

  1. 1 定义数据集上的一个星形或雪花形模型
  2. 2 在定义的数据表上构建cube
  3. 3 使用标准SQL通过ODBC、JDBC或RESTFUL API进行查询,仅需亚秒级响应时间即可获得查询结果

Kylin提供与多种数据可视化工具的整合能力,如Tableau,PowerBI等,令用户可以使用BI工具对Hadoop数据进行分析。

Kylin是什么?

可扩展超快的基于大数据的OLAP引擎:
Kylin是为减少在Hadoop/Spark上百亿规模数据查询延迟而设计
Hadoop ANSI SQL 接口:
作为一个OLAP引擎,Kylin为Hadoop提供标准SQL支持大部分查询功能
交互式查询能力:
通过Kylin,用户可以与Hadoop数据进行亚秒级交互,在同样的数据集上提供比Hive更好的性能
多维立方体(MOLAP Cube):
用户能够在Kylin里为百亿以上数据集定义数据模型并构建立方体
实时 OLAP:
Kylin可以在数据产生时进行实时处理,用户可以在秒级延迟下进行实时数据的多维分析。
与BI工具无缝整合:
Kylin提供与BI工具的整合能力,如Tableau,PowerBI/Excel,MSTR,QlikSense,Hue和SuperSet
其他特性:
  • Job管理与监控
  • 压缩与编码
  • 增量更新
  • 利用HBase Coprocessor
  • 基于HyperLogLog的Dinstinc Count近似算法
  • 友好的web界面以管理,监控和使用立方体
  • 项目及表级别的访问控制安全
  • 支持LDAP、SSO

Kylin 生态圈

Kylin 核心:

Kylin OLAP引擎基础框架,包括元数据(Metadata)引擎,查询引擎,Job引擎及存储引擎等,同时包括REST服务器以响应客户端请求

扩展:

支持额外功能和特性的插件

整合:

与调度系统,ETL,监控等生命周期管理系统的整合

用户界面:

在Kylin核心之上扩展的第三方用户界面

驱动:

ODBC 和 JDBC 驱动以支持不同的工具和产品,比如Tableau