随着各种事件型数据事件生成的数据呈现出指数级增长,实时分析越来越重要。然而,实时分析究竟是什么?它仅仅是更快的数据分析吗?那快速的历史数据分析是否可以视为实时分析?
实时分析的关键点并不在于分析数据的速度,而在于快速分析的是新鲜且格式良好的数据。也就是说,在进行分析之前,数据就需要实时导入和转换。
对于实时数据导入、转换与分析,有一个值得一试的强大组合: RisingWave 和 ClickHouse。RisingWave 是专为流处理设计的数据库。它与 PostgreSQL 兼容,支持导入实时数据流,可以执行多样化转换,并能够立即查询结果。ClickHouse® 是一款高性能列式数据库管理系统 (DBMS),用于联机分析 (OLAP),可以处理大量数据和复杂分析查询。
在将数据导入 ClickHouse 之前,您可以通过 RisingWave 的实时数据转换功能,对数据进行预处理与扩充,从而确保导入的数据能满足精确分析的需求。
用例展示:为购物车事件扩充产品信息
在本文中,我们将以在线零售为例,展示如何构建一个实时导入、转换和分析数据的系统。
我们有一条数据流,用于记录客户将商品添加到购物车时触发的事件 (Event)。
以下是一个典型的购物车事件:
(customerId, eventTime, itemId)
--------------------------------
("1234","2023-02-01 10:01:00","P001")
("1234","2023-02-01 10:05:00","P002")
由于这条数据流中没有具体产品信息,仅根据它进行分析是很困难的。要使其有用,有多种办法。我们可以将其与订单流 join ,用于分析已添加到购物车但尚未付款的商品,或者将其与产品目录表 join ,从而形成一个扩充的数据流。
在接下来的演示中,我们就把它与产品目录表进行 join ,并将扩充后的数据流输出到 ClickHouse 做进一步分析。
我们先假设产品目录表如下:
itemId, name, price, category
-------------------------------------
("P001","Red T-Shirt",9.99,"Apparel"),
("P002","Blue Jeans",39.95,"Apparel")
架构概览
我们先使用 RisingWave 进行实时数据导入和扩充,然后将扩充后的数据输出到 ClickHouse ,后者将进一步分析数据。下图展示了该用例的架构:
准备工作
安装 psql。如需了解如何只安装 psql,不安装其他 PostgreSQL 组件,请参阅 《在不安装 PostgreSQL 的情况下安装 psql 》。
启动并运行 Kafka Producer 。我们使用 KRaft 来启动 Kafka ,具体方式请参阅《APACHE KAFKA 快速入门》。
安装并连接 RisingWave 。
# 安装 RisingWave
brew tap risingwavelabs/risingwave
brew install risingwave
# 启动 RisingWave
risingwave playground
# 在一个新的终端窗口连接 RisingWave
psql -h localhost -p 4566 -d dev -U root
安装并连接 ClickHouse
# 下载 ClickHouse 的二进制文件
curl | sh
# 启动服务
./clickhouse server
# 在一个新的终端窗口启动客户端
./clickhouse client
向 Kafka 写入事件
现在,让我们创建一个 topic ,并插入一些事件:
# 创建一个 topic
bin/kafka-topics.sh --create --topic cart-events --bootstrap-server localhost:9092
# 写入三条事件
bin/kafka-console-producer.sh --topic cart-events --bootstrap-server localhost:9092
{"cust_id": "1234", "event_time": "2023-02-01 10:01:00", "item_id": "P001"}
{"cust_id": "1232","event_time": "2023-02-01 10:05:00", "item_id": "P002"}
{"cust_id": "1235","event_time": "2023-02-01 10:10:00","item_id": "P003"}
# 请不要关闭 producer ,稍后我们还要写入更多事件
向 RisingWave 导入数据
现在,我们在 RisingWave 中创建一个表来导入这些事件。在 RisingWave 中,您可以创建源 (Source) 或表 (Table) 来导入事件。这两者的不同之处在于,如果使用表,导入的事件将储存在 RisingWave 。
CREATE TABLE IF NOT EXISTS cart_event (
cust_id VARCHAR,
event_time TIMESTAMP,
item_id VARCHAR
)
WITH (
connector='kafka',
topic='cart-events',
properties.bootstrap.server='localhost:9092',
scan.startup.mode='earliest',
) FORMAT PLAIN ENCODE JSON;
然后在 RisingWave 中创建一个本地表,用来存储产品目录,并往表里插入一些数据,这样,我们就可以用产品目录信息来扩充购物车事件。
CREATE TABLE product_catalog (
item_id varchar,
name varchar,
price double precision,
category varchar
);
INSERT INTO product_catalog (item_id, name, price, category)
VALUES
('P001','Red T-Shirt',9.99,'Apparel'),
('P002','Blue Jeans',39.95,'Apparel'),
('P003','Smart Watch',199.99,'Electronics'),
('P004','Yoga Mat',29.95,'Fitness'),
('P005','Wireless Headphones',99.99,'Electronics'),
('P006','Coffee Mug',5.99,'Kitchen');
将数据流与表 join
现在,我们将 cart_event 流与 product_catalog 表 join 起来,形成一条扩充后的数据流。接下来,如果我们还想进行其他一些转换操作,可以使用物化视图 (Materialized View) 来执行这个“流-表”join 。如果我们只想使用产品目录来扩充这个数据流,那可以只简单地创建一个 sink 来执行连接。在这个用例中,我们将使用物化视图。
RisingWave 的流式物化视图创新性地通过增量更新实时反映结果。
CREATE MATERIALIZED VIEW data_enrichment AS SELECT
c.cust_id,
c.event_time,
p.name,
p.price,
p.category
FROM
cart_event c
JOIN
product_catalog p
ON
c.item_id = p.item_id;
通过这个“流-表”join ,每当原始事件进入 RisingWave ,就会产生一个扩充事件。
将扩充后的数据流传输到 ClickHouse
接下来,我们可以将扩充后的数据流传输到 ClickHouse ,以做进一步分析。为了实现这一点,我们需要在 ClickHouse 中创建一个表,这个表要与 RisingWave 中的表具有相同的 schema 。我们希望将数据从物化视图 data_enrichment 中传输出来,所以要创建一个与 data_enrichment 具有相同 schema 的表。
---在 ClickHouse 中运行以下代码
CREATE TABLE enriched_cart_events
(
cust_id String,
event_time DateTime64,
name String,
price Float64,
category String
)
ENGINE = ReplacingMergeTree()
ORDER BY (cust_id, event_time);
当传输目标就位后,我们可以创建一个 sink ,并开始将数据从 RisingWave 传输到 ClickHouse 。
---在 RisingWave 中运行以下代码
CREATE SINK sink_to_clickhouse
FROM
data_enrichment WITH (
connector = 'clickhouse',
type='append-only',
force_append_only='true',
clickhouse.url = '',
clickhouse.user = 'default',
clickhouse.password = '',
clickhouse.database = 'default',
clickhouse.table='enriched_cart_events',
);
现在,查询 ClickHouse 的表,看看数据是否已传输。
SELECT * from enriched_cart_events;
------ 结果
┌─cust_id┬──────event_time───┬─name────┬─price─┬category─┐
│ 1234 │ 2023-02-01 18:01:00.000 │ Red T-Shirt │ 9.99 │ Apparel │
│ 1232 │ 2023-02-01 18:05:00.000 │ Blue Jeans │ 39.95 │ Apparel │
│ 1235 │ 2023-02-01 18:10:00.000 │ Smart Watch │ 199.99│ Electronics
└─────────┴─────────────────────────┴───────┘
可以看到,三条事件都已经被扩充,可以用于 ClickHouse 的分析。
接下来,我们来模拟一条数据流,一次写入一个事件,并立即在 ClickHouse 中查询表。
--- 每次写入一个事件
{"cust_id": "1236","event_time": "2023-02-01 10:15:00","item_id": "P001"}
{"cust_id": "1237","event_time": "2023-02-01 10:20:00","item_id": "P004"}
{"cust_id": "1238", "event_time": "2023-02-01 10:25:00", "item_id": "P002"}
{"cust_id": "1239", "event_time": "2023-02-01 10:30:00", "item_id": "P005"}
{"cust_id": "1240", "event_time": "2023-02-01 10:35:00", "item_id": "P003"}
{"cust_id": "1241", "event_time": "2023-02-01 10:40:00", "item_id": "P006"}
{"cust_id": "1242", "event_time": "2023-02-01 10:45:00", "item_id": "P007"}
每当我们将一条事件写入 Kafka ,扩充后的数据就会立即出现在 ClickHouse 的表中,每次查询表时,您都将看到新增了一行数据。
当将所有上述信息 (Message) 写入 Kafka 后,您应该会看到类似如下内容。
SELECT * FROM enriched_cart_events;
------ RESULTS
┌custid┬─────eventtime──┬─name───────┬─price─┬─category─┐
│ 1232 │ 23-02-01 18:05:00.00│ Blue Jeans │ 39.95 │ Apparel │
│ 1234 │ 23-02-01 18:01:00.00│ Red T-Shirt │ 9.99 │ Apparel │
│ 1235 │ 23-02-01 18:10:00.00│ Smart Watch │ 199.99 │ Electronics │
│ 1236 │ 23-02-01 18:15:00.00│ Red T-Shirt │ 9.99 │ Apparel │
│ 1237 │ 23-02-01 18:20:00.00│ Yoga Mat │ 29.95 │ Fitness │
│ 1238 │ 23-02-01 18:25:00.00│ Blue Jeans │ 39.95 │ Apparel │
│ 1239 │ 23-02-01 18:30:00.00│ Wireless Phones │ 99.99 │ Electronics │
│ 1240 │ 23-02-01 18:35:00.00│ Smart Watch │ 199.99 │ Electronics │
│ 1241 │ 23-02-01 18:40:00.00│ Coffee Mug │ 5.99 │ Kitchen │
└───┴─────────────┴──────────┴─────┴───────┘
总结
在本文中,为简单起见,我们以一个流-表 join 为例,演示如何扩充数据。而在实际场景中,在数据传输到 ClickHouse 前,我们可以进行多流 join ,并对流中的数据进行过滤和聚合。通过 RisingWave 的实时数据导入和转换能力,您可以确保 ClickHouse 接收到的是可立即用于深入分析的高质量数据。这两者是一个完美组合。
关于 RisingWave
RisingWave 是一款基于 Apache 2.0 协议开源的分布式流数据库,致力于降低流计算使用门槛。RisingWave 采用存算分离架构,实现了高效的复杂查询、瞬时动态扩缩容以及快速故障恢复,帮助用户轻松快速搭建稳定高效的流计算系统。使用 RisingWave 处理流数据的方式类似使用 PostgreSQL ,通过创建实时物化视图,让用户能够轻松编写流计算逻辑,并通过访问物化视图来进行即时、一致的查询流计算结果。了解更多:
官网:risingwave.com
文档:risingwave.dev
GitHub:risingwave.com/github
Slack:risingwave.com/slack
使用教程: https://www.risingwavetutorial.com/
微信公众号:RisingWave 中文开源社区
社区用户交流群:risingwave_assistant