利用Canal把MySQL数据同步到ES

飞熊 • 2023年12月12日下午8:51 • 后端漫谈 • 阅读 243

Canal是阿里巴巴开源的一个数据库变更数据同步工具，主要用于 MySQL 数据库的增量数据到下游的同步，例如同步到 Elasticsearch、HBase、Hive 等。下面是一个基本的步骤来导入 MySQL 数据库到 Elasticsearch。

安装和配置 Canal

首先，需要在你的机器上安装并配置Canal。具体步骤可在 Canal 的 GitHub 页面找到，包括下载Canal、解压缩并修改配置文件等步骤。
配置 MySQL

需要在 MySQL 中启用 binlog，Canal 通过读取 binlog 来获取数据变更。在 MySQL 的配置文件中 (通常在 /etc/mysql/mysql.conf.d/mysqld.cnf 或者 /etc/my.cnf), 修改以下配置：
```
[mysqld]
log-bin=mysql-bin # 开启 binlog
binlog-format=ROW # 选择 ROW 模式
server_id=1 # 配置 MySQL replaction 需要定义，不能和 canal 的 slaveId 重复
```
重启 MySQL 生效。

配置 Canal

在 Canal 的配置文件 conf/example/instance.properties 中，修改以下配置：

canal.instance.master.address=127.0.0.1:3306
canal.instance.dbUsername=canal
canal.instance.dbPassword=canal
canal.instance.connectionCharset = UTF-8
canal.instance.tsdb.enable=true
canal.instance.gtidon=false

其中，master.address 是 MySQL 的地址，dbUsername 和 dbPassword 是你的 MySQL 用户名和密码。

启动 Canal

进入 Canal 的 bin 目录，执行以下命令启动 Canal：
```
./startup.sh
```
安装和配置 Canal Adapter

Canal Adapter 是 Canal 的一个组件，用于将数据同步到下游，例如 Elasticsearch。需要在你的机器上安装并配置 Canal Adapter。配置文件位于 conf/application.yml，需要指定 source 数据源 (即 MySQL) 和 target 数据源 (即 Elasticsearch)。
启动 Canal Adapter

进入 Canal Adapter 的 bin 目录，执行以下命令启动 Canal Adapter：
```
./startup.sh
```