canal实时抽取mysql数据发送到kafka - 好文

基本说明

canal 1.1.1版本之后, 默认支持将canal server接收到的binlog数据直接投递到MQ, 目前默认支持的MQ系统有:

* kafka: https://github.com/apache/kafka <https://github.com/apache/kafka>
* RocketMQ : https://github.com/apache/rocketmq
<https://github.com/apache/rocketmq>

环境版本

* 操作系统：CentOS release 6.6 (Final)
* java版本: jdk1.8
* canal 版本: 请下载最新的安装包，本文以当前v1.1.1 的canal.deployer-1.1.1.tar.gz为例
* MySQL版本：5.7.18
* 注意：关闭所有机器的防火墙，同时注意启动可以相互telnet ip 端口

一、安装zookeeper

参考：Zookeeper QuickStart
<https://github.com/alibaba/canal/wiki/Zookeeper-QuickStart>

二、安装MQ

* Kafka安装参考：Kafka QuickStart
<https://github.com/alibaba/canal/wiki/Kafka-QuickStart>
* RocketMQ安装参考：RocketMQ QuickStart
<https://rocketmq.apache.org/docs/quick-start>

三、安装canal.server

3.1 下载压缩包

到官网地址(release <https://github.com/alibaba/canal/releases>)下载最新压缩包,请下载
canal.deployer-latest.tar.gz

3.2 将canal.deployer 复制到固定目录并解压
mkdir -p /usr/local/canal cp canal.deployer-1.1.1.tar.gz /usr/local/canal tar
-zxvf canal.deployer-1.1.1.tar.gz

3.3 配置修改参数

a. 修改instance 配置文件 vi conf/example/instance.properties
# 按需修改成自己的数据库信息 ################################################# ...
canal.instance.master.address=192.168.1.20:3306 # username/password,数据库的用户名和密码
... canal.instance.dbUsername = canal canal.instance.dbPassword = canal ... #
mq config canal.mq.topic=example canal.mq.partition=0 # hash partition config
#canal.mq.partitionsNum=3 #库名.表名: 唯一主键，多个表之间用逗号分隔
#canal.mq.partitionHash=mytest.person:id,mytest.role:id
#################################################
对应ip 地址的MySQL 数据库需进行相关初始化与设置, 可参考 Canal QuickStart
<https://github.com/alibaba/canal/wiki/QuickStart>

b. 修改canal 配置文件vi /usr/local/canal/conf/canal.properties
# ... # 可选项: tcp(默认), kafka, RocketMQ canal.serverMode = kafka # ... #
kafka/rocketmq 集群配置: 192.168.1.117:9092,192.168.1.118:9092,192.168.1.119:9092
canal.mq.servers = 127.0.0.1:6667 canal.mq.retries = 0 canal.mq.batchSize =
16384 canal.mq.maxRequestSize = 1048576 canal.mq.lingerMs = 1
canal.mq.bufferMemory = 33554432 # Canal的batch size, 默认50K,
由于kafka最大消息体限制请勿超过1M(900K以下) canal.mq.canalBatchSize = 50 # Canal get数据的超时时间,
单位: 毫秒, 空为不限超时 canal.mq.canalGetTimeout = 100 # 是否为flat json格式对象
canal.mq.flatMessage = true canal.mq.compressionType = none canal.mq.acks = all

mq相关参数说明

参数名参数说明默认值
canal.mq.servers kafka为bootstrap.servers
rocketMQ中为nameserver列表 127.0.0.1:6667
canal.mq.retries 发送失败重试次数 0
canal.mq.batchSize kafka为ProducerConfig.BATCH_SIZE_CONFIG
rocketMQ无意义 16384
canal.mq.maxRequestSize kafka为ProducerConfig.MAX_REQUEST_SIZE_CONFIG
rocketMQ无意义 1048576
canal.mq.lingerMs kafka为ProducerConfig.LINGER_MS_CONFIG
rocketMQ无意义 1
canal.mq.bufferMemory kafka为ProducerConfig.BUFFER_MEMORY_CONFIG
rocketMQ无意义 33554432
canal.mq.producerGroup kafka无意义
rocketMQ为ProducerGroup名 Canal-Producer
canal.mq.canalBatchSize 获取canal数据的批次大小 50
canal.mq.canalGetTimeout 获取canal数据的超时时间 100
canal.mq.flatMessage 是否为json格式
如果设置为false,对应MQ收到的消息为protobuf格式
需要通过CanalMessageDeserializer进行解码 true
--- --- ---
canal.mq.topic mq里的topic名无
canal.mq.partition 单队列模式的分区下标， 1
canal.mq.partitionsNum 散列模式的分区数无
canal.mq.partitionHash 散列规则定义
库名.表名 : 唯一主键，比如mytest.person: id 无
其他详细参数可参考Canal AdminGuide <https://github.com/alibaba/canal/wiki/AdminGuide>

3.4 启动
cd /usr/local/canal/ sh bin/startup.sh

3.5 查看日志

a.查看 logs/canal/canal.log
vi logs/canal/canal.log
b. 查看instance的日志：
vi logs/example/example.log

3.6 关闭
cd /usr/local/canal/ sh bin/stop.sh

3.7 MQ数据消费

canal.client下有对应的MQ数据消费的样例工程,包含数据编解码的功能

* kafka模式:
com.alibaba.otter.canal.client.running.kafka.CanalKafkaClientExample
<https://github.com/alibaba/canal/blob/master/client/src/test/java/com/alibaba/otter/canal/client/running/kafka/CanalKafkaClientExample.java>
* rocketMQ模式:
com.alibaba.otter.canal.client.running.rocketmq.CanalRocketMQClientExample
<https://github.com/alibaba/canal/blob/master/client/src/test/java/com/alibaba/otter/canal/client/running/rocketmq/CanalRocketMQClientExample.java>
原文地址可参考git地址：

https://github.com/alibaba/canal/wiki/Canal-Kafka-RocketMQ-QuickStart
<https://github.com/alibaba/canal/wiki/Canal-Kafka-RocketMQ-QuickStart>

热门工具换一换