3.2 Kafka基本命令
Kafka是一种高吞吐量的分布式发布订阅消息系统,它可以处理消费者在网站中的所有动作流数据。Kafka的目的是通过Hadoop的并行加载机制来统一线上和离线的消息处理,也是为了通过集群来提供实时的消息。
3.2.1 kafka服务
1. 管理Zookeeper服务
./zkServer.sh start (启动)
./zkServer.sh status (查看)
./zkServer.sh stop (停止)
2. 管理Kafka服务
启动Kafka(强烈建议让守护自启)
/opt/software/kafka/bin/kafka-server-start.sh
/opt/software/kafka/config/kafka_server.properties &
停止Kafka
/opt/software/kafka/bin/kafka-server-stop.sh
执行停止Kafka操作后,Kafka可能不会立即停止,需稍等一会。除非进程卡死,否则请勿kill -9,以免造成数据损坏。建议使用jps查看进程是否关闭
3.2.2 kafka操作
1. 创建topic
test,1个副本数,1个分区
./kafka-topics.sh --create --zookeeper 10.10.12.16:2181 --replication-factor 1 --partitions 1 --topic test
参数说明:
--zookeeper broker的IP:2181
--replication-factor 副本数
--partitions 分区数
--topic topic名称
2.检查topic列表
./kafka-topics.sh --list --zookeeper 10.10.12.16:2181
3.查看topic描述信息
./kafka-topics.sh --describe --zookeeper 10.10.12.16:2181 --topic my-replicated-topic
4.生产数据
./kafka-console-producer.sh --broker-list 10.10.12.16:9092 --topic test
5.消费数据
./kafka-console-consumer.sh --bootstrap-server 10.10.12.16:9092 --topic test --from-beginning
6. 查看topic消息队列信息
./kafka-run-class.sh kafka.tools.ConsumerOffsetChecker --group kafkadb_group --topic kafkadb --zookeeper 10.10.12.16:2181