当前位置:首页 > 技术分析 > 正文内容

Kafka集群部署文档

ruisui882周前 (06-02)技术分析5

一、部署JDK

  1. 官网下载jdk版本

https://www.oracle.com/java/technologies/javase/jdk11-archive-downloads.html

  1. 解压安装
tar xzvf jdk-11.0.13_linux-x64_bin.tar.gz
  1. 配置环境变量

vi /etc/profile

export JAVA_HOME="/usr/local/jdk11.0.13"
export PATH="$JAVA_HOME/bin:$PATH"
export CLASSPATH=.:$JAVA_HOME/lib/tools.jar:$JAVA_HOME/lib/dt.jar
source /etc/profile

二、部署Zookeeper集群

  1. 下载安装包

Zookeeper下载地址:

https://www.apache.org/dyn/closer.lua/zookeeper/zookeeper-3.8.4/apache-zookeeper-3.8.4-bin.tar.gz

  1. 解压安装
tar xzvf apache-zookeeper-3.8.4-bin.tar.gz
  1. 修改配置文件

修改config/zoo.cfg

#修改数据存储目录 
dataDir=/data/zookeeper/data
 
#文件末尾追加配置内容,添加server端口传输
server.1=192.168.0.1:2888:3888
server.2=192.168.0.2:2888:3888
server.3=192.168.0.3:2888:3888
  1. 创建myid文件
  • 在每台服务器zookeeper的dataDir对应目录下创建 myid 文件,内容为对应ip的zookeeper服务器编号;
  • dataDir目录是你在zoo.cfg中配置的目录。内容是你在zoo.cfg中配置集群时server.后面的数字。
  • 添加 myid 文件时,一定要在 Linux 里面创建,不要 notepad++等工具里面创建后上传,因为可能会乱码。并且内容上下不要有空行,左右不要有空格。

第一台:

echo 1 > data/myid

第二台:

echo 2 > data/myid

第三台:

echo 3 > data/myid
  1. 启动Zookeeper服务
./bin/zkServer.sh start


三、部署Kafka集群

  1. 下载安装包

Kafka下载地址:
https://downloads.apache.org/kafka/3.7.0/kafka_2.13-3.7.0.tgz

  1. 解压
tar xzvf kafka_2.13-3.7.0.tgz
  1. 修改配置文件

进入config目录,修改server.properties。这个配置文件里面的配置项非常多,下面列出几个要重点关注的配置

#broker 的全局唯一编号,不能重复,只能是数字。
broker.id=0
#数据文件地址。同样默认是给的/tmp目录。
log.dirs=/data/kafka/logs
#默认的每个Topic的分区数
num.partitions=1
#zookeeper的服务地址
zookeeper.connect=192.168.0.1:2181,192.168.0.2:2181,
listeners=PLAINTEXT://192.168.0.1:9092

broker.id需要每个服务器上不一样,分发到其他服务器上时,要注意修改一下,比如第一台是0,第二台就是1,第三台的配置就是2。
当多个Kafka服务注册到同一个zookeeper集群上的节点,会自动组成集群。

  1. 启动kafka集群
cd /data/kafka
./bin/kafka-server-start.sh -daemon config/server.properties
  1. 测试

1)创建topic

./bin/kafka-topics.sh --create --bootstrap-server 192.168.0.1:9092 \
  --replication-factor 3 --partitions 2 --topic testTopic

2) 查看topic

./bin/kafka-topics.sh --bootstrap-server 192.168.0.1:9092 --list

3) 向topic发送消息

./bin/kafka-console-producer.sh --bootstrap-server 192.168.0.1:9092 \
  --topic testTopic

4) 消费消息

./bin/kafka-console-consumer.sh --bootstrap-server 192.168.0.1:9092 \
  --topic testTopic

扫描二维码推送至手机访问。

版权声明:本文由ruisui88发布,如需转载请注明出处。

本文链接:http://www.ruisui88.com/post/4388.html

分享给朋友:

“Kafka集群部署文档” 的相关文章

全新斯柯达柯珞克Karoq深度评测:大众替代品

“斯柯达柯珞克是一款出色的全能家庭 SUV,具有许多有用的功能”价格36,605 英镑- 49,190 英镑优点方便的 VarioFlex 后排座椅非常适合家庭入住驾驶乐趣缺点保修期短保守的内饰性格比Yeti少结论——斯柯达柯珞克是一辆好车吗?斯柯达柯珞克是在辉煌的七座 斯柯达柯迪亚克之后推出的,因...

学前端,这30个CSS选择器,你必须熟记

你学会了基本的id,class类选择器和descendant后代选择器,然后就觉得完事了吗?如果这样,你就会错过许多灵活运用CSS的机会。虽然本文提到的许多选择器都属于CSS3,并且只能在现代的浏览器中使用,但学会这些是大有好处的。什么是CSS选择器呢?每一条css样式定义由两部分组成,形式如下:[...

同步和异步的区别是什么,同步和异步的代码

同步和异步的区别在于程序执行操作时是否需要等待操作完成。同步操作意味着程序在执行一个操作时会一直等待操作完成才继续执行下一个操作,而异步操作则是指程序执行一个操作时,不会等待操作完成,而是立即返回,继续执行后面的操作。以下是同步和异步的代码示例:同步代码示例:console.log("sta...

Intel RST技术操作指南

一、RST技术介绍1、RST:Intel Rapid Storage Technology(Intel快速存储技术)的英文简称,功能是提高计算机系统性能。就是用一块固态硬盘(SSD)给机械硬盘(HDD)做缓存,提高系统存储的读写速度。2、优势:它具有的特点和优势是能够提升整体硬盘的速度,但是却不会降...

Vue2全家桶之一:vue-cli(vue脚手架)超详细教程

都说Vue2简单上手容易,的确,看了官方文档确实觉得上手很快,除了ES6语法和webpack的配置让你感到陌生,重要的是思路的变换,以前用jq随便拿全局变量和修改dom的锤子不能用了,vue只用关心数据本身,不用再频繁繁琐的操作dom,注册事件、监听事件、取消事件。。。。(确实很烦)。vue的官方文...

HarmonyOs开发:轮播图Banner组件封装与使用

前言轮播图在每个项目中都很常见,鸿蒙中在容器组件中也提供了Swiper组件,用于子组件滑动轮播显示,和前端的使用起来也是异曲同工,我们先看下基本的用法。Swiper() { ForEach(["1", "2", "3", "...