KAFKA 五月 25, 2023

kafka安装

文章字数 87 阅读约需 1 mins.

文章 五月 25, 2023

kafka(一) 概述

文章字数 3.4k 阅读约需 3 mins.

​ Kafka是由Apache软件基金会开发的一个开源流处理平台,由Scala和Java编写。Kafka是一种高吞吐量的分布式发布订阅消息系统,它可以收集并处理用户在网站中的所有动作流数据以及物联网设备的采样信息。

broker

集群的基本单位,一台kafka服务器即为一个broker.多个broker组成一个kafka集群,broker之间没有主从之分,地位都是平等的.

topic 主题

主题,每条消息发布到kafka的一个类别,用于区分消费.物理上不同的topic的消息分开存储,逻辑...

查看全文

文章 五月 25, 2023

kafka(二) 生产者

文章字数 1.1k 阅读约需 1 mins.

  1. 序列化ProducerRecord.

  2. 如果ProducerRecord中指定了Partition.则分区器(Partitioner)不做任何事情.否则分区器根据消息的key得到一个Partition。

  3. 消息被添加到相应的batch中,独立的线程将这些batch发送到broker上.

  4. broker收到消息会返回一个响应.

    成功写入返回RecordMetaData对象,包含了Topic信息、Patition信息、消息在Partition中的Offset信息.

    失败会返回错误. 生产者收...

查看全文

LINUX 五月 25, 2023

CENTOS7后通用配置

文章字数 2.3k 阅读约需 2 mins.

1.先关闭防火墙

#关闭防火墙                                                                  
systemctl stop firewalld
#禁止开机自启
systemctl disabled firewalld

2.配置网卡信息

保存退出后输入: service network restart 来重启网卡,更新配置.

TYPE=Ethernet
PROXY_METHOD=none
BROWSER_ONLY=no
BOOTPROTO=static
DEFROUTE=yes
IPV4_FAILURE_FATAL=no
IPV6INIT=yes
IPV6_AUTOCONF...
查看全文

LINUX 五月 25, 2023

删除文件不释放空间

文章字数 1.6k 阅读约需 1 mins.

删除正在被占用的日志文件时,存储空间没有被释放.

rm filename

命令删除文件后,

df -h

按G查看磁盘使用情况.发现空间没有被释放掉.

lsof |grep delete

通过上述命令可以查看删除文件被占用情况.第二列为对应应用的PID.

kill掉相应的应用后文件被占用的空间被释放.

总结:

当log文件过大,被错误日志塞满磁盘时,使用rm删除文件无法清除被占用的文件空间.需要停止占用的应用.

若想不停止服务来清理空间,可以使用 echo "" >...

查看全文

文章 五月 25, 2023

Untitled

文章字数 0 阅读约需 1 mins.

GIT 五月 25, 2023

git常用命名速查

文章字数 3.8k 阅读约需 3 mins.

git结构概览

初始化

git init
git init --bare repo_name.git    #创建一个名为repo_name的裸仓库,作为远程仓库使用

查看状态

git status

添加文件至暂存区

git add filename #添加某个文件
git add . #添加工作区中的所有文件

提交至本地仓库

git commit -m "本次提交的说明" #不带m参数则会打开互交界面,输入提交说明后通过vi操作保存退出完成提交
git commit -a -m &...
查看全文

DOCKER 五月 25, 2023

docker

文章字数 4.5k 阅读约需 4 mins.

docker存在一定的虚拟化职能。利用docker不仅可以创建容器,也可以向物理机申请相应的资源,方便程序的迁移与扩展。docker提供了标准的应用打包的方式,形成集装箱式的镜像文件。这个镜像文件中包含了应用所需要的的所有资源与外部引用,同时还描述运行应用所需要硬件上的需求,在部署时还可以灵活的调整。运维工程师使用docker可以方便的对应用进行扩展与还原,得到一个与之前相同的运行环境。

1.1 开通阿里云容器镜像服务。获取容器加速地址。

1.2 修改daemon配置文件来使用加速器

sudo ...
查看全文

DOCKER 五月 25, 2023

docker镜像

文章字数 14k 阅读约需 13 mins.

  • Docker 镜像是只读的容器模板,是Docker容器基础
  • 为Docker容器提供了静态文件系统运行环境(rootfs)
  • 区分: 容器是镜像的运行状态,镜像是容器的静止状态.

概念

是实现联合挂载技术的文件系统.可以实现在一个挂载点同时挂在多个文件系统,将挂载点的原目录与被挂载内容进行整合,使得最终可见的文件系统包含整合后的各层文件与目录.

图示

容器文件系统中有多种存储驱动实现方式:aufs,devicemapper,overlay,overlay2等.docker目前默认使用的是overlay2...

查看全文

文章 五月 25, 2023

Untitled

文章字数 0 阅读约需 1 mins.

加载更多
0%