简单介绍一下kafka @ 胡巴 | 星期日,三月 10 日,2024 年 | 2 分钟阅读 | 更新于 星期日,三月 10 日,2024 年

Kafka是一个由Apache软件基金会开发的开源流处理平台,它具有高吞吐量、可扩展性和容错性。本文将为您提供Kafka的简要介绍。

Kafka是一种分布式发布-订阅消息系统,它最初由LinkedIn公司开发,后来成为Apache软件基金会的一部分。Kafka使用Scala和Java编写,它以高吞吐量、内置分区、复制和故障恢复功能而闻名。

Kafka的核心概念

  1. Topics:主题是Kafka处理信息的基本单位,可以看作是消息的分类名称。
  2. Producers:生产者是发布消息到Kafka主题的应用程序。
  3. Consumers:消费者是从Kafka主题订阅消息的应用程序。
  4. Brokers:代理是Kafka集群中的服务器节点,它们存储数据并服务客户端请求。
  5. ZooKeeper:Kafka使用ZooKeeper来协调集群中的broker。

Kafka的特点

  • 高吞吐量:Kafka能够处理高速流动的数据,适合于需要处理大量数据的场景。
  • 可扩展性:Kafka集群可以轻松扩展,以处理更多的数据。
  • 容错性:Kafka通过副本机制确保数据不丢失,即使部分服务器出现故障。
  • 持久性:Kafka将消息存储在磁盘上,并且可以配置数据保留策略。
  • 实时处理:Kafka支持实时数据处理,可以快速地获取和分析数据。

Kafka的使用场景

Kafka通常用于以下场景:

  • 实时数据处理:如日志收集、监控系统、实时分析等。
  • 消息队列:作为传统的消息中间件,用于解耦系统组件。
  • 网站活动跟踪:跟踪用户行为并实时反馈。
  • 流式处理:结合Apache Storm、Spark等流处理框架进行复杂的数据处理。

Kafka的架构

Kafka的架构由以下几部分组成:

  • Producer:生产者将消息发布到Kafka的topic中。
  • Broker:代理是Kafka集群中的服务器节点,负责存储数据并服务客户端请求。
  • Consumer:消费者从broker读取数据,并处理这些消息。
  • ZooKeeper:用于管理和协调broker。

总结

Kafka是一个强大的分布式消息系统,适用于需要高吞吐量和可扩展性的实时数据处理场景。它的设计目标是快速、可扩展和可靠,这使得它在处理大规模数据流时非常有效。

捐赠

感谢老板请我喝杯咖啡!Thank you for buying me a coffee!

WeChat AliPay PayPal
wechatpay alipay PayPal

公众号: 无限递归

alt 搜索公众号:无限递归

Copyright © 2017 - 2025 boboidea.com All Rights Reserved 波波创意软件工作室 版权所有 【转载请注明出处】

avatar

BoBo`s Blog每天进步一点点,能多一点是一点

appdata apt-get bloomfilter channel ChatGPT chsh Context css csv CUDA Cursor DaDa英语 Deepseek defer df docker elasticsearch error ffmpeg fix-missing form gif git GitLab globalproject golang HTTP HTTPS iconv IDE Interface iota Kafka LangChain libssl LLM ln mac mac系统更新 Map MCP MetaMCP mkdir MSYS2 mysql n8n nginx oh-my-zsh Ollama openconnect openssl PAM permission php pip PowerShell python rabbitmq redis reflect rsync SD sed shell Slice snowflake space SSH struct syntax_err tensorflow ubuntu ue4 unauthorized unreal4 UV vim virtualbox vpn VSCode Windows x86_64 xcode-select YCM zookeeper zsh 上海积分 主从复制 事务 二进制安全 交叉熵 人力资源 代码工具 代码编辑助手 代码评审 以太坊 信息论 全民哀悼 内存管理 内容创作 分屏 分支删除 区块链 匿名函数 协作系统 协议设计 启动盘 品种 图片转视频 均线 夏天 夏季 实用技巧 密码修改 工作流 工作流触发 工具 工具管理 开发工具 开发环境 循环 微信公众号 批处理 批量处理 批量替换 批量重命名 接收器 效率工具 教程 数据分析 数据合并 数据处理 数据类型 数据结构 数据聚合 数据转换 文件同步 文件管理 日志切分 智能体 智能合约 替代方案 本地部署 概率论 比特币 水果 治疗 流量分析 消息队列 版本控制 狗狗币 生活 用户行为 电视 症状 磁盘清理 笔记本技巧 编程语言 编译PHP 编辑器 网站统计 自动化 自动化工作流 自动提交 节点 获取方式 虚拟机 西瓜 记忆 购买指南 软连接 运维技巧 闭包 集成 雪花算法 面瘫 鞋子 项目无法编译
基本信息
  • 姓名:bobo
  • 花名:胡巴
  • 性别:男
  • 血型:O型
  • 星座:白羊座

联系方式

  • 所在地:上海
  • QQ:279250819
  • 微信号:wanghuiwoshinideyou
  • 电子邮件:279250819@qq.com

博客地址

公众号

alt 无限递归

工作经历
  • 2022.5 - 至今

    • 公司:乐府互娱
    • 职位:高级SDK工程师
  • 2019.6 - 2022.4

    • 公司:萌推(上海突进网络科技有限公司)
    • 职位:中级PHP工程师 & 初级golang工程师
    • 荣誉:
      • 绩效A连续得主
      • 月度之星
      • 优秀个人奖
    • 所作所为:
      • 利用ES优化OMS、MMS管理系统商品列表查询
      • 利用消息队列、Redis、乐观锁优化商品审核流程
      • 利用Redis对商家端接口进行有效限流
      • 优化商品相关表索引,提升SQL查询速度
      • 商品中台构建,统一商品相关操作
      • 大表优化(数据分离、分表、大字段拆分)
      • 掌握所有商品核心流程
  • 2018.5 - 2019.5

    • 公司:DaDa英语(上海卓赞教育信息科技有限公司)
    • 职位:中级PHP开发工程师
    • 荣誉:无
    • 所作所为:
      • 利用ES优化教师CMS系统统计数据接口至500ms内
      • 工单系统开发及持续优化
      • 教师CMS系统的功能开发及持续优化
  • 2018.3 - 2018.5

    • 公司:波奇(上海)信息科技有限公司
    • 职位:初级PHP开发工程师
    • 荣誉:同下
    • 所做作为:如下
  • 2016.7 - 2018.3

    • 公司:光橙(上海)信息科技有限公司
    • 职位:初级PHP开发工程师
    • 荣誉:
      • 年度最佳进步奖
    • 所作所为:
      • 利用Redis提升商详接口最佳响应速度至50ms内
      • 利用Redis提升双11活动页可承受QPS至500以上
      • 利用Redis对接口进行简单限流
      • 与小伙伴合作提升搜索质量(ES初识)
      • 其他C端接口的开发及优化
      • B端商城老页面的维护及优化
SKILLS

编程语言

  • PHP
  • Golang
  • Shell
  • JAVA
  • JS
  • HTML\CSS

数据库

  • MySQL
  • Redis
  • Clickhouse

消息中间件

  • RabbitMq
  • Kafka

文档撰写

  • Swagger
  • Markdown

技术框架

  • Laravel
  • gin

搜索引擎

  • ElasticSearch

抓包工具

  • Charles