搜索内容

包含标签:kafka 的文章
  • Kafka怎么保证消息发送不丢失
    研发管理

    Kafka怎么保证消息发送不丢失

    前言 Kafka发送消息是异步发送的,所以我们不知道消息是否发送成功,所以会可能造成消息丢失。而且Kafka架构是由生产者-服务器端-消费者三种组成部分构成……
    admin 2023-12-25
  • flink1.12.4消费kafka 报错 The coordinator is not available
    5G

    flink1.12.4消费kafka 报错 The coordinator is not available

    报错 You should retry committing the latest consumed offsets. Caused by: org.apache.kafka.common.errors.CoordinatorNotAvailableException: The coor……
    admin 2023-12-15
  • ELK+filebeat+kafka
    研发管理

    ELK+filebeat+kafka

    nohup ./filebeat -e -c filebeat.yml > filebeat.out & tail -f filebeat.out cd /etc/logstash/conf.d vim kafka.conf input { kafka { ……
    admin 2023-12-07
  • 在服务器导出kafka topic数据
    物联网

    在服务器导出kafka topic数据

            使用Kafka自带的工具:Kafka提供了一个命令行工具kafka-console-consumer,可以用来消费指定Topic的数据并将其打印到控制台。         1.打印到控制……
    admin 2023-11-19
  • Kafka GUI+实时监控——Kafka Assistant
    云计算

    Kafka GUI+实时监控——Kafka Assistant

    Kafka GUI+实时监控——Kafka Assistant 想要查看Topic里的消息却找不到软件,想要查看或更新Broker、Topic配置,想要监控Broker服务器状态?试试下面的Kafka ……
    admin 2023-11-04
  • kafka:各组件概念
    架构

    kafka:各组件概念

    摘要 kafka主要由Scala和Java编写,broker启动后可以直接用jps -l查看到是kafka进程。kafka是一种高吞吐量的分布式发布订阅消息系统,组件参数都比较多。 ……
    admin 2023-11-02
  • Kafka与Spark案例实践
    研发管理

    Kafka与Spark案例实践

    1.概述 Kafka系统的灵活多变,让它拥有丰富的拓展性,可以与第三方套件很方便的对接。例如,实时计算引擎Spark。接下来通过一个完整案例,运用Kafka和Spark来……
    admin 2023-10-30
  • 分享8个分布式Kafka的使用场景
    5G

    分享8个分布式Kafka的使用场景

    Kafka 最初是为海量日志处理而构建的。它保留消息直到过期,并让消费者按照自己的节奏提取消息。与它的前辈不同,Kafka 不仅仅是一个消息队列,它还是一个适……
    admin 2023-10-29
  • spark DStream从不同数据源采集数据(RDD 队列、文件、diy 采集器、kafka)(scala 编程)
    研发管理

    spark DStream从不同数据源采集数据(RDD 队列、文件、diy 采集器、kafka)(scala 编程)

    目录 1. RDD队列 2 textFileStream 3 DIY采集器 4 kafka数据源【重点】 1. RDD队列        a、使用场景:测试        b、实现方式: 通过ssc.queueStream(que……
    admin 2023-10-20
  • kafka、zookeeper、flink测试环境、docker
    5G

    kafka、zookeeper、flink测试环境、docker

    1、kafka环境单点 根据官网版本说明(3.6.0)发布,zookeeper依旧在使用状态,预期在4.0.0大版本的时候彻底抛弃zookeeper使用KRaft(Apache Kafka)官方并给出了z……
    admin 2023-10-20