代码之家  ›  专栏  ›  技术社区  ›  xabhi

获取卡夫卡使用细节

  •  0
  • xabhi  · 技术社区  · 5 年前

    我正在设法获取我的卡夫卡集群的当前使用统计数据。我希望收集以下信息:

    1. 卡夫卡集群中的主题数量
    2. 每个kafka代理的分区数
    3. 活跃消费者和生产者的数量
    4. 每个kafka broker的客户端连接数
    5. 每个分区上的消息数、磁盘大小等。
    6. 滞后复制品、消费者滞后等。
    7. 活跃的消费群体

    任何其他可以而且应该收集的统计数据,目前我正在收集上述统计数据。

    我可以使用zookeeper实用程序获得1和2,但我无法休息。我在Jconsole中查看了MBean,但没有发现任何关于上面的内容。我也尝试过使用基于JmxTool的表达式,但也没有成功。

    我用的是卡夫卡v2。1和使用新的消费者api,这样zookeeper就不会有任何关于消费者的信息。

    任何指点都会很有帮助!

    1 回复  |  直到 5 年前
        1
  •  0
  •   JR ibkr    5 年前

    不如用 https://github.com/yahoo/kafka-manager https://github.com/linkedin/cruise-control 来获取这些信息。

    在$KAFKA_HOME/bin下有一些脚本可以帮助您。

    卡夫卡集群中的主题数量

    /卡夫卡主题。sh——动物园管理员本地主机:2181——列表

    每个kafka代理的分区数

    /卡夫卡主题。sh--动物园管理员本地主机:2181--描述一下

    每个分区上的消息数、磁盘大小等。

    /卡夫卡日志目录。sh--描述--引导服务器本地主机:9092

    滞后复制品、消费者滞后等。

    /卡夫卡消费群体。sh--引导服务器localhost:9092--组$group_NAME--描述

    活跃的消费群体 活跃消费者和生产者的数量

    你不能得到积极的生产者。 Know existing producers for a kafka topic

    /卡夫卡消费群体。sh--引导服务器localhost:9092--列表

    每个kafka broker的客户端连接数

    ./