代码之家  ›  专栏  ›  技术社区  ›  C.med

使用kafka producer发送日志文件

  •  0
  • C.med  · 技术社区  · 5 年前

    我想创建一个python脚本,将文件从虚拟机发送到kafka代理。 简单来说:

    • 我在此IP地址中有日志文件: VM1 小精灵
    • 我想创建一个kafka producer(使用python)来从 VM1
    • Kafka安装在另一个虚拟机上: VM2 10.10.10.2版

    局限性

    1. 我无法在 VM1
    2. 我只能使用user/pwd访问 VM1

    我想我需要创建一个连接器?我们能重复使用类似的东西吗 connect-file-sink.properties连接文件接收器 并指定文件存储在外部计算机中的文件夹+IP: VM1

    还有别的工具可以做吗?

    1 回复  |  直到 5 年前
        1
  •  1
  •   Robin Moffatt    5 年前

    有很多现有的工具可以做到这一点,例如。 Filebeat 支持 output to Kafka , Fluentd 等。

    这些都是简单的设置简单的配置文件。最棘手的一点可能是你的人际网络——只要确保 configured Kafka's listeners correctly .