flume-ng 使用 MySQL Sink
我准备使用apache flume 1.3 来处理日志的收集工作,日志的量不是很大,每天10个G左右,
我准备仅把WARN和ERROR级别的日志抽取出来保存,供后续分析使用。
由于目前这两类数据不会很多,初步打算把他们写入MySQL DB, 使用起来方便一些。
问题:
1. 官方文档没有提供到普通关系数据的Sink实现,我是否需要自己实现,或者是否已经有比较好的第三方实现?
2. 把日志写入MySQL是否是个好主意?
如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。
绑定邮箱获取回复消息
由于您还没有绑定你的真实邮箱,如果其他用户或者作者回复了您的评论,将不能在第一时间通知您!
发布评论
评论(4)
flume本身没有实现,自己写个插件吧,不费力。
将日志写到mysql没问题的,但是得考虑到分表,也便于以后统计。
1.没有
2.MySQL存日志不是一个好主意
考虑存到hdfs吧,如果实在要用MySQL考虑下tokudb
楼主解决了吗
楼主我也碰到同样的问题,想用flume往mysql入数据,只能自己写sink吗