千锋教育-做有情怀、有良心、有品质的职业教育机构

手机站
千锋教育

千锋学习站 | 随时随地免费学

千锋教育

扫一扫进入千锋手机站

领取全套视频
千锋教育

关注千锋学习站小程序
随时随地免费学习课程

当前位置:首页  >  应聘面试  >  大数据面试题  > Flume结构拦截器

Flume结构拦截器

来源:千锋教育
发布人:wjy
时间: 2022-09-01 15:59:41 1662019181

所有events,增加头,类似json格式里的"headers":{" key":" value"} 时间戳(头部插入时间戳)、主机(头部插入主机名和IP)、静态(头部插入指定KV)、正则过滤(留下符合条件的)、自定义 拦截器作用   1)ETL拦截器:轻度清洗,过滤出Json格式不完整的数据   2)时间拦截器:提取日志时间作为分区的依据,避免零点漂移问题 自定义拦截器步骤   1)实现Interceptor   2)重写方法     (1)initialize初始化方法     (2)public Event intercept(Event event) 处理单个Event     (3)public List intercept(List events) 处理多个Event,在这个方法中调用Event intercept(Event event)     (4)close方法   3)静态内部类,实现Interceptor.Builder   4)打包,上传至flume/lib目录下   5)在配置文件中关联:全类名 + $builder 拦截器可以不用吗?   可以不用,在hive的dwd层或sparkStream中处理即可,也可以用,但会影响性能,不推荐用在实时性高的场景

Flume结构拦截器

tags:
声明:本站稿件版权均属千锋教育所有,未经许可不得擅自转载。
10年以上业内强师集结,手把手带你蜕变精英
请您保持通讯畅通,专属学习老师24小时内将与您1V1沟通
免费领取
今日已有369人领取成功
刘同学 138****2860 刚刚成功领取
王同学 131****2015 刚刚成功领取
张同学 133****4652 刚刚成功领取
李同学 135****8607 刚刚成功领取
杨同学 132****5667 刚刚成功领取
岳同学 134****6652 刚刚成功领取
梁同学 157****2950 刚刚成功领取
刘同学 189****1015 刚刚成功领取
张同学 155****4678 刚刚成功领取
邹同学 139****2907 刚刚成功领取
董同学 138****2867 刚刚成功领取
周同学 136****3602 刚刚成功领取
相关推荐HOT