hadoop的TextInputFormat作用是什么,如何自定义实现

hadoop的TextInputFormat作用是什么,如何自定义实现,第1张

hadoop的TextInputFormat作用是什么,如何自定义实现

InputFormat会在map *** 作之前对数据进行两方面的预处理 1是getSplits,返回的是InputSplit数组,对数据进行split分片,每片交给map *** 作一次 2是getRecordReader,返回的是RecordReader对象,对每个split分片进行转换为key-value键值对格式传递给map

常用的InputFormat是TextInputFormat,使用的是LineRecordReader对每个分片进行键值对的转换,以行偏移量作为键,行内容作为值

自定义类继承InputFormat接口,重写createRecordReader和isSplitable方法 在createRecordReader中可以自定义分隔符

欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/zaji/4880944.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2022-11-11
下一篇 2022-11-11

发表评论

登录后才能评论

评论列表(0条)

保存