NIFI⼊门CSV⽂件处理及Mysql⼊库NIFI数据处理及Mysql⼊库流程
本⽂章⽤于记录nifi的整个⼊库流程,其中需要⽤到的professor为:
GetFile,UpdateAttribute,ConvertRecord,ConvertJsonToSQL,PutSQL五个组件。
整体流程:
CSV源⽂件为:
数据库对应表格为:
mysql下载jar包下⾯分别介绍每个professor的作⽤及配置:
GetFile:
⾸先通过GetFile读取csv⽂件,配置professor:
依次填写Input Directory、Path Filter
UpdateAttribute:
通过该processor为将要处理的FlowFile添加属性,便于后续处理:
ConvertRecord:
将csv⽂件的数据转换为json数据:
分别选择CSVReader、JsonRecordSetWriter,并对其进⾏配置:CSVReader的配置为:
注意第⼀⾏header的处理:
配置Schema Registry:
名称和之前填写的schema.name⼀致,其中对应的json内容为:
{
"type":"record",
"name":"ClassRecord",
"fields":[
{"name":"name","type":["null","string"]},
{"name":"id","type":"long"}
]
}
json内容意为该数据的类型,数据对应的数据库类型。
配置JsonRecordSetWriter:
填写相同的参数,及使⽤同⼀个registry。
版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198,我们将在24小时内删除。
发表评论