Python-将json⽂件写⼊ES数据库1、安装Elasticsearch数据库
PS:在此之前需⾸先安装Java SE环境
python解析json文件
安装head插件,便于查看管理(还可以⽤kibana)中秋节网页素材
修改配置⽂件elasticsearch-6.5.2\l如下:
进⼊elasticsearch-head-master⽬录下执⾏ npm install -g grunt-cli,再执⾏npm install 安装依赖
在elasticsearch-head-master⽬录下到Gruntfile.js⽂件修改服务器监听地址如下:
执⾏grunt server命令启动head服务
2、将json⽂件写⼊ES数据库(py脚本如下)
# -*- coding: UTF-8 -*-
from itertools import islice
import json , sys
from elasticsearch import Elasticsearch , helpers
import threading
_index = 'indextest'#修改为索引名
linux运维训练营_type = 'string'#修改为类型名
es_url = '192.168.116.1:9200/'#修改为elasticsearch服务器
reload(sys)
sys.setdefaultencoding('utf-8')
es = Elasticsearch(es_url)
ate(index=_index, ignore=400)
chunk_len = 10
num = 0
sql中的order by
def bulk_es(chunk_data):
bulks=[]
try:
for i in xrange(chunk_len):
bulks.append({
"_index": _index,
"_type": _type,
"_source": chunk_data[i]
})
helpers.bulk(es, bulks)
j2ee和j2se的区别
except:
jupyter notebook 自动补全
pass
with open(sys.argv[1]) as f:
while True:
lines = list(islice(f, chunk_len))
num =num +chunk_len
sys.stdout.write('\r' + 'num:'+'%d' % num)
sys.stdout.flush()
bulk_es(lines)
if not lines:
print"\n"
print"task has finished"
break

版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198,我们将在24小时内删除。