Tensorflow使⽤笔记(1) 怎么保存和使⽤训练好的参数和模型
如何保存和使⽤训练好的模型参数
引⾔
最近在学习Tensorflow 构建CNN,训练需要耗费时间,把训练好的各个参数保存下来是最简便的,⽹上有很多,但是跟着教程⾛不⼀定⼀帆风顺还是踩了⼀些坑,然后⾃⼰填了⼀下坑
如何保存好训练的结果:
假设会话为sess,计算图为graph
⽹上看了很多资料,使⽤
ain.Saver() # 不传⼊参数代表默认存⼊全部参数
file_name = 'saved_model/model.ckpt'# 将保存到当前⽬录下的的saved_model⽂件夹下model.ckpt⽂件
saver.saver(sess,file_name ) # 保存好的模型⽂件
这样来保存模型,这样就⾏了吗?还不⾏
但是按照这个⽅式,开始IDE总是会报错:No Variable to save
然后我的想法是:可能要把sess传给saver是吗?下⾯是我的代码,和⼀次尝试性的修改
graph = tf.Graph() # 计算图
with graph.as_default():
# 定义计算图
...
# 以上是⼀些权重和卷积层的定义,这⾥就不贴出来了
sess = tf.Session(graph=graph) # 把上⼀步定义的计算图载⼊到会话中
# 给定义saver⼀个sess作为输⼊,结果也是不⾏的
ain.Saver(sess) # 不传⼊参数代表默认存⼊全部参数
saver.saver(sess,'saved_model/model.ckpt')
这样还是会报错:没有可以被⽤来保存的变量。我思来想去,可能要载⼊graph?
graph = tf.Graph()
with graph.as_default():
# 定义计算图
...
# ---
sess = tf.Session(graph=graph) # 把上⼀步定义的计算图载⼊到会话中
# 这次把graph传进来做参数
saver = tf.train.Saver(graph)
saver.saver(sess,'saved_model/model.ckpt')
结果还是不⾏
多次尝试之后,终于修改正确了
# ---
saver = tf.train.Saver() # 默认存储上⾯全部定义参数,如果不想全部存下来,也可以输⼊你想要保存的参数session如何设置和读取
sess = tf.Session(graph=graph) # 把上⼀步定义的计算图载⼊到会话中
# 保存,这次就可以成功了
saver.saver(sess,'saved_model/model.ckpt')
保存成功,⽂件夹saved_model下会出现⼏个⽂件
checkpoint⽂件(这个⽂件很重要,记录了) 还有⼏个⽂件,它们的后缀分别是 .data , .index , .meta 。我们似乎可以不搭理这三个⽂件
先⼩结⼀下
如果定义了⼦图,或者说⾃⼰定义graph⽽不使⽤tensorflow的默认计算图的时候,定义要在定义graph
最后进⾏定义,想保存哪个⼦图的变量,就要在哪个⼦图定义相关的Saver,这样才能实现想要的效果。
Tensorflow的图graph和会话session还是有点抽象的,⼀不⼩⼼就整乱了。
Notes: 假设没有使⽤with graph.as_graph():这种结构,直接在脚本上定义了tensorflow的变量,再使⽤saver()应该是没有问题的。
读取和使⽤保存好的模型参数
那存好了之后,该怎么调⽤了
假设我需要在另⼀个新的脚本,例如 :test.py⽂件上使⽤我的代码做测试,要怎么使⽤保存好的模型参数呢
有两种⽅式:
先把之前训练,构建计算图已经你定义⽹络参数的那些代码粘贴到test.py⽂件下
graph = tf.Graph()
with graph.as_default():
# 定义计算图
...
# ---
saver = tf.train.Saver()
特别注意,运⾏到上⼀步的时候
然后再使⽤如下代码
with tf.Session(graph=graph) as sess:
check_point_path = 'saved_model/'# 保存好模型的⽂件路径
ckpt = _checkpoint_state(checkpoint_dir=check_point_path)
# 从模型中恢复参数 store(del_checkpoint_path) # 讀取成功,然后就可以使⽤模型参数进⾏预测,或者测试了。
如果你觉得上⾯那个⽅式有点繁琐,可以直接import train.py
假设train.py这个脚本的代码是这样的:
# ---
saver = tf.train.Saver()
那么你在你的test.py中可以这样写
import train
# 参考python的命名空间⽅法
graph = aph
sess = train.sess
with tf.Session(graph=graph) as sess:
check_point_path = 'saved_model/'# 保存好模型的⽂件路径
ckpt = _checkpoint_state(checkpoint_dir=check_point_path)
# 从模型中恢复参数 store(del_checkpoint_path)
Notes: 在使⽤store(del_checkpoint_path) 后,这个时候,就不需要再次使⽤sess.run(init) 对参数进⾏初始化了(否则会覆盖掉训练好的参数),如果你在前⾯使⽤run,进⾏初始化,权重会根据你的定义进⾏初始化,但是你使⽤这个语句后,模型中的参数会把它覆盖掉
最后再说⼀下
好像⾼级的使⽤⽅法,可以根据选择不同迭代次数更新时候的权重,这⾥只做简单总结⼀下,以后学习到了再更新吧
版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198,我们将在24小时内删除。
发表评论