(19)中华人民共和国国家知识产权局
(12)发明专利说明书
(10)申请公布号 CN 110942139 A
(43)申请公布日 2020.03.31
(21)申请号 CN201911157413.X
(22)申请日 2019.11.22
(71)申请人 深圳市魔数智擎人工智能有限公司
    地址 518000 广东省深圳市前海深港合作区前湾一路1号A栋201室(入驻深圳市前海商务秘书有限公司)
(72)发明人 柴磊 许靖 林杰颖
(74)专利代理机构 深圳市神州联合知识产权代理事务所(普通合伙)
    代理人 周松强
(51)Int.CI
     
                                                                  权利要求说明书 说明书 幅图
(54)发明名称
      深度学习神经网络部署系统及其方法
(57)摘要
      本发明是一种深度学习神经网络部署系统其特征在于，该系统包括框架获取模块、框架识别模块、框架解析模块、保存模块、模型生成模块和服务器；通过框架获取模块实现对待部署的模型的框架的获取，获取方式包括模型源代码或者模型文件，模型文件包括模型网络结构、模型参数、模型超参数、节点与节点间的关联信息等的静态文件。框架识别模块用于判断该框架所属的类别。框架解析模块实现对识别后的框架的解析，获取该框架的模型信息。保存模块实现将解析后的模型信息进行保存，建立通用数据结构，将模型信息以键值对的形式进行存储。将通用数据结构中保存的信息一一对应到该新框架中，生成新的框架模型，对模型文件解析后生成无依赖的计算流图。
法律状态
法律状态公告日
法律状态信息
法律状态
权 利 要 求 说 明 书
1.一种深度学习神经网络部署系统,其特征在于,该系统包括
框架获取模块:用于获取待部署的模型的框架;
框架识别模块:用于对获取到的模型的框架进行识别,识别出该框架的所属类别;
框架解析模块:用于对识别后的框架进行解析,获取该框架的模型信息;
保存模块:用于将框架解析模块解析后的数据以键值对的形式进行保存;
模型生成模块:用于确定新生成的框架的类型,将保存模块保存的数据映射到新框架中,实现不同框架间的数据移植;
服务器:用于实现对框架获取模块、框架识别模块、框架解析模块、保存模块和模型生成模块的数据处理和功能支持。
2.如权利要求1所述的一种深度学习神经网络部署系统,其特征在于,所述框架包括采用tensorflow、keras、pytorch或caffe建立的深度学习框架。
3.如权利要求1所述的一种深度学习神经网络部署系统,其特征在于,所述框架解析模块的解析框架的方法包括自定义规则抽取和框架内置方法抽取,所述自定义规则抽取包括正则匹配抽取。
4.如权利要求1所述的一种深度学习神经网络部署系统,其特征在于,所述模型信息包括神经元与神经元间的连接关系、模型网络结构、模型参数、模型超参数。
5.一种深度学习神经网络部署方法,其特征在于,该方法的具体步骤如下:
S1:通过框架获取模块获取待部署的模型的框架;
S2:通过框架识别模块对获取到的模型的框架进行识别,识别出该框架的所属类别;
S3:通过框架解析模块对识别后的框架进行解析,获取该框架的模型信息;
S4:通过保存模块将框架解析模块解析后的数据以键值对的形式进行保存;
S5:通过模型生成模块确定新生成的框架的类型,将保存模块保存的数据映射到新框架中,实现不同框架间的数据移植。
6.如权利要求5所述的一种深度学习神经网络部署系统,其特征在于,所述步骤S3中的框架解析模块将模型信息以键值对的形式进行解析。
7.如权利要求5所述的一种深度学习神经网络部署系统,其特征在于,所述步骤S4中的保存模块通过建立通用数据结构实现对解析后的模型信息的存储,实现将框架的模型信息部署到该通用数据结构上,所述通用数据结构采用键值对的形式对模型数据进行对应保存。
8.如权利要求7所述的一种深度学习神经网络部署系统,其特征在于,所述步骤S5中的模型生成模块将通用数据结构中保存的数据映射到新框架中,实现不同框架间数据的移植。
9.如权利要求5所述的一种深度学习神经网络部署系统,其特征在于,所述步骤S5中的模型生成模块将保存模块保存的框架的模型信息直接映射到新框架中,生成新的模型。
10.如权利要求5所述的一种深度学习神经网络部署系统,其特征在于,所述步骤S3中的框架解析模块通过对框架识别模块识别后的模型文件的解析生成无依赖的计算流图,所述无依赖的计算流图是不依赖于原本的深度学习框架就可以运行的计算流图。
说  明  书
<p>技术领域
本发明属于网络系统技术领域,特别涉及深度学习神经网络部署系统及其方法。
正则匹配加减乘除背景技术
机器学习作为一门多领域交叉学科,是人工智能的核心研究领域。而深度学习是机器学习的关键性技术,其越来越受到各国研究人员的关注和重视。
机器学习和深度学习领域有很多的开发框架,例如Tensorflow、Caffe、Theano。现如今多种主流机器学习框架均可以高效迅速的构建机器学习学习网络,但是不同框架编写的机器学习算法,在其他框架上并不能实现预期功能,传统的深度学习框架部署一般局限于单个框架或者特殊相关联的框架,只能进行非常局限的平台部署;
同时,用户所训练并建立的模型高度依赖于原有深度框架,无法脱离框架进行计算。同时,部署不同框架也需要在不同框架间来回转换。
框架跨平台移植性不足,导致深度模型局限在现有的框架中,降低了协作的效率,极大限制了平台的扩展性。与此同时,模型的转换都局限在官方给定的方法,无法有效而迅速的移植方式,导致了资源的浪费,另外,由于模型高度依赖原有的计算平台,而各个平台的计算模式有所不同,这将降低计算的效率并增加模型部署的难度。
发明内容
为解决上述问题,本发明的目的在于提供一种不依赖于特定框架、能够将不同框架的数据进行移植处理、实现不同框架的统一部署和计算的深度学习神经网络部署系统。

版权声明：本站内容均来自互联网，仅供演示用，请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198，我们将在24小时内删除。