专利名称:使用连续正则化训练联合多任务神经网络模型专利类型:发明专利
发明人:桥本和真,熊蔡明,R·佐赫尔
申请号:CN201780068346.7
申请日:20171103
公开号:CN109923557A
公开日:
20190621
专利内容由知识产权出版社提供
摘要:所公开的技术提供了所谓的“联合多任务神经网络模型”,以在单个端到端模型中使用不断增长的层深度来解决各种日益复杂的自然语言处理(NLP)任务。通过考虑语言层级,将词表示直接连接到所有模型层,明确地使用较低任务中的预测,并应用所谓的“连续正则化”技术来防止灾难性遗忘,来连续训练该模型。较低级模型层的三个示例是词性(POS)标注层、语块划分层和依赖性解析层。较高级模型层的两个示例是语义相关性层和文本蕴涵层。该模型实现了关于语块划分、依赖性解析、语义相关性和文本蕴涵的最先进的结果。
申请人:易享信息技术有限公司
神经网络中正则化是为了干什么
地址:美国加利福尼亚州
国籍:US
代理机构:北京市磐华律师事务所
更多信息请下载全文后查看

版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198,我们将在24小时内删除。