[发明专利]在神经网络中动态地规范化数据的方法和装置在审

专利信息
申请号: 202080104620.3 申请日: 2020-08-26
公开(公告)号: CN116235184A 公开(公告)日: 2023-06-06
发明(设计)人: 蔡东琪;陈玉荣;姚安邦 申请(专利权)人: 英特尔公司
主分类号: G06N3/0464 分类号: G06N3/0464;G06N3/08;G06N20/00;G06N3/063
代理公司: 北京东方亿思知识产权代理有限责任公司 11258 代理人: 姜飞
地址: 美国加利*** 国省代码: 暂无信息
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 神经网络 动态 规范化 数据 方法 装置
【说明书】:

公开了在神经网络中动态地规范化数据的方法、装置、系统和制品。一种与机器学习模型一起使用的装置包括至少一个规范化计算器,用于生成与机器学习模型的输入数据相关联的多个替代规范化输出。多个替代规范化输出中的不同替代规范化输出是基于不同规范化技术的。该装置还包括软加权引擎,用于基于输入数据生成多个软权重。该装置还包括规范化输出生成器,用于基于多个替代规范化输出和多个软权重生成最终规范化输出。

技术领域

本公开总体上涉及神经网络,并且更具体地涉及在神经网络中动态地规范化数据的方法和装置。

背景技术

神经网络和其他类型的机器学习模型是有用的工具,已经证明了它们解决关于模式识别、自然语言处理、自动语音识别等复杂问题的价值。神经网络使用被排列为一个或多个层(这些层对从输入层到输出层的数据进行处理)的人工神经元来进行操作,从而在对数据的处理期间将加权值应用于这些数据。这样的加权值通常是在训练过程中被确定的。

附图说明

图1是示例卷积神经网络(CNN)的示例卷积层的图。

图2是用于图1的规范化操作的示例动态软规范化(DSN)过程流。

图3示出了用于实现图2的软权重生成过程的示例软加权过程流。

图4是根据本文公开的教导的示例计算系统的框图,该示例计算系统可以被用来训练和/或执行机器学习模型(例如,神经网络)设计。

图5是示出图4的示例DNS引擎的示例实现方式的框图。

图6是表示可以被执行以实现图4的示例计算系统的机器可读指令的流程图。

图7是表示可以被执行以实现图4和图5的示例DSN引擎的机器可读指令的流程图。

图8是示例处理平台的框图,该示例处理平台被构造为执行图3的指令以实现图4的计算系统以及图4和图5的相关联的DSN引擎。

附图未按比例绘制。通常,在全部(一个或多个)附图和随附的书面描述中使用相同的附图标记来指代相同或相似的部件。

除非另有具体声明,否则本文使用诸如“第一”、“第二”、“第三”等等之类的描述语,而不输入或以其他方式指示出任何优先级、物理顺序、在列表中的排列和/或以任何方式排序的含义,而只是用作标签和/或任意名称来区分元素,以便易于理解所公开的示例。在一些示例中,描述语“第一”在具体实施方式中可用于提及某一元素,而同一元素在权利要求中可以用不同的描述语来提及,例如“第二”或“第三”。在这种情况下,应当理解,这种描述语仅仅用于区分性地标识那些元素,这些元素例如可能在其他情况下共享同一名称。

具体实施方式

人工智能(AI)包括机器学习(ML)、深度学习(DL)和/或其他人工机器驱动逻辑,其使机器(例如计算机、逻辑电路等)能够使用模型来对输入数据进行处理,以基于模型先前通过训练过程学习到的模式和/或关联来生成输出。例如,模型可以被使用数据来训练以识别模式和/或关联,并在对输入数据进行处理时遵循这些模式和/或关联,以使得(一个或多个)其他输入得到与所识别的模式和/或关联一致的(一个或多个)输出。

存在许多不同类型的机器学习模型和/或机器学习架构。一种特定类型的机器学习模型是神经网络。一般而言,适用于本文公开的示例方法的机器学习模型/架构将是任何类型的神经网络(例如,递归神经网络(RNN)、卷积神经网络(CNN)、深度神经网络(DNN)等),该神经网络涉及在网络中的一个或多个层处被分析的数据的规范化。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于英特尔公司,未经英特尔公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202080104620.3/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top