[发明专利]在神经网络中动态地规范化数据的方法和装置在审
申请号: | 202080104620.3 | 申请日: | 2020-08-26 |
公开(公告)号: | CN116235184A | 公开(公告)日: | 2023-06-06 |
发明(设计)人: | 蔡东琪;陈玉荣;姚安邦 | 申请(专利权)人: | 英特尔公司 |
主分类号: | G06N3/0464 | 分类号: | G06N3/0464;G06N3/08;G06N20/00;G06N3/063 |
代理公司: | 北京东方亿思知识产权代理有限责任公司 11258 | 代理人: | 姜飞 |
地址: | 美国加利*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 神经网络 动态 规范化 数据 方法 装置 | ||
公开了在神经网络中动态地规范化数据的方法、装置、系统和制品。一种与机器学习模型一起使用的装置包括至少一个规范化计算器,用于生成与机器学习模型的输入数据相关联的多个替代规范化输出。多个替代规范化输出中的不同替代规范化输出是基于不同规范化技术的。该装置还包括软加权引擎,用于基于输入数据生成多个软权重。该装置还包括规范化输出生成器,用于基于多个替代规范化输出和多个软权重生成最终规范化输出。
技术领域
本公开总体上涉及神经网络,并且更具体地涉及在神经网络中动态地规范化数据的方法和装置。
背景技术
神经网络和其他类型的机器学习模型是有用的工具,已经证明了它们解决关于模式识别、自然语言处理、自动语音识别等复杂问题的价值。神经网络使用被排列为一个或多个层(这些层对从输入层到输出层的数据进行处理)的人工神经元来进行操作,从而在对数据的处理期间将加权值应用于这些数据。这样的加权值通常是在训练过程中被确定的。
附图说明
图1是示例卷积神经网络(CNN)的示例卷积层的图。
图2是用于图1的规范化操作的示例动态软规范化(DSN)过程流。
图3示出了用于实现图2的软权重生成过程的示例软加权过程流。
图4是根据本文公开的教导的示例计算系统的框图,该示例计算系统可以被用来训练和/或执行机器学习模型(例如,神经网络)设计。
图5是示出图4的示例DNS引擎的示例实现方式的框图。
图6是表示可以被执行以实现图4的示例计算系统的机器可读指令的流程图。
图7是表示可以被执行以实现图4和图5的示例DSN引擎的机器可读指令的流程图。
图8是示例处理平台的框图,该示例处理平台被构造为执行图3的指令以实现图4的计算系统以及图4和图5的相关联的DSN引擎。
附图未按比例绘制。通常,在全部(一个或多个)附图和随附的书面描述中使用相同的附图标记来指代相同或相似的部件。
除非另有具体声明,否则本文使用诸如“第一”、“第二”、“第三”等等之类的描述语,而不输入或以其他方式指示出任何优先级、物理顺序、在列表中的排列和/或以任何方式排序的含义,而只是用作标签和/或任意名称来区分元素,以便易于理解所公开的示例。在一些示例中,描述语“第一”在具体实施方式中可用于提及某一元素,而同一元素在权利要求中可以用不同的描述语来提及,例如“第二”或“第三”。在这种情况下,应当理解,这种描述语仅仅用于区分性地标识那些元素,这些元素例如可能在其他情况下共享同一名称。
具体实施方式
人工智能(AI)包括机器学习(ML)、深度学习(DL)和/或其他人工机器驱动逻辑,其使机器(例如计算机、逻辑电路等)能够使用模型来对输入数据进行处理,以基于模型先前通过训练过程学习到的模式和/或关联来生成输出。例如,模型可以被使用数据来训练以识别模式和/或关联,并在对输入数据进行处理时遵循这些模式和/或关联,以使得(一个或多个)其他输入得到与所识别的模式和/或关联一致的(一个或多个)输出。
存在许多不同类型的机器学习模型和/或机器学习架构。一种特定类型的机器学习模型是神经网络。一般而言,适用于本文公开的示例方法的机器学习模型/架构将是任何类型的神经网络(例如,递归神经网络(RNN)、卷积神经网络(CNN)、深度神经网络(DNN)等),该神经网络涉及在网络中的一个或多个层处被分析的数据的规范化。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于英特尔公司,未经英特尔公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202080104620.3/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种市政管道设备的吊装结构
- 下一篇:用于随机接入的方法及设备
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置