[发明专利]一种基于脉冲神经网络的自学习、小样本学习和迁移学习的方法与系统有效

专利信息
申请号: 202011246987.7 申请日: 2020-11-10
公开(公告)号: CN112288078B 公开(公告)日: 2023-05-26
发明(设计)人: 杨旭;雷云霖;蔡建;林侠侣;宦紫仪;王淼 申请(专利权)人: 北京理工大学
主分类号: G06N3/049 分类号: G06N3/049;G06N3/096;G06N3/0442
代理公司: 西安智大知识产权代理事务所 61215 代理人: 段俊涛
地址: 100081 *** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要: 一种基于脉冲神经网络的自学习、小样本学习和迁移学习的方法,构建记忆网络、认知网络和知识归纳与迁移网络三个模块,通过模块之间协同合作实现自学习、小样本学习和迁移学习。小样本输入数据经过认知网络模块处理之后由记忆网络模块实现记忆生成,随后知识归纳与迁移网络模块发起记忆提取请求,记忆网络模块收到记忆提取请求后,提取记忆、重组并回放到认知网络模块;认知网络模块完成自学习过程,并通过不断持续该过程最终实现小样本学习,知识归纳与迁移网络模块不断更新当前任务所需知识,实现迁移学习。本发明实现了自学习、小样本学习和迁移学习,突破了神经网络学习需要大量标注样本、鲁棒性和适应性差、可解释性不足、能效比低等局限。
搜索关键词: 一种 基于 脉冲 神经网络 自学习 样本 学习 迁移 方法 系统
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京理工大学,未经北京理工大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/patent/202011246987.7/,转载请声明来源钻瓜专利网。

同类专利
  • 一种基于膜电位自增机制的脉冲神经网络训练方法-202111065696.2
  • 梁东晨;曹江;平洋;吴冠霖;栾绍童;闫妍;马宁 - 中国人民解放军军事科学院战争研究院
  • 2021-09-10 - 2023-10-20 - G06N3/049
  • 本发明公开的一种基于膜电位自增机制的脉冲神经网络训练方法,涉及一种脉冲神经网络训练方法,特别涉及一种基于膜电位自增机制的时间编码训练方法,属于人工智能领域。本发明针对脉冲神经网络训练时受到信号稀疏性的影响,只有少数神经元被激活,网络输出层的误差无法有效传播到网络的各个隐层,不能参与参数更新的问题,在采用时间编码方法对脉冲神经网络进行训练时,为脉冲神经元细胞膜电位动力学模型加入一个随时间变化的自增项。这个自增项使得全部脉冲神经元都可以在有限的时间内被激活,从而使反向传播过程能够为全部神经元更新参数,提升脉冲神经网络的训练效果。本方法可用于人工智能、神经形态工程、机器人等领域,实现高精度控制。
  • 一种基于脉冲神经网络的数据增强方法及装置-202210294996.6
  • 郑胜杰;李文艺;李骁健 - 中国科学院深圳先进技术研究院
  • 2022-03-24 - 2023-10-10 - G06N3/049
  • 本发明涉及一种基于脉冲神经网络的数据增强方法及装置,本申请方法用于植入式脑机接口数据,可在有限神经信息数据的情况下,提取信息分布特征;基于脉冲神经网络的生物属性,适合学习神经信息的分布特征,从而产生符合信息分布特征的神经信号,以此作为脑信息数据增强;本发明考虑了生物神经元的集群活动特征,以此作为数据增强的基础,脉冲神经网络具有生物性质,适合直接产生神经信息,从而增强脑机接口信息,对于脑机接口的研究与应用具有重要意义。
  • 一种基于事件数据和脉冲神经网络的目标跟踪方法-202310725451.0
  • 马德;周烨;李一涛;胡有能 - 浙江大学
  • 2023-06-19 - 2023-09-29 - G06N3/049
  • 本发明公开了一种基于事件数据和脉冲神经网络的目标跟踪方法,包括以下步骤:获取事件数据,并对事件数据进行事件帧的时间维度压缩处理,得到样本数据;将SiamFC网络进行结构调整转为脉冲神经网络,利用样本数据对SiamFC网络进行预训练后,将得到的权重和偏置迁移到脉冲神经网络来优化脉冲神经网络;获取实时事件数据并进行时间步长的调整处理得到搜索数据,利用优化的脉冲神经网络对搜索数据和模板数据进行推理和综合相似度估计,以得到实时目标跟踪结果。该目标跟踪方法通过与训练的SiamFC优化脉冲神网络,并基于FPGA加速脉冲神经网络,在低功耗下提高脉冲神经网络的目标跟踪的实时性和精度。
  • 一种低延迟局部二值脉冲神经网络及其训练方法-202310794000.2
  • 徐长卿;裴乙鉴;刘毅;杨银堂 - 西安电子科技大学
  • 2023-06-30 - 2023-09-22 - G06N3/049
  • 本发明涉及二值脉冲神经网络及其训练方法,具体涉及一种具有精度损失估计器的低延迟局部二值脉冲神经网络及其训练方法,用于解决现有二值脉冲神经网络根据实验经验将第一层和最后一层的权重进行二值化操作时无法在精度和空间量化之间取得平衡,并且脉冲神经网络通常需要足够的时间步长来模拟神经动力学和编码信息,且需要很长时间才能收敛,进而导致计算成本增大的不足之处。该低延迟局部二值脉冲神经网络包括输入层、N个端到端的脉冲卷积块、全局平均池化块、输出层;同时,本发明公开一种上述低延迟局部二值脉冲神经网络的训练方法。
  • 一种基于慢波睡眠的模型优化方法、装置、介质及设备-202310738684.4
  • 魏依娜;谢斯蔚;唐弢;冯琳清 - 之江实验室
  • 2023-06-20 - 2023-09-12 - G06N3/049
  • 本说明书公开了一种基于慢波睡眠的模型优化方法、装置、介质及设备。所述方法包括:获取待优化模型的模型数据,将待优化模型转换为脉冲神经网络模型;对脉冲神经网络模型进行慢波睡眠模拟,该慢波周期划分为上升阶段和下降阶段,其中,脉冲神经网络模型中的各神经元节点在各慢波周期的上升阶段以第一频率发放脉冲,在各慢波周期的下降阶段以第二频率发放脉冲,其中,第二频率小于第一频率;根据脉冲神经网络模型中各神经元节点对应的脉冲发放顺序,更新各神经元节点之间的连接权重,得到更新后权重;根据更新后权重,将所述脉冲神经网络模型转换为人工神经网络模型,得到优化后模型。
  • 一种基于数字孪生和容器技术的卫星轨道误差预测方法-202310128377.4
  • 王永丰;徐鑫辰;宋欢欢;赵英伟 - 电子科技大学
  • 2023-02-17 - 2023-09-12 - G06N3/049
  • 本发明公开了一种基于数字孪生和容器技术的卫星轨道误差预测方法,包括以下步骤:S1.构建数字孪生的卫星轨道误差预测系统;S2.构建用于卫星轨道精确预测的容器模块进行卫星轨道误差预测:在控制中心构建的数字孪生系统上构建一个或多个容器模块,并在构建的容器模块上完成初始轨道预测值收集,并基于时间卷积网络进行卫星轨道误差预测。本发明在控制中心的卫星轨道预测中引入数字孪生系统和容器模块,使得离线训练机器学习模型成为可能,解决了控制中心下的计算负担、模型更新困难的问题,并将轨道预测误差而不是所有可用的卫星轨道数据作为学习变量,这将减少输入变量的维数,并在一定程度上避免模型训练期间的过度拟合,提高预测精度。
  • 一种脉冲神经网络神经元时序分级激活方法-202310770551.5
  • 梁秀波;朱哲良 - 浙江大学
  • 2023-06-27 - 2023-09-08 - G06N3/049
  • 本发明提出一种脉冲神经网络神经元时序分级激活方法。本发明利用特定于时间的可学习权重来重新调整突触前输入,以达到使时间信息归一化更加平滑和符合时间分布的效果。同时,本发明通过分配每一层近似导数的覆盖范围来扩大近似导数的非零区域,从而减少休眠单元,使深度SNN中的梯度传播更有效,以减少休眠神经元生成的概率,达到提高其表达能力。本发明的融合方法有效提升了脉冲神经网络在图像分类任务上的精度。
  • 类神经电路以及运作方法-201980008012.X
  • 林仲汉;邱青松 - 北京时代全芯存储技术股份有限公司
  • 2019-11-15 - 2023-09-01 - G06N3/049
  • 类神经电路包含突触电路及后神经元电路。突触电路包含相变化元件且接收第一脉冲信号及第二脉冲信号。后神经元电路包含输入端、输出端及积电端。积电端依据第一脉冲信号充电至一膜电位。后神经元电路还包含第一控制电路、第二控制电路、第一延迟电路及第二延迟电路。第一控制电路依据膜电位于输出端产生激发信号。第二控制电路耦接输出端且依据激发信号产生第一控制信号。第一延迟电路延迟激发信号以产生第二控制信号。第二延迟电路延迟第二控制信号以产生第三控制信号。第一控制信号与第三控制信号控制积电端的电压位准,及维持积电端在固定电压的期间。第二控制信号协同第二脉冲信号以控制相变化元件的状态,进而决定类神经电路的权重。
  • 脑仿生片上学习脉冲神经网络及边缘端神经形态处理器-202310638717.8
  • 石匆;田敏;何俊贤;王腾霄;王海冰;喻剑依;高灏然;张靖雅;陈乐毅;陈思豪;庹云鹏 - 重庆大学
  • 2023-05-31 - 2023-08-29 - G06N3/049
  • 本发明公开了一种脑仿生片上学习脉冲神经网络及边缘端神经形态处理器,包括编码层、特征提取层和决策层;所述编码层用于对输入图像进行脉冲编码;若输入为动态视觉传感器产生的数据,则直接送到特征提取层,编码层不工作;如果输入为静态图像,则将静态图像像素值编码为脉冲序列后再输入给特征提取层;所述特征提取层通过对编码层输出的脉冲进行提取和选择特征,所述特征提取层支持的特征提取方法包括脉冲极限学习机、时空压缩感知、液体状态机、局部/部分连接;所述决策层用于接收来自特征提取层的脉冲,并对决策层的权重进行片上学习训练。本发明能够灵活配置执行不同的片上学习算法,减小资源消耗,降低芯片的功耗。
  • 类神经电路以及运作方法-201980008013.4
  • 林仲汉;邱青松 - 北京时代全芯存储技术股份有限公司
  • 2019-11-15 - 2023-08-29 - G06N3/049
  • 一种类神经电路包含突触电路以及后神经元电路。突触电路包含相变化元件、具有至少三个端点的第一开关以及第二开关。相变化元件包含第一端以及第二端。第一开关包含第一端、二端以及控制端。第二开关包含第一端、第二端以及控制端。第一开关用以接收第一脉冲信号。第二开关耦接相变化元件以及第一开关。第二开关用以接收第二脉冲信号。后神经元电路包含电容以及输入端。后神经元电路的输入端响应于第一脉冲信号而对电容充电。后神经元电路依据电容的电压位准与电压门槛值产生激发信号。后神经元电路依据激发信号产生控制信号。控制信号控制第二开关导通,第二脉冲信号流经第二开关,以控制相变化元件的状态,进而决定类神经电路的权重。
  • 一种融合课程学习策略的脉冲神经网络优化方法-202310696537.5
  • 储节磊;唐玲玲 - 西南交通大学
  • 2023-06-13 - 2023-08-22 - G06N3/049
  • 本发明公开了一种融合课程学习策略的脉冲神经网络优化方法,包括基于训练集中的训练样本对初始化后的脉冲神经网络进行训练,获得预测结果;将预测结果与训练集中的样本标签对比,并计算得到置信度损失;将置信度损失最小为目标函数,逐层向前求导,更新脉冲神经网络中每一层各神经元的参数;不断更新优化脉冲神经网络的参数,直到迭代完成设定好的轮次。本发明在脉冲神经网络中引入课程学习,在训练过程中动态的评价样本的难度,扩大对模型当前状态来说较简单的样本在反向传播中的贡献,对当前较难的样本,则减少对参数更新的影响。此脉冲神经网络优化策略具有高生物合理性,有效的实现了在脉冲神经网络中模拟人类学习新知识的过程。
  • 编程电路、集成电路及编程方法-202310156478.2
  • 刘仁杰;柯文昇;吴瑞仁;张孟凡 - 台湾积体电路制造股份有限公司
  • 2023-02-23 - 2023-08-18 - G06N3/049
  • 一种编程电路包括时间差转换电路及脉冲产生器电路。所述时间差转换电路被配置成从第一神经元器件接收第一脉冲且从第二神经元器件接收第二脉冲,且被配置成输出与第一脉冲和第二脉冲之间的时间差对应的时间差信号。所述脉冲产生器电路包括:输入,耦合到时间差转换电路的输出以接收时间差信号;以及输出,所述脉冲产生器电路被配置成在输出处输出与时间差信号对应的编程电压。所述脉冲产生器电路的输出被配置成耦合到耦合在第一神经元器件与第二神经元器件之间的突触装置以利用编程电压对突触装置中的权重值进行编程。
  • 一种基于脉冲神经网络的物体运动趋势感知方法和系统-202310235879.7
  • 曹健;闫俊彤;王源;冯硕 - 北京大学
  • 2023-03-13 - 2023-08-18 - G06N3/049
  • 本发明涉及一种基于脉冲神经网络的物体运动趋势感知方法及系统,包括获取物体当前所在区域索引;将所述区域索引经过二进制编码生成脉冲信息;FPGA将所述脉冲信息转化为帧信息通过PCIe接口发送至PAICORE2.0;所述PAICORE2.0解析所述帧信息并进行推理,生成下一时刻所述物体的位置信息,其中所述PAICORE2.0是部署有脉冲神经网络模型的类脑芯片,用于实现脉冲神经网络功能。解决传统算法计算时间冗长、硬件系统功耗大、对信息时空关联性利用率低的问题。
  • 用于智能辅助驾驶的类脑情境学习模型构建与训练方法-202211372963.5
  • 杨双鸣;周羿霏;唐馨怡;于改英;杨嘉禾;邹凯雯 - 天津大学
  • 2022-10-31 - 2023-08-18 - G06N3/049
  • 本发明公开了一种用于智能辅助驾驶的类脑情景学习模型构建与训练方法,涉及智能辅助驾驶技术领域。该构建方法包括:采用LIF神经元模型构建脉冲神经网络的神经元;采用状态函数方程设置所述神经元在不同状态下的膜电压;采用基于赫布法则的STDP学习规则,在所述脉冲神经网络中引入突触模型;根据控制器单元、突触横梁和所述突触模型,构建基于脉冲神经网络的类脑情景学习模型。本发明通过强化学习机制在情境学习的任务中学习刺激‑反应之间的奖励关联,不仅能够节省成本,而且可以显著降低功耗。
  • 一种高能效脉冲序列级脉冲神经网络及其训练方法-202310794100.5
  • 徐长卿;刘毅;杨银堂 - 西安电子科技大学
  • 2023-06-30 - 2023-08-11 - G06N3/049
  • 本发明涉及脉冲神经网络及其训练方法,具体涉及一种高能效脉冲序列级脉冲神经网络及其训练方法,用于解决尽管采用替代梯度(SG)使不可微SNN具有可训练性,但无法实现脉冲神经网络的高精度、低延迟和高能效的不足之处。该高能效脉冲序列级脉冲神经网络及其训练方法,包括输出输入依次连接的卷积块、M个端到端脉冲残差块、全局平均池化层以及至少一个全连接层;本发明在脉冲残差块中应用空时转换块(STCB)来代替卷积层和ReLU层,以保持SNN的低功耗特征并提高准确性。
  • 一种增强脉冲神经网络表达能力的方法-202310516505.2
  • 顾实;邓师旷;李巍 - 电子科技大学
  • 2023-05-09 - 2023-08-11 - G06N3/049
  • 本发明公开了一种增强脉冲神经网络表达能力的方法,其是在脉冲神经网络中添加若干全局时域反向连接,用于在时域上拓展脉冲神经网络的拓扑结构;同时采用基于分数选择初始化的搜索框架,用于寻找脉冲神经网络空间中的最优全局时域反向连接。本发明通过对标准的脉冲神经网络添加若干全局时域反向连接,就能对模型在分类任务上的精度有很大的提升,提升了模型的表达能力;并且本发明通过设计基于分数选择初始化的搜索框架,还降低了搜索算法的时间开销。因此,本发明从全局角度上很好地提升了脉冲神经网络的性能。
  • 一种提升脉冲神经网络训练效果的方法-202310514855.5
  • 顾实;邓师旷 - 电子科技大学
  • 2023-05-09 - 2023-08-11 - G06N3/049
  • 本发明公开了一种提升脉冲神经网络训练效果的方法,包括:(1)建立SNN网络;(2)将SNN网络结构依次平均分解为多个模块,除最后一个模块外,其余每个模块均添加一个代理模块,构建混合网络,并且代理模块的输入与SNN模块的输出频率相同;(3)初始化网络参数;(4)获取一个批量的训练集图像与目标;(5)将图像输入到SNN网络中,获取SNN模块与各个代理模块的输出;(6)优化目标损失;(7)获取梯度,采用优化器进行训练;(8)重复步骤(4)~(7)直到完成训练;(9)删除所有代理模块,还原出SNN网络。本发明有效缓解了原本直接训练存在的梯度误差累积问题,提高了SNN的准确率,使之接近ANN的性能。
  • 深层脉冲神经网络模型及深层SNN片上实时学习处理器-202310616007.5
  • 石匆;张靖雅;田敏;王腾霄;何俊贤;喻剑依;高灏然;王海冰;陈乐毅;陈思豪;庹云鹏 - 重庆大学
  • 2023-05-29 - 2023-08-08 - G06N3/049
  • 本发明公开了一种深层脉冲神经网络模型及深层SNN片上实时学习处理器,包括输入层、L−1个隐藏层和输出层,每一层均通过突触权重与前一层完全连接;突触权重的训练方法为通过固定的随机反馈矩阵将输出层误差向量直接投影到各隐藏层;在处理训练样本的脉冲序列期间,每当输出层的IF神经元j在时间步t发射脉冲但其标签与训练样本标签不匹配时,负误差立即触发各层神经元的突触权重更新;在处理完训练样本的所有脉冲后,每个从未发射但其标签与输入样本标签匹配的输出层的IF神经元都会有一个正误差,触发各层神经元的突触权重更新;硬件基于事件驱动,采用异构双核的并行阵列和流水线电路设计。本发明具有较高的识别精度,实现快速片上学习。
  • 脉冲神经网络推理方法及系统-202310288672.6
  • 曹健;凌峰;王源;马清川;钟毅 - 北京大学
  • 2023-03-23 - 2023-08-01 - G06N3/049
  • 本发明公开一种脉冲神经网络推理方法及系统,其中脉冲神经网络推理方法,包括:获取推理任务对应的待处理对象;根据中间表示将所述待处理对象转换为类脑芯片支持的输入帧;根据被部署的中间表示的脉冲神经网络模型对输入帧执行推理运算,所述中间表示为预先集成封装在所述脉冲神经网络推理系统中,用于采用字符串定义脉冲神经网络的层功能信息,所述脉冲神经网络模型由已训练的人工神经网络模型转换得到;对推理运算后的输出帧进行解析转换为任务处理结果。本发明使得用户无需了解类脑芯片底层架构的情况下,也可以便捷地使用类脑芯片。
  • 模型训练方法、视觉感知方法、电子设备和存储介质-202310486675.0
  • 王传庆;杨杰;默罕默德·萨万 - 西湖大学
  • 2023-04-28 - 2023-07-28 - G06N3/049
  • 本申请实施例涉及深度学习技术领域,公开了一种模型训练方法、视觉感知方法、电子设备和存储介质,该模型训练方法适用于视网膜假体中的脉冲循环模型,该模型训练方法包括:基于预设的神经节细胞响应数据集,确定各神经节细胞各自对应的标签;获取若干个脉冲信号作为训练样本;将脉冲信号输入至脉冲循环模型,获取脉冲循环模型输出的各神经节细胞的脉冲响应,并根据各神经节细胞的脉冲响应、对应的各标签、以及预设的泊松损失函数,计算损失值;根据损失值和预设的时间反向传播函数,更新脉冲循环模型中各层的权重,直至更新后的脉冲循环模型收敛,从而科学、快速地训练出用于预测视网膜神经节细胞响应的脉冲循环模型。
  • 脉冲神经网络加速器学习方法、装置、终端及存储介质-202211221881.0
  • 田永鸿;权璞丽;李国齐;崔小欣;周晖晖;高文 - 鹏城实验室
  • 2022-10-08 - 2023-07-25 - G06N3/049
  • 本发明公开了一种脉冲神经网络加速器学习方法、装置、终端及存储介质,包括:获取前向运算所需数据,并根据前向运算数据在前向运算引擎中进行第一卷积运算和自组织迁移运算,得到前向运算结果;根据前向运算结果在后向运算引擎中进行第二卷积运算和梯度运算,得到后向运算结果;根据后向运算结果进行梯度更新运算,并根据梯度更新运算的结果更新脉冲神经网络加速器的梯度参数。本发明可以高效处理基于BPTT的脉冲神经网络学习,从而确保了SNN的精度,端到端的解决了SNN学习问题。
  • 一种脉冲神经网络的控制方法、装置、设备及存储介质-202310467454.9
  • 蒋东东;王斌强;董刚 - 苏州浪潮智能科技有限公司
  • 2023-04-27 - 2023-07-21 - G06N3/049
  • 本发明公开了一种脉冲神经网络的控制方法、装置、设备及存储介质,属于深度学习领域,用于对脉冲神经网络进行控制。考虑到对于特征数据中每比特数据的数值为1或0的脉冲神经网络来说,每组特征数据中各位置的可能性数值分布并不多,因此本发明中可以将各种卷积结果均预存于预设卷积结果库中,然后对于每次的目标特征数据,便可以从预设卷积结果库中获取与目标特征数据中各位置的数值分布对应的目标卷积结果,然后根据目标卷积结果进行后续处理即可,从预设卷积结果库中查找数据的效率要高于实时进行卷积运算的效率,且提升了用户体验。
  • 通过瞬态同步的SNN的自适应-202180068148.7
  • A·齐亚约;S·S·库马尔 - 因纳特拉纳米系统有限公司
  • 2021-10-04 - 2023-07-14 - G06N3/049
  • 本发明涉及一种用于配置脉冲神经网络的方法。该脉冲神经网络包括多个脉冲神经元以及多个突触元件,该多个突触元件将脉冲神经元互连,以形成至少部分地在硬件中实施的网络。每个突触元件适于接收突触输入信号并将权重应用于突触输入信号以产生突触输出信号,该突触元件能够被配置为调整每个突触元件所应用的权重。脉冲神经元中的每一者适于接收来自突触元件中的一者或多者的突触输出信号中的一个或多个突触输出信号,并且响应于所接收的一个或多个突触输出信号来产生时空脉冲序列输出信号。网络内的响应本地集群包括一组脉冲神经元以及将一组脉冲神经元互连的多个突触元件。该方法包括:设置响应本地集群中的突触元件的权重和脉冲神经元的脉冲行为,使得当到响应本地集群的输入信号(在频域中表示时)包括预定振荡频率时,响应本地集群内的网络状态是周期性稳态,使得响应本地集群内的网络状态通过预定振荡频率是周期性的。
  • 一种神经元膜电位数据的下采样方法-202310175540.2
  • 张仕博;蔡炎松 - 中国电子科技南湖研究院
  • 2023-02-28 - 2023-07-07 - G06N3/049
  • 本发明公开了一种神经元膜电位数据的下采样方法,应用于脉冲神经元仿真,包括:将原始采集的膜电位数据进行分桶;筛选桶中的局部严格极值点;若桶中不存在局部严格极值点,则使用桶中第一个和最后一个膜电位数据代表桶中所有的膜电位数据;否则使用桶中第一个膜电位数据、最后一个膜电位数据以及全部或部分局部严格极值点代表桶中所有的膜电位数据;收集所有桶中的代表数据形成最终的下采样数据。本发明实现在有效降低膜电位数据总量的前提下最大程度保留膜电位数据的变化特征。
  • 脉冲神经网络装置、非易失性存储器装置及其操作方法-202211731680.5
  • 宋承桓;朴炳国;田普盛 - 三星电子株式会社;首尔大学校产学协力团
  • 2022-12-30 - 2023-07-07 - G06N3/049
  • 公开了脉冲神经网络装置、非易失性存储器装置及其操作方法。所述脉冲神经网络装置包括:至少一个NAND单元串;串控制电路,被配置为响应于输入脉冲而生成用于导通串选择晶体管的串选择信号;字线解码器,被配置为响应于输入脉冲而生成用于选择多条字线中的字线的字线选择信号;多个感测电路,连接到所述位线,所述多个感测电路分别对应于所述多条字线,每个感测电路被配置为当相应的字线被选择时根据通过所述位线传输的电流来生成输出脉冲;多个开关晶体管,每个开关晶体管被配置为根据开关选择信号将所述多个感测电路中的一个连接到所述位线;以及开关解码器,被配置为与针对选择的字线的字线选择信号同步地生成开关选择信号。
  • 一种手写数字识别模型训练方法和系统-202110352414.0
  • 林彦宇;刘怡俊;林文杰;叶武剑;刘文杰 - 广东工业大学
  • 2021-03-31 - 2023-07-07 - G06N3/049
  • 本发明公开了一种手写数字识别模型训练方法和系统,输入MNIST训练数据集和STDP突触初始权值矩阵,建立各神经元模型和各突触模型,使用分布式多线程并行技术,根据计算机资源动态使用多个线程对神经元群体进行预先划分,然后建立线程内局域脉冲神经网络,将每个独立线程内的神经元群体、突触连接关系以及突触权值进行初始化,在初始化完成后,所有线程按照设定轮数迭代进行并行训练,解决了现有的脉冲神经网络采用串行训练方法,不能合理利用计算机资源,训练效率低下,不利于推广的技术问题。
  • 一种适用于全连接层的脉动阵列单元及其脉动阵列结构-202211685074.4
  • 乔树山;张默寒;尚德龙;周玉梅 - 中科南京智能技术研究院
  • 2022-12-27 - 2023-07-04 - G06N3/049
  • 本发明公开了一种适用于全连接层的脉动阵列单元及其脉动阵列结构,所述脉动阵列单元包括:输入寄存器,第一权重寄存器,第二权重寄存器,第一部分和寄存器,第二部分和寄存器,第一乘法器,第二乘法器,第一累加器,第二累加器;通过上述结构组合,使本发明的脉动阵列单元能够同时存储两组权重数据与相同输入数据进行乘累加计算,比起常规脉动矩阵的单组数据计算的方式,以本发明的脉动阵列单元为基础构建的脉动矩阵更加适用于处理神经网络全连接层的矩阵运算,且由于其能够同时计算两组乘累加运算,从而可以提高全连接层的运算速度。
专利分类
×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

400-8765-105周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top