[发明专利]人工神经网络和脉冲神经网络神经的混合通信方法有效
申请号: | 201510419404.9 | 申请日: | 2015-07-16 |
公开(公告)号: | CN105095965B | 公开(公告)日: | 2017-11-28 |
发明(设计)人: | 裴京;施路平;王栋;邓磊;马骋 | 申请(专利权)人: | 清华大学 |
主分类号: | G06N3/04 | 分类号: | G06N3/04 |
代理公司: | 深圳市鼎言知识产权代理有限公司44311 | 代理人: | 哈达 |
地址: | 100084 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 人工 神经网络 脉冲 神经 混合 通信 方法 | ||
技术领域
本发明涉及一种神经网络间的通信方法。
背景技术
神经网络是一种模仿生物大脑突触-神经元结构进行数据处理的计算系统,由分为多层的计算节点和层间的连接组成。每个节点模拟一个神经元,执行某个特定运算,例如激活函数,节点之间的连接模拟神经突触,连接对于来自上一层节点输入的加权值代表了突触权重。神经网络具有强大的非线性、自适应信息处理能力。
人工神经网络中的神经元将来自连接输入的累加值用激活函数处理后作为自身的输出。对应于不同的网络拓扑结构、神经元模型和学习规则,人工神经网络又包括感知器、Hopfield网络、波耳兹曼机等数十种网络模型,可以实现多种多样的功能,在模式识别、复杂控制、信号处理和最优化等方面都有应用。传统的人工神经网络数据可以认为是通过神经元脉冲的频率信息编码,各层神经元依次串行运行。人工神经网络模拟了生物的神经系统分层结构,但是未能完全匹配皮层的信息处理结构.例如时间序列对学习的影响,而作为真正的生物皮层在处理信息上来说,对信息数据的学习不是独立静态的,而是随着时间有着上下文的联系的。脉冲神经网络是近十几年来出现的新型神经网络,被称为是第三代神经网络。脉冲神经网络中的数据以神经元脉冲信号的时空信息编码,网络的输入输出以及神经元之间的信息传递表现为神经元发送的脉冲和发送脉冲的时间信息,神经元需要同时并行运行。与传统的人工神经网络相比,脉冲神经网络在信息处理方式、神经元模型、并行性等方面有较大不同,运行方式更接近于真实的生物系统。脉冲神经网络应用精确定时的脉冲序列对神经信息进行编码和处理,这种包含时间计算元素的计算模型更具生物解释性,是进行复杂时空信息处理的有效工具,可以处理多模态的信息并且信息处理更加实时。但脉冲神经网络的神经元模型的不连续性、时空编码的复杂性、网络结构的不确定性导致很难在数学上完成对网络整体的描述,因此难以构建有效且通用的有监督学习算法,限制了其的计算规模和精确度。
发明内容
有鉴于此,确有必要提供一种人工神经网络和脉冲神经网络神经的混合通信方法。
一种人工神经网络和脉冲神经网络神经的混合通信方法,包括:判断进行通信的神经网络基本计算单元中发送方与接收方的数据类型是否一致,若一致则进行数据传输,若不一致,则执行数据格式转换,将发送方的数据类型转换为与接收方的数据类型,并进行数据传输
与现有技术相比,本发明提供的人工神经网络和脉冲神经网络的混合通信方法实现了人工神经网络与脉冲神经网络的直接通信,可以在此基础上实现上述两种神经网络的混合运算。
附图说明
图1为本发明第一实施例提供的人工神经网络和脉冲神经网络的混合计算系统中基本计算单元结构图。
图2为本发明的串联结构示意图。
图3为本发明的并联结构示意图。
图4为本发明的并行结构示意图。
图5为本发明的学习结构示意图。
图6为本发明的反馈结构示意图。
图7为本发明提供的混合计算系统中计算单元层级结构示意图。
图8为本发明提供的人工神经网络和脉冲神经网络的混合计算系统。
图9为本发明第二实施例中将人工神经网络输出的数值量转换为脉冲序列的示意图。
图10为本发明第二实施例中将脉冲神经网络输出的频率编码脉冲序列转换为数值量示意图。
图11为本发明第二实施例中将脉冲神经网络输出的群体编码脉冲序列转换为数值量示意图。
图12为本发明第二实施例中将脉冲神经网络输出的时间编码脉冲序列转换为数值量示意图。
图13为本发明第二实施例中将脉冲神经网络输出的二值编码脉冲序列转换为数值量示意图。
图14为本发明第三实施例提供的多模态神经形态网络核结构框图。
图15为本发明第三实施例提供的多模态神经形态网络核运行在人工神经网络时的结构框图。
图16为人工神经网络模式下多模态神经形态网络核一个时间步的运行流程图。
图17为本发明第三实施例提供的多模态神经形态网络核运行在脉冲神经网络时的结构框图。
图18为脉冲神经网络模式下多模态神经形态网络核一个时间步的运行流程图。
图19为本发明第四实施例提供的人工神经网络和脉冲神经网络的混合系统。
图20为本发明第四实施例中路由节点结构框图。
图21为本发明第四实施例中路由数据包结构图。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于清华大学,未经清华大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201510419404.9/2.html,转载请声明来源钻瓜专利网。