[发明专利]一种基于微柱自荐的HTM空间池快速训练方法及系统在审
申请号: | 202011056881.0 | 申请日: | 2020-09-30 |
公开(公告)号: | CN112200314A | 公开(公告)日: | 2021-01-08 |
发明(设计)人: | 李雷;邹婷婷;蔡涛;牛德姣;梁军 | 申请(专利权)人: | 江苏大学 |
主分类号: | G06N3/08 | 分类号: | G06N3/08;G06N3/04 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 212013 江*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 自荐 htm 空间 快速 训练 方法 系统 | ||
本发明公开了一种基于微柱自荐的HTM空间池快速训练方法及系统,通过重构空间池中微柱的结构,赋予微柱更多的信息来表达微柱的承载程度。利用微柱和输入的重叠值计算微柱的自荐状态,基于自荐状态和承载度构建微柱的激活规则。针对被激活的微柱,利用基于压缩编码的微柱突触调整规则,构建输入与微柱集合的映射,形成空间池的训练结果。本发明利用微柱的重叠值和承载度作为微柱激活的依据,能够保证被激活的微柱稀疏分布在空间池中,提高空间池中微柱的利用率;利用基于压缩编码的微柱突触调整规则,能够快速构建激活微柱与输入之间的映射,提高空间池的训练效率,并且在新输入的训练过程中,基于压缩编码的微柱突触调整规则不会更改已训练的内容,提高了空间池训练结果的稳定性。
技术领域
本发明涉及人工智能领域,尤其涉及一种基于微柱自荐的HTM空间池快速训练方法及系统。
背景技术
类脑学习是当前人工智能和机器学习领域研究的热点。层级时序记忆HTM(Hierarchical Temporal Memory)是一种通过模拟大脑皮层细胞的组织和机构,模仿人脑对信息的处理机制的机器学习技术。HTM本质上讲是一个基于记忆的系统。HTM网络被大量具有时间性的数据训练而成,存储着大量的模式序列,通过记忆的模式序列预测下一次可能的输入或者利用上一时刻预测检测当前时刻输入是否异常。HTM可以在拥有时序数据的领域中进行预测和异常检测。
与现有的人工神经网络不同,HTM以细胞为基本单位,并使用层级方式进行管理;首先将几个细胞组成一个微柱,再由这些微柱构成HTM网络空间。空间池算法和时间池算法是训练HTM时的两个重要步骤,首先使用空间池算法,从所有微柱中选择出部分被激活微柱以对应当前的输入。再使用时间池算法从这些微柱中选择部分激活的细胞表达输入所处位置信息,通过调整这些活跃细胞上相关的树突分支,构建输入与输入之间的关联,进行学习;同时利用活跃细胞和已构建的树突分支,对下一时刻的输入进行预测。
HTM以输入的稀疏分布表示为基础进行工作,空间池训练算法(spatial poollearning algorithm,SPL)利用赫比规则建立输入编码与微柱突触之间的连接,通过输入编码的有效位激活空间池中的微柱集,实现用空间池微柱的稀疏分布表征来表达输入。在该过程中,希望空间池能够像大脑皮层一样维持一定的灵活性:1、尽可能让空间池的所有微柱都参与输入的表达,2、表达输入的微柱具有一定的稀疏度并散列在空间池中,3、避免微柱与输入产生过多无效的突触连接,4、避免微柱被少量活跃突触激活,5、空间池具有一定的自适应性,应对微柱或输入的损坏。为此空间池训练算法引入了激励规则和抑制规则,设置微柱激活阈值以及维持庞大的突触池,通过多次训练,空间池便可动态调整到所希望的目标,但是维持庞大的突触池会降低空间池训练算法训练效率,激励规则和抑制规则会导致训练结果的不稳定。因此有必要设计新型的空间池池算法,降低HTM空间池训练算法的时间开销,提高空间池训练结果的稳定性。
发明内容
为了解决现有技术中存在的不足,本发明提出了一种基于微柱自荐的HTM空间池快速训练方法及系统,通过基于自荐状态的微柱激活规则以及基于压缩编码的微柱突触调整规则,用以解决HTM空间池训练效率低和空间池训练结果稳定性差的问题。
本发明所采用的技术方案如下:
一种基于微柱自荐的HTM空间池快速训练方法,包括如下步骤:
步骤1,根据输入编码中1分量的位置对编码进行压缩,得到输入序列的压缩编码;
步骤2,利用微柱与压缩编码的重叠值计算微柱的自荐状态,将自荐状态和微柱的承载度信息共同作为微柱的激活依据,构建微柱激活规则,在空间池中形成输入的稀疏分布表征;
步骤3,针对被输入所激活的微柱集,通过基于压缩编码的微柱突触调整规则调整激活微柱中的近端突触,构建输入压缩编码与激活微柱集的映射关系。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于江苏大学,未经江苏大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011056881.0/2.html,转载请声明来源钻瓜专利网。
- 上一篇:双极性光纤适配器和接线板
- 下一篇:一种水合肼废水处理工艺