[发明专利]一种实现基于铁电晶体管的自适应随机脉冲神经元的方法有效
申请号: | 202011227945.9 | 申请日: | 2020-11-06 |
公开(公告)号: | CN112434802B | 公开(公告)日: | 2022-05-20 |
发明(设计)人: | 黄如;罗金;刘天翊;黄芊芊 | 申请(专利权)人: | 北京大学 |
主分类号: | G06N3/063 | 分类号: | G06N3/063;G06N3/04;H03K3/021 |
代理公司: | 北京万象新悦知识产权代理有限公司 11360 | 代理人: | 贾晓玲 |
地址: | 100871*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 实现 基于 晶体管 自适应 随机 脉冲 神经元 方法 | ||
本发明提出一种实现基于铁电晶体管的自适应随机脉冲神经元的方法,属于神经形态计算中脉冲神经元技术领域。该方法包括铁电晶体管FeFET、N型MOSFET以及通过增强铁电晶体管的铁电材料的极化退化特性形成的L‑FeFET;其中FeFET和N型MOSFET串联结构自适应调制从突触传递过来的电压脉冲信号;L‑FeFET的栅端连接于FeFET的源端,接收调制后的脉冲信号,L‑FeFET模拟生物神经元的积累、泄露、以及随机脉冲发放特性;综上该电路能实现神经元自适应随机脉冲发放的高级功能。本发明与基于传统MOSFET的实现方式相比,可以显著降低硬件开销,有利于大规模的高度互联的脉冲神经网络的硬件实现。
技术领域
本发明属于神经形态计算中脉冲神经元技术领域,具体涉及一种基于铁电晶体管的自适应随机脉冲神经元的实现方法。
背景技术
随着信息技术的蓬勃发展,人类社会已经步入“数据爆炸”的时代,每年指数式增长的数据量为数据的处理和计算带来了空前的压力。传统冯诺依曼计算架构由于其存算分离的架构特点,数据在存储单元和计算单元之间的传输将引起大量的功耗和能耗的浪费,在如今信息社会乃至智能社会伴随庞大数据量的背景下,这一问题将变得越来越严重。
研究者们受人脑运算模式启发,提出了神经网络(Neural Network)计算架构,以神经元-突触-神经元的连接方式为基础,构建存算一体、高度并行的分布式计算网络,在提高了对复杂数据的处理效率的同时可避免传统冯诺依曼计算架构中“内存墙”引起的功耗和能耗问题。经典的人工神经网络(Artificial Neural Network)中,神经元的功能被抽象为一种数值计算:先加和输入的数据,再通过激活函数得到输出的激活值。目前,人工神经网络在图像识别、自然语言处理、自动驾驶等应用中已表现出超越传统通用计算单元的计算效率,然而与人脑相比,仍存在学习训练周期长、计算硬件开销较大等问题。神经形态计算(Neuromorphic Computing)在神经网络计算架构的基础上进一步模拟人脑,以脉冲形式表达和传递信息,所构建的脉冲神经网络(Spiking Neural Network)具有异步、事件驱动的特性,可进一步缩小机器智能与人脑智能之间的差距,具有能效高、学习速度快、泛化能力强等优势。
与人工神经网络中的神经元不同,脉冲神经元负责整合输入的脉冲信号并输出新的脉冲信号来传递信息,其工作形式模拟生物神经元,对信号的处理过程体现在膜电位的变化上。脉冲神经元的基本功能可以抽象为带泄漏的积累发放(Leaky Integrate-and-Fire,LIF),同时其也是神经形态计算中应用最广泛的仿生脉冲神经元模型。除了积累发放的基本功能之外,脉冲神经元还具备随机脉冲发放的高级功能,具体体现为一个神经元从静息状态开始,积累输入脉冲直至产生动作电位所需的输入脉冲个数具有随机性,所述随机性利于脉冲神经网络探索问题的解空间。
神经形态计算最终要实现网络整体的硬件化,才能完全摆脱“内存墙”瓶颈的限制。目前,神经形态计算的硬件实现上,已经有许多研究机构和企业研发出了多款神经形态芯片,然而在现有的神经形态计算的硬件化方案中,网络的基本单元——硬件脉冲神经元依然主要基于传统CMOS电路搭建,对脉冲神经元功能的模拟往往依赖由数个MOSFET器件以及电容构成的电路模块,存在硬件开销较大、电路能耗较高等问题,不利于高密度、大规模集成,并可能使网络失去架构层面带来的原本的功耗和能耗优势。此外,利用神经形态计算硬件求解广泛存在的优化问题,还需要实现自适应随机的高级神经元功能,使脉冲神经网络探索问题的解空间,并能逐步收敛至最优解,然而基于传统CMOS电路的实现方式往往需要引入大幅额外硬件开销。
发明内容
针对以上现有技术中存在的问题,本发明提出了一种实现基于铁电晶体管的自适应随机脉冲神经元的方法,与基于传统MOSFET的实现方式相比,本发明在实现脉冲神经网络求解优化问题必须的自适应随机性高级功能的前提下,可以显著降低硬件开销。
本发明提供的技术方案如下:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京大学,未经北京大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011227945.9/2.html,转载请声明来源钻瓜专利网。