[发明专利]通过WordNet嵌入进行测试和更新的树形网络方法有效
申请号: | 201810517482.6 | 申请日: | 2018-05-25 |
公开(公告)号: | CN108681775B | 公开(公告)日: | 2021-04-13 |
发明(设计)人: | 张仲楠;曾鸣;朱展图 | 申请(专利权)人: | 厦门大学 |
主分类号: | G06N3/08 | 分类号: | G06N3/08;G06N3/04 |
代理公司: | 厦门南强之路专利事务所(普通合伙) 35200 | 代理人: | 马应森 |
地址: | 361005 *** | 国省代码: | 福建;35 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 通过 wordnet 嵌入 进行 测试 更新 树形 网络 方法 | ||
1.通过WordNet嵌入进行测试和更新的树形网络方法,其特征在于包括以下步骤:
1)构建树形网络;
2)预训练:由于树形网络中的每个节点都分配不同的任务,根节点负责人造物和生物的分类任务,哺乳动物节点负责食肉动物和有蹄类动物的分类任务,预先重复使用相同的分类数据集预训练每个节点;
在预训练过程中,根据WordTree的结构从浅到深训练每个节点,具体方法为:在训练根节点时,在根节点之后添加一个简单的2类softmax,并将数据标签转换为人造物和生物,迫使根节点学习如何对这两个类进行分类;然后训练在根节点之后的节点,只保留根节点的CNN部分并且固定所有权重;然后添加代表生物节点的TreeBlock和4类加权softmax:鸟类、蛙类、哺乳动物和其他类;最后转换将数据标签分为上述4类,迫使生物节点学习如何对这4类进行分类;以此类推预训练所有的节点;
3)基于SVM的动态剪枝,在测试过程中,以动态剪枝特征映射的激活值过低的节点和节点的子树,因为若节点的激活值太低,则该节点表示的类的概率较低,因此后代节点的概率会较低并且忽略;每张特征图的激活值之和的具有较强的线性可分性,因此使用SVM在测试过程中进行模型的加速;
4)基于分支的在线更新,使用检测到的图像作为训练样本,将预测概率高的样本回传给树形网络进行训练。
2.如权利要求1所述通过WordNet嵌入进行测试和更新的树形网络方法,其特征在于在步骤1)中,构建树形网络的具体方法为:从英语词汇数据库中提取有关类之间语义关系和距离的信息,将带有先验知识的信息封装成一棵名为WordTree的树中,其中深层节点包含高维语义信息的类和更浅层节点包含低维语义信息的类;所述英语词汇数据库中,名词、动词、形容词和副词被分组成同组集合;
裁剪所得到的WordTree:若一个节点只有一个孩子,则用它的后代节点替换它;因此,WordTree中的每个节点都包含两个或更多后代节点,每个节点只需要负责其后代节点的分类,将至少1个ResBlock组合为一个TreeBlock,然后使用TreeBlock以高级语义构建层次化的WordTree,构造出树形网络。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于厦门大学,未经厦门大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810517482.6/1.html,转载请声明来源钻瓜专利网。