|
钻瓜专利网为您找到相关结果 13个,建议您 升级VIP下载更多相关专利
- [发明专利]一种预训练语言处理方法及设备-CN202011155558.9在审
-
蒋子航;周大权;陈云鹏;冯佳时;颜水成
-
新加坡依图有限责任公司(私有)
-
2020-10-26
-
2022-02-18
-
G06F40/35
- 本申请涉及预训练语言表示技术领域,公开了一种预训练语言处理方法、介质及设备。本申请的预训练语言处理方法包括:接收包括多个词的词序列,对词序列进行嵌入处理得到初始词序列向量,基于初始词序列向量,实施至少一次编码处理,获得最终词序列向量。其中,在每个编码处理中,执行至少一次混合注意力处理,根据初始词序列向量获得的线性输出结果,以及基于初始词序列向量的局部跨度感知生成的注意力权重,生成词序列特征,以及执行至少一次前馈处理,将词序列特征处理为最终词序列向量并输出。根据本申请中的技术方案,通过将基于跨度的动态卷积处理与自注意力操作相结合得到混合注意力处理,使得可通过提取局部跨度感知,学习局部依赖关系,增强了编码局部信息的能力,同时保持了自注意力操作的全局依赖关系,具有训练成本更低、模型参数更少以及训练性能更优的优点。
- 一种训练语言处理方法设备
- [发明专利]一种视频动作识别方法及设备-CN202010578083.8在审
-
黄子渊;周奕臣;杨旭雷
-
新加坡依图有限责任公司(私有)
-
2020-06-23
-
2021-12-07
-
G06K9/00
- 本申请涉及计算机视觉领域,公开了一种视频动作识别方法,包括:获取视频;将视频输入神经网络模型的隐含层进行处理,得到视频中的识别对象及识别对象对应的运动,其中神经网络模型的隐含层包括多个处理单元;以及基于视频中的识别对象及识别对象对应的运动,输出视频的动作识别结果;其中,在至少一个处理单元中,顺序提取作为至少一个处理单元的输入的视频中的空间特征和时间特征,联合视频中的空间特征和时间特征,并执行逐点卷积操作,输出视频的空间语义信息和时间语义信息。根据本申请所提供的技术方案,视频处理过程具有更强的对时空关系编码的能力,以较少数量的参数便能够提取出更有意义的特征,从而可以使用更紧凑的结构从数据集中学习更多有用的信息。在实施视频处理的过程中,仅需单个处理器就可处理之前需要多处理器处理的视频量,硬件配置更加优化,从而使得计算机系统的内部结构更加精简。
- 一种视频动作识别方法设备
- [发明专利]一种图像处理方法及设备-CN202010578086.1在审
-
周大权;冯佳时;蒋子航;陈云鹏;颜水成
-
新加坡依图有限责任公司(私有)
-
2020-06-23
-
2021-12-07
-
G06K9/62
- 本申请涉及图像处理技术领域,公开了一种图像处理方法、介质及设备。本申请的图像处理方法包括:获取图像;图像在神经网络模型的输入层被处理成至少一层图像数据;将图像数据输入神经网络模型的隐含层进行处理,得到图像数据的局部高维特征数据,其中神经网络模型的隐含层包括多个处理单元,多个处理单元中至少部分处理单元彼此互联并且与输入层的输出相连;以及输出所述图像的特征映射,图像的特征映射由图像数据的局部高维特征池化融合得到。根据本申请所提供的技术方案,在图像处理的过程中,在图像处理的过程中,消除了信息丢失,有效缓解梯度混淆;减少了计算成本,有效的去除了神经网络中的冗余参数;降低了计算复杂度,提高了对图像的分类精度;所需计算机系统的内部结构可以更精简,使得图像处理在移动设备等轻量级神经网络中能够得以应用。
- 一种图像处理方法设备
|