[发明专利]计算装置及其操作方法

说明书

本发明提供一种计算装置及其操作方法。计算装置包括多个内存以及一个处理电路。处理电路耦接至这些内存。处理电路依据至少一个查找表的特性动态地决定将所述至少一个查找表存放在这些内存的哪一个。然后，处理电路可以使用所述至少一个查找表去执行至少一个算法。

技术领域

本发明涉及一种电子装置，且特别是涉及一种计算装置及其操作方法。

背景技术

计算装置在许多应用中都需要使用一或多个查找表(lookup table)。举例来说，推荐系统(recommendation system)是一种讯息分析系统，用于预测用户对于物品或服务的“评分”或“偏好”。常见的推荐系统是由词性表查找(word embedding table lookup)模块和神经网络运算(neural network computation)模块所组成。所述词性表大多由数个到数十个大小不一的查找表所组成，大的查找表可能占用数千兆位组(gigabyte,GB)的容量，小的查找表可能只需要数字节(byte)的容量。查表得出的讯息经过神经网络的运算，可以得出推荐系统的结果。

一般的计算装置具有硬式磁盘驱动器(hard disk drive，HDD)与随机存取内存(random access memory，RAM)。硬式磁盘驱动器的存储空间大(成本便宜)，但是访问速度慢。随机存取内存的速度较快，但是存储空间小(成本较高)。在系统关机前，处理器会将查找表从随机存取内存搬移到硬式磁盘驱动器。在系统开机后，处理器会将查找表从硬式磁盘驱动器搬移到随机存取内存，以加快访问速度和系统效能。无论如何，碍于随机存取内存的容量有限，有一些查找表(例如查找表A)可能暂时不会被搬移到随机存取内存。在内存空间已满的情况下，当在硬式磁盘驱动器中的查找表A需要被存取的时候，处理器会将在随机存取内存中的查找表B写回硬式磁盘驱动器中，然后将查找表A从硬式磁盘驱动器搬移到随机存取内存。因此在查表过程中，常需要在不同存储媒体间大量搬移数据，造成查表所需时间过久。

另外，目前的查找表是被存放在特定内存，而不论当时在系统中有无更适合存放这个查找表的其他内存。一般的计算装置具有多种内存。例如，计算装置可能具有速度较快的内存与速度较慢的内存。目前的查表系统并不会根据查找表的特性而有差异化处理方式，亦即不会动态地决定将查找表存放在多个内存的哪一个，因此查表较无效率。举例来说，某一个频繁存取的查找表可能默认地被存放在速度较慢的内存，造成查表所需时间过久。

须注意的是，“先前技术”段落的内容是用来帮助了解本发明。在“先前技术”段落所揭露的部份内容(或全部内容)可能不是所属技术领域中具有通常知识者所知道的习知技术。在“先前技术”段落所揭露的内容，不代表该内容在本发明申请前已被所属技术领域中具有通常知识者所知悉。

发明内容

本发明是针对一种计算装置及其操作方法，以存取在内存中的查找表。

根据本发明的实施例，计算装置包括多个内存以及一个处理电路。处理电路耦接至这些内存。处理电路依据至少一个查找表的特性动态地决定将所述至少一个查找表存放在这些内存的哪一个。然后，处理电路可以使用所述至少一个查找表去执行至少一个算法。

根据本发明的实施例，操作方法包括：由处理电路依据至少一个查找表的特性动态地决定将所述至少一个查找表存放在多个内存的哪一个；以及由处理电路使用所述至少一个查找表去执行至少一个算法。

根据本发明的实施例，计算装置包括至少一个内存、一个处理器以及至少一个查表电路。所述至少一内存用以存放至少一个查找表。处理器用以发出查表命令以及执行至少一个算法。所述至少一查表电路耦接至处理器与所述至少一内存。当处理器发出查表命令给所述至少一查表电路时，所述至少一查表电路依据处理器的查表命令查找被存放在所述至少一内存的所述至少一个查找表，以获得至少一个对应数据。处理器使用所述至少一查表电路所提供的所述至少一个对应数据去执行所述至少一个算法。