[发明专利]业务执行方法、装置和电子设备

说明书

本说明书实施例提出了一种业务执行方法、装置和电子设备，其中，上述业务执行方法中，处理器开始执行第一线程中的业务指令，如果处理器的缓存中不存在第一线程中的业务指令所需的数据，则向内存发出预取指令，以将第一线程中的业务指令所需的数据从内存读取到缓存；在上述缓存接收到第一线程中的业务指令所需的数据之前，处理器将线程切换到第二线程，开始执行第二线程中的业务指令，如果处理器的缓存中存在第二线程中的业务指令所需的数据，则从缓存中读取第二线程中的业务指令所需的数据，并执行第二线程中的业务指令。上述方法中，在处理器向内存发出预取指令之后，CPU切换到第二线程执行，因此CPU可以在无阻塞的情况下并行执行至少两个线程，使至少两个线程并行运行，从而避免内存访问带来的性能损耗，最终大幅度提升单核CPU的内存吞吐能力。

【技术领域】

本说明书实施例涉及互联网技术领域，尤其涉及一种业务执行方法、装置和电子设备。

【背景技术】

内存延迟是指等待对系统内存中存储数据的访问完成时引起的延期。现在，虽然摩尔定律取得了长足的发展，但是由于内存延迟提升缓慢，严重阻碍了内存吞吐能力的提升。

因此需要提供一种方案，避免内存访问带来的性能损耗，提升内存吞吐能力。

【发明内容】

本说明书实施例提供了一种业务执行方法、装置和电子设备，以实现将内存的同步访问变为异步访问，提升内存的吞吐能力。

第一方面，本说明书实施例提供一种业务执行方法，包括：处理器开始执行第一线程中的业务指令；如果所述处理器的缓存中不存在所述第一线程中的业务指令所需的数据，则所述处理器向内存发出预取指令，以将所述第一线程中的业务指令所需的数据从所述内存读取到所述缓存；在所述缓存接收到所述第一线程中的业务指令所需的数据之前，所述处理器将线程切换到第二线程，开始执行所述第二线程中的业务指令；如果所述处理器的缓存中存在所述第二线程中的业务指令所需的数据，则从所述缓存中读取所述第二线程中的业务指令所需的数据，并执行所述第二线程中的业务指令。

上述业务执行方法中，在处理器向内存发出预取指令之后，CPU切换到第二线程执行，因此CPU可以在无阻塞的情况下并行执行至少两个线程，使至少两个线程并行运行，从而避免内存访问带来的性能损耗，最终大幅度提升单核CPU的内存吞吐能力

其中一种可能的实现方式中，所述处理器将线程切换到第二线程，开始执行所述第二线程中的业务指令之后，还包括：如果所述处理器的缓存中不存在所述第二线程中的业务指令所需的数据，则所述处理器向所述内存发出预取指令，以将所述第二线程中的业务指令所需的数据从所述内存读取到所述缓存；在所述缓存接收到所述第二线程中的业务指令所需的数据之前，所述处理器将线程切换到除第二线程之外的其他线程，开始执行所述其他线程中的业务指令。

其中一种可能的实现方式中，所述处理器开始执行第一线程中的业务指令之后，还包括：如果所述处理器的缓存中存在所述第一线程中的业务指令所需的数据，则从所述缓存中读取所述第一线程中的业务指令所需的数据，并执行所述第一线程中的业务指令。

其中一种可能的实现方式中，所述处理器开始执行第一线程中的业务指令之后，还包括：判断所述处理器的缓存中是否存在所述第一线程中的业务指令所需的数据；所述开始执行所述第二线程中的业务指令之后，还包括：判断所述处理器的缓存中是否存在所述第二线程中的业务指令所需的数据。

第二方面，本说明书实施例提供一种业务执行装置，设置在处理器中，所述装置包括：执行模块，用于开始执行第一线程中的业务指令；发送模块，用于当所述处理器的缓存中不存在所述第一线程中的业务指令所需的数据时，向内存发出预取指令，以将所述第一线程中的业务指令所需的数据从所述内存读取到所述缓存；切换模块，用于在所述缓存接收到所述第一线程中的业务指令所需的数据之前，将线程切换到第二线程；所述执行模块，还用于开始执行所述第二线程中的业务指令，当所述处理器的缓存中存在所述第二线程中的业务指令所需的数据时，从所述缓存中读取所述第二线程中的业务指令所需的数据，并执行所述第二线程中的业务指令。