CN1093961C - 增强存储器性能的方法及数据处理系统 - Google Patents

Abstract

本发明提供一种增强数据处理系统中存储器性能的方法和系统。当接收到对一级超高速缓冲存储器的一个超高速缓冲存储器行的存储器请求时，判定该存储器请求是否是存储启动的。如果该存储器请求在一级超高速缓冲存储器中命中且该存储器请求被判定为存储启动的话，则无效二级超高速缓冲存储器中相应的超高速缓冲存储器行。如果该存储器请求在一级超高速缓冲存储器中失中，则该存储器请求被送往二级超高速缓冲存储器，如果该存储器请求在二级超高速缓冲存储器中命中且该存储器请求被判定为存储启动的话，则被命中的超高速缓冲存储器行被传送到一级超高速缓冲存储器，而在二级超高速缓冲存储器中的该超高速缓冲存储器行被无效。

Description

增强存储器性能的方法及数据处理系统

技术领域

本发明一般来说涉及在一个数据处理系统中的超高速缓冲存储器管理的改进，特别说来涉及通过去除二级超高速缓冲存储器中过时的行改进数据处理系统中的超高速缓冲存储器的管理。

背景技术

一个计算机系统通常包括一个连接到层次式存储系统的信息处理器。在相对于处理器的每一级的存储位置使用的存储类型通常由速度、容量和价格的平衡需求决定。一般使用的存储器层次包括用于大容量存储的直接存取存储设备(DASD)，用于主存储器的随机存取存储器(RAM)和一种称为超高速缓冲存储器的特别的高速RAM存储器，其用于为处理器超高速缓冲存储最新访问的或者位于附近存储器位置的数据和编码。存储器管理系统在为被视为最可能马上要访问的地址动态复制在该层次内存储器的部分。

每当CPU启动一次存储器访问，存储系统就发送物理地址到该超高速缓冲存储器。超高速缓冲存储器比较物理地址与在一个标记存储器中的地址标记，判定是否有该数据的副本。如果操作是读访问，并且该超高速缓冲存储器存有该给定数据，则超高速缓冲存储器从其自己的高速RAM读取请求的数据并将它交付给CPU。这是超高速缓冲存储器的一次命中，它通常要比直接从主存储器中读取同样的数值快得多。然而，如果超高速缓冲存储器不存有这一数据，则出现存储器的一次失中，于是超高速缓冲存储器把地址传给主存储器系统读取该数据。当该数据从主存储器读来之后，CPU和超高速缓冲存储器都将收到一份副本。如果这一请求在主存储器中也未实现，则所需要的块从磁盘传送到主存储器和超高速缓冲存储器。如果CPU在以后访问同一数据块，则该请求将在超高速缓冲存储器中命中，该数据块或超高速缓冲存储器行将从超高速缓冲存储器而不从主存储器中传输，数据访问将快很多。

由于超高速缓冲存储器的容量小于主存储器和磁盘驱动器的容量，所以并非所有CPU请求的数据块总能存储在超高速缓冲存储器中。为在超高速缓冲存储器满了时加载一个新的数据块或者超高速缓冲存储器行，必须从超高速缓冲存储器中清除数据块为新近访问的数据留出地方。一个通常使用的著名的超高速缓冲存储器置换算法是最近最少使用(LRU)算法。根据LRU算法，在超高速缓冲存储器中未被访问时间最长的块被选为最不需要的块而被新数据块置换。

最新一代的个人计算机通常使用多级超高速缓冲存储器系统，它把超高速缓冲存储器分为片上一级(L1)处理器超高速缓冲存储器和分开的离散的二级(L2)超高速缓冲存储器以进一步增强系统性能。两种超高速缓冲存储器都是高速静态RAM。较小的L1超高速缓冲存储器集成在处理器集成电路中，显著增加了超高速缓冲存储器的访问速度。L2超高速缓冲存储器较大，典型的在500KB-1MB的范围内，它通过存储包括在L1超高速缓冲存储器中存储的数据块的较大数据块而提高性能。

这种多层次超高速缓冲存储器系统以称为强包含或弱包含的方式操作。强包含要求包含在L1超高速缓冲存储器中的整个数据集或存储器块为包含在L2超高速缓冲存储器的存储器块的一个子集，以及对L1超高速缓冲存储器的存储通过直通写操作也存储到L2超高速缓冲存储器中。弱包含要求L1超高速缓冲存储器包含L2超高速缓冲存储器的存储器块的一个子集，但L1超高速缓冲存储器的变化使用回写操作周期地更新L2超高速缓冲存储器。

超高速缓冲存储器管理系统的一个重要的功能是用处理器需要的新超高速缓冲存储器行置换超高速缓冲存储器中已有的行。在成组相联(set-associative)超高速缓冲存储器中，仅仅给定数目的相同类(congruency class)的“路径”(ways)可以保持在超高速缓冲存储器中，以便当超高速缓冲存储器中的路径已满以及类成员必须被加载到超高速缓冲存储器中时，超高速缓冲存储器管理系统在超高速缓冲存储器中选择一条路径置换，典型的是使用LRU置换策略。例如在一个八路径成组相联超高速缓冲存储器中，用一个给定的索引只可以在超高速缓冲存储器中保持八行。如果使用同一索引而需要第九超高速缓冲存储器行的话，那就要置换具有该索引的现有八行超高速缓冲存储器中的一行。

如果加载到L1超高速缓冲存储器中的一个超高速缓冲存储器行置换一个被修改的超高速缓冲存储器行的话，则这一被修改的行被清除到L2超高速缓冲存储器中存储。对于对L2超高速缓冲存储器每次行的装入，正被置换的任何被修改的行都被清除到主存储器。结果从L1超高速缓冲存储器到L2超高速缓冲存储器的清除可能引起从L2超高速缓冲存储器对主存储器的后继的清除，以便为从L1超高速缓冲存储器的清除留出地方。然而如果存储器访问是存储启动的，那么在该系统中会出现效率低下。应该希望提供一种消除这种低效率的超高速缓冲存储器管理系统，从而增强存储器性能。

发明内容

本发明提供了数据处理系统中增强存储器性能的一种方法和系统。接收对一级超高速缓冲存储器的超高速缓冲存储器行的存储器请求。判定该存储器请求是否是存储启动的。如果该存储器请求在一级超高速缓冲存储器中产生一个命中，且该存储器请求被判定为是存储启动的，则无效二级超高速缓冲存储器中的相应的超高速缓冲存储器行。如果该存储器请求在一级超高速缓冲存储器中失中，则该存储器请求被送往二级超高速缓冲存储器，同时，如果该存储器请求在二级超高速缓冲存储器中命中且该存储器请求被判定为是存储启动的，则命中的超高速缓冲存储器行被传递到一级超高速缓冲存储器，同时无效二级超高速缓冲存储器中的该命中超高速缓冲存储器行。所述实施例的上述目的以及其它目的从下面详细书写的说明书中可明显看出。

附图说明

作为本发明特征的新颖特点在所附权利要求中说明。然而参考对下述说明性实施例的详细说明，同时参阅附图，会更好地理解本发明及其优选的使用方式、另外的目的和其优点，附图中：

图1表示根据说明性实施例的一个数据处理系统处理信息的方框图；

图2表示根据说明性实施例通过清除二级超高速缓冲存储器中过时的超高速缓冲存储器行增强存储器性能的方法的流程图。

具体实施方式

现在参考附图，特别参考图1，图中表示一个数据处理系统(用数字10表示)根据本发明的一个优选实施例处理信息的方框图。在所叙述的实施例中，数据处理系统10包括一个由单块集成电路超标量微处理器组成的处理器12。相应地，处理器12包括各种执行单元、寄存器、缓冲器、存储器和其它功能单元，它们均由集成电路形成。在本发明的一个优选实施例中，处理器12包括由国际商业机器公司(IBM)和摩托罗拉公司制造的微处理器的PowerPC^TM系列中的一个，其按照精简指令集计算(RISC)技术作用。

图1的系统是一个由一级(L1)超高速缓冲存储器、二级(L2)超高速缓冲存储器、主存储器和磁盘存储器组成的层次存储器配置。处理器12包括作为一级超高速缓冲存储器的片上L1超高速缓冲存储器14。L1超高速缓冲存储器14的存储容量范围通常为8KB到32KB，另外该部件可以是单片静态随机存取存储器(SRAM)设备或者是在处理器12之内两片物理上分开的设备。二级(L2)超高速缓冲存储器20用局部总线17(在一个未示出的总线接口)连接到处理器12，L2超高速缓冲存储器20通常要比初级片上超高速缓冲存储器大得多，容量在64MB到1MB的范围内，但是访问要慢得多。在典型的操作中，L2超高速缓冲存储器20包含在主存储器22中包含的存储器块的一个子集。类似地，L1超高速缓冲存储器14包含在L2超高速缓冲存储器20中存储的存储器块的一个子集。高速L1和L2超高速缓冲存储器能够使处理器获得对先前从主存储器传输到超高速缓冲存储器中的数据子集或指令相对快的存取时间，从而改善了数据处理系统的操作速度。

微处理器一级超高速缓冲存储器常常用分开的内部超高速缓冲存储器超高速缓冲存储指令和数据而实现为一个“分裂式超高速缓冲存储器”。分裂式超高速缓冲存储器有分开的指令超高速缓冲存储器(lcache)和数据超高速缓冲存储器(Dcache)，每种都有它自己的地址和控制端口。这样的配置提供更有效的超高速缓冲存储，因为指令的寻址要比数据的寻址更为连续。通过分开这两类信息的超高速缓冲存储功能，由于避免了数据超高速缓冲存储器的高I/O与在指令超高速缓冲存储器中的指令引用的高定位性的干扰，从而大大提高了效率。为利用这些在现代微处理器中通常实现了的优点，不可能共享这些存储器空间，而将它们的功能分开并确切定义。

处理器12通过地址和数据线21连接到系统总线18。主存储器22通过存储器控制器24连接到系统总线18。通常，主存储器使用存储容量为1MB到64MB的随机存取存储器(RAM)实现。海量存储由通过磁盘控制器28连接到系统总线18的DASD(磁盘驱动)26提供。

在主存储器和超高速缓冲存储器之间的操作数和指令的传递通常是以称为块的定长单元进行。一个数据块可以以不同大小传输，例如磁道，扇区，行，字节等，这些在现有技术中均已公知。然而主存储器和超高速缓冲存储器的数据阵列一般都被分成一些大小相等的超高速缓冲存储器行，并通常包括一些大小范围为4到64字节的字，于是通常传输一行或多行的块。虽然此间叙述是以超高速缓冲存储器行作为传输单元，但是本发明可以以任何大小和类型的数据传输单元实现。

处理器12对由L1超高速缓冲存储器14、L2超高速缓冲存储器20和主存储器22组成的多层次存储系统发布存储器请求。处理器12通过发送物理地址到L1超高速缓冲存储器14而启动存储器请求。该超高速缓冲存储器把该物理地址与它所有的地址标记比较，判定是否存有该数据的一份副本。对L1超高速缓冲存储器14中的所有超高速缓冲存储器的行命中(不管是修改的还是原始的)不再需要L2控制器或总线接口单元(BIU)处理。L1超高速缓冲存储器失中(它通常是指令失中、数据加载或存储失中、直通写操作、或超高速缓冲存储器管理指令的结果)，则产生L2超高速缓冲存储器请求。如果在L2超高速缓冲存储器20中发现命中，被请求的超高速缓冲存储器行被传送到L1超高速缓冲存储器14，同时使其可由处理器使用。如果超高速缓冲存储器请求在L1超高速缓冲存储器14和L2超高速缓冲存储器20中均未命中，则由总线接口单元BIU产生一个存储器请求，要求从主存储器对所请求的行执行“行装载”。被请求的行(常常以块传输)从主存储器返回到BIU，而所请求的超高速缓冲存储器行传送给L1超高速缓冲存储器14和L2超高速缓冲存储器20。

稍晚些时候，以同一索引对不同的超高速缓冲存储器行的存储器访问可能在L1超高速缓冲存储器14中发生。如果先前传送的超高速缓冲存储器行由L1超高速缓冲存储器控制器(遵照L1 LRU机理)置换以适应最新的存储器请求的话，则更大的超高速缓冲存储器20可以仍然保存该被置换的超高速缓冲存储器行，从而允许处理器在需要时通过传送它到L1超高速缓冲存储器14而访问它。

如果主存储器22不包含超高速缓冲存储器试图装载的存储单元，那么从磁盘存储器26访问包含该数据的页，然后完成超高速缓冲存储器的装载，满足存储器访问。从磁盘26获得一页并将其写到主存储器22需要的时间将是CPU周期的数千倍，此时CPU通常切换其它的任务，或者停顿下来等待数据，以满足请求。为了优化性能，目的是使超高速缓冲存储器14和20包含下次最可能使用的数据，并根据就近和立即原则，这一点由在超高速缓冲存储器中保持CPU正在执行的任务所最新使用的数据而近似满足。

超高速缓冲存储器使用不同的映射技术来映射主存储器地址到它自己的本地地址。一个成组相联超高速缓冲存储器把主存储器和超高速缓冲存储器两者都组织为N列重装载行或超高速缓冲存储器行。超高速缓冲存储器可以从主存储器的任何列映射重装载行到它自己的RAM数据阵列中一个重装载行。存储在存储器中的数据使用存储器地址的索引部分被映射到一超高速缓冲存储器行，索引通常是由地址的一些低位形成的，使得具有同一索引的多存储器地址映射到超高速缓冲存储器中同一组超高速缓冲存储器行。与一个特定存储器地址关联的超高速缓冲存储的数据通过一个地址标记与具有同一索引的其它地址(亦即在同一同余类内的地址)关联的数据区分开，该地址标记通常为地址的高位，存储在与该超高速缓冲存储的数据关联的一个超高速缓冲存储器标记存储器中。数据阵列中包含的每个超高速缓冲存储器行的标记地址与其状态信息(例如可用性状态的信息)一起存储在该标记存储器中。

一个N路成组相联超高速缓冲存储器把存储单元映射到处于一个特殊索引的一组超高速缓冲存储器行。每个索引形成存储器内共享该索引的地址的一个相同类。然而超高速缓冲存储器的列或“路”(亦即在给定时刻在超高速缓冲存储器中可以保持的相同类的成员的数目)由该超高速缓冲存储器的大小限制，因此路的数目要比类中的成员数目小。于是，N路成组相联超高速缓冲存储器以在超高速缓冲存储器中一个给定的索引把每一存储器单元(超高速缓冲存储器行)映射为N个存储器单元(超高速缓冲存储器行)中的任何一个，其中N是由该超高速缓冲存储器为每一相同类保持的路的数目。

处理器12的超高速缓冲存储器控制器功能或者专用超高速缓冲存储器控制器硬件判定接收到的存储器请求是加载请求还是存储请求。如果接收到的存储器请求是加载请求，那么处理器12把检索到的超高速缓冲存储器行加载到一级超高速缓冲存储器14和二级超高速缓冲存储器20中。如果接收到的存储器请求是存储请求，那么处理器12把检索到的超高速缓冲存储器行加载到一级超高速缓冲存储器14和二级超高速缓冲存储器20中。

根据说明性实施例，数据处理系统的超高速缓冲存储器管理系统在处理存储启动的超高速缓冲存储器访问时期通过消除在L2超高速缓冲存储器中过时的超高速缓冲存储器行的某个类，从而改善了L2超高速缓冲存储器20的效率。当在L1超高速缓冲存储器标记15中对一个存储启动的超高速缓冲存储器访问发生命中时，则在L1超高速缓冲存储器阵列16中执行在超高速缓冲存储器行上的存储，而该超高速缓冲存储器行标记为被修改。同时或随后，在L2超高速缓冲存储器标记23中启动对该超高速缓冲存储器行的查找，并在L2超高速缓冲存储器阵列25中将该超高速缓冲存储器行无效。存储器性能因此通过去掉了L2超高速缓冲存储器20中这一过时的，因而是不需要的超高速缓冲存储器行而得以增强。下面将会理解，一个额外的标记(路)因此在L2超高速缓冲存储器20中释放。这允许另外的有效超高速缓冲存储器行被放到L2超高速缓冲存储器20中，它可以由处理器随后访问。这一超高速缓冲存储器行放入L2超高速缓冲存储器20中减少了对该超高速缓冲存储器行的存储器访问延迟。与现有技术相连的一个问题也被防止，这里这一所索引的超高速缓冲存储器行的置换(由于L2 LRU机理)根据与该超高速缓冲存储器行相关的四个扇区中有多少有效和被修改而能够产生多达四个被清除到主存储器的超高速缓冲存储器行。

如果一个存储启动的超高速缓冲存储器访问在L1超高速缓冲存储器标记15中失中，那么在L2超高速缓冲存储器标记23中执行一个L2超高速缓冲存储器查找，判定该超高速缓冲存储器行是否存在于L2超高速缓冲存储器20中。如果L2超高速缓冲存储器标记23以命中响应，那么该超高速缓冲存储器行从L2超高速缓冲存储器20被传送到L1超高速缓冲存储器14中，这里执行在L1超高速缓冲存储器中该超高速缓冲存储器行的存储，并且标记该行被修改。存在于L2超高速缓冲存储器20中的这一超高速缓冲存储器行现在再次过时，而超高速缓冲存储器管理系统将L2超高速缓冲存储器20中的这一过时的超高速缓冲存储器行无效。下面将会理解，系统消除了在L2中为在L1中变“脏”的超高速缓冲存储器行维持地址空间的需要。

现在参考图2，图中示出通过去除二级超高速缓冲存储器中过时的超高速缓冲存储器行而增强处理器中的存储器性能的方法的流程图。在步骤100，超高速缓冲存储器管理系统空闲，等待对一个超高速缓冲存储器行的存储器请求。在判断框110，判定是否从处理器的加载/存储单元或指令读取器接收到对一个超高速缓冲存储器行的存储器请求。如果尚未接收到存储器请求，则超高速缓冲存储器管理系统依然停留在步骤100的空闲状态。如果接收到对于一个超高速缓冲存储器行的存储器请求的话，则本方法前进到判断框120，这里在L1超高速缓冲存储器标记15中执行一个L1查找。如果该存储器请求在L1超高速缓冲存储器标记中命中的话，则处理前进到步骤130，这里通过把请求的超高速缓冲存储器行返回到请求设备而完成L1超高速缓冲存储器访问。

然后该方法在判断框140判定该存储器请求是存储启动的还是加载启动的存储器请求。如果该存储器请求不是存储启动的访问则该方法返回到步骤100。如果该存储器访问是存储启动的，则该方法前进到步骤150，这里通过执行在L2超高速缓冲存储器标记23中的查找，在L2超高速缓冲存储器20中执行这一存储器请求。在步骤160，判定该存储器请求是否在L2超高速缓冲存储器标记23中命中。如果超高速缓冲存储器管理系统未在L2超高速缓冲存储器20中维持数据的一个包含集且该超高速缓冲存储器行不包含在L2超高速缓冲存储器20中，则在L2超高速缓冲存储器标记23中不能命中该超高速缓冲存储器行，该处理将返回步骤100。如果该超高速缓冲存储器行在L2超高速缓冲存储器标记23中命中，则在步骤170将在L2超高速缓冲存储器20中的这一超高速缓冲存储器行无效，该方法返回到步骤100。

如果从存储器请求的超高速缓冲存储器行未在L1超高速缓冲存储器标记23中命中，则该方法从判断框120前进到步骤180。在步骤180，在L2超高速缓冲存储器标记23中执行对该超高速缓冲存储器行的查找，并在判断框190判定是否发生对该超高速缓冲存储器行的命中。如果在L2超高速缓冲存储器标记23中未命中，则从主存储器加载该超高速缓冲存储器行到L1超高速缓冲存储器14和L2超高速缓冲存储器20，而在步骤200完成L1超高速缓冲存储器14的访问。然后该方法返回到步骤100。

如果在步骤190在L2超高速缓冲存储器标记23中的查找产生一个命中的话，则该方法前进到步骤210，这里被请求的超高速缓冲存储器行从L2超高速缓冲存储器20传送到L1超高速缓冲存储器14，该存储器访问从L1超高速缓冲存储器14完成。之后，该方法在判断框220判定，原始存储器请求是否是存储启动的。如果原始存储器请求是存储启动的，则处理前进到步骤170，这里该超高速缓冲存储器行在L2超高速缓冲存储器20中无效。如果在判断框220判定该存储器请求不是存储启动的，或者在步骤170该超高速缓冲存储器行在L2超高速缓冲存储器20中它被无效后，处理返回到步骤100。

虽然特别显示和叙述了一个说明性实施例，但是熟悉本技术领域的人应该理解，可以进行各种形式上和细节方面的改变而不离开本发明的精神和范围。

Claims (8)

1.在数据处理系统中一种增强存储器性能的方法，包括：

接收对一级存储器的一个超高速缓冲存储器行的存储器请求；

判定该存储器请求是否是存储启动的；

如果该存储器请求在一级存储器中命中且该存储器请求被判定为存储启动的，若二级存储器中存在所述超高速缓冲存储器行，则无效所述二级存储器中的所述超高速缓冲存储器行。

2.根据权利要求1的方法，其特征在于，所述存储器请求由处理器产生。

3.一个具有增强存储器性能的数据处理系统，所述数据处理系统包括：

发布存储器请求的处理器；

包括一级存储器，二级存储器的多级存储系统，所述多级存储系统连接到所述处理器以服务所发布的存储器请求；

超高速缓冲存储器控制器，它接收由处理器发布的对一个超高速缓冲存储器行的存储器请求，如果该存储器请求是存储启动的并且在一级存储器中命中的话，若二级存储器中存在所述超高速缓冲存储器行，则无效二级存储器中的所述超高速缓冲存储器行。

4.根据权利要求3的数据处理系统，其特征在于，所述一级存储器是一级超高速缓冲存储器。

5.根据权利要求3的数据处理系统，其特征在于，所述二级存储器是二级超高速缓冲存储器。

6.一个具有增强存储器性能的数据处理系统，所述数据处理系统包括：

接收对一级存储器的超高速缓冲存储器行的存储器请求的电路；

判定所述存储器请求是否是存储启动的电路；以及

如果所述存储器请求在一级存储器中命中且所述存储器请求被判定为是存储启动的，若二级存储器中存在所述超高速缓冲存储器行，则无效二级存储器中的所述超高速缓冲存储器行的电路。

7.根据权利要求6的数据处理系统，其特征在于，所述一级存储器是一级超高速缓冲存储器。

8.根据权利要求6的数据处理系统，其特征在于，所述二级存储器是二级超高速缓冲存储器。

Images