主機(jī)與存儲器之間的緩存專利技術(shù)分析

吳海旋

（國家知識產(chǎn)權(quán)局專利局專利審查協(xié)作河南中心，河南 鄭州 450000）

1 主機(jī)與存儲器之間的緩存的基本概念

主機(jī)的存取速度較快，而存儲器的存取速度較慢，為了使二者之間的速度能夠匹配出現(xiàn)了主機(jī)與存儲器之間的緩存技術(shù)。緩存與存儲器之間以塊為單位進(jìn)行數(shù)據(jù)交換，當(dāng)主機(jī)發(fā)出讀取數(shù)據(jù)或指令時(shí)，它同時(shí)將讀取到的數(shù)據(jù)或指令保存到一個(gè)緩存塊中。當(dāng)主機(jī)第二次需要讀取相同的數(shù)據(jù)時(shí)，它可以從緩存的塊中得到相應(yīng)的數(shù)據(jù)。因?yàn)榫彺娴拇嫒∷俣冗h(yuǎn)遠(yuǎn)大于存儲器的速度，這樣系統(tǒng)的整體性能就得到很大的提高。緩存塊大小為幾個(gè)字，一般與傳輸數(shù)據(jù)塊的大小相同，當(dāng)主機(jī)從存儲器讀一個(gè)字的數(shù)據(jù)時(shí)，它將會同時(shí)把存儲器中和它相鄰的內(nèi)容讀到同一塊中［1-2］。

圖1 主機(jī)、存儲器以及緩存之間的關(guān)系

2 主機(jī)與存儲器之間的緩存技術(shù)發(fā)展概況

主機(jī)與存儲器之間的緩存技術(shù)的發(fā)展路線主要包括：第一非阻塞緩存技術(shù)，第二犧牲緩存技術(shù)，第三跟蹤緩存技術(shù)［3］。

主機(jī)與存儲器之間的緩存技術(shù)發(fā)展的初期，當(dāng)緩存發(fā)生缺失時(shí)，主機(jī)必須先停下來，然后從存儲器中調(diào)取缺失的數(shù)據(jù)塊，以執(zhí)行接下來的命令。非阻塞的緩存技術(shù)允許發(fā)生緩存缺失時(shí)，主機(jī)在等待緩存給出數(shù)據(jù)的同時(shí)，從指令緩存中取指令繼續(xù)工作。數(shù)據(jù)系統(tǒng)控制公司的專利US4370710A，1983年1月25日公開了一種利用缺失信息保持寄存器以防止緩存未命中的死鎖的緩存結(jié)構(gòu)，其公開了非阻塞緩存的實(shí)現(xiàn)方法，該系統(tǒng)維持了一個(gè)缺失信息寄存器組，當(dāng)發(fā)生緩存缺失時(shí)記錄所需要的信息，相當(dāng)于一個(gè)中斷保護(hù)寄存器，保存中斷發(fā)生時(shí)的上下文信息，并發(fā)送堆棧以配合其他裝置進(jìn)行缺失處理，而緩存繼續(xù)應(yīng)對另外的數(shù)據(jù)請求。后來隨著主機(jī)以及緩存技術(shù)的發(fā)展，每條指令所耗費(fèi)的機(jī)器周期數(shù)據(jù)量急劇下降，當(dāng)發(fā)生一次緩存缺失時(shí)，缺失的損失是一百個(gè)指令周期甚至更多。數(shù)據(jù)設(shè)備公司的專利US5261066A，1993年11月9日公開了一種小全相連緩存和預(yù)取緩存的數(shù)據(jù)處理系統(tǒng)和方法，在緩存和它與下一級存儲器是數(shù)據(jù)通路之間設(shè)一個(gè)全相連的缺失緩存，缺失緩存的容量比一級緩存的容量小，缺失緩存用來存放由于失效而被丟棄的塊。當(dāng)一級緩存發(fā)生缺失時(shí)，在訪問下一級存儲器前，先檢查缺失緩存中是否有所需的塊，有則將該塊與一級緩存中某個(gè)塊交換。但這主要使存儲器與緩存中的內(nèi)容相對應(yīng)，這使得緩存中的每行按照虛擬地址或物理地址順序存放數(shù)據(jù)或指令。英特爾公司的專利US5381533A，1995年1月10日公開了一種位于獨(dú)立于虛擬地址線的跟蹤部件周圍的動(dòng)態(tài)指令流緩存，緩存是一個(gè)雙端口緩存，兩個(gè)端口都有各自的數(shù)據(jù)線和地址線，一個(gè)端口主機(jī)和存儲器交互，另一個(gè)與線緩沖相連，緩存的輸入來自線緩沖，然后線緩沖將數(shù)據(jù)和地址送至緩存，線緩沖存儲分支預(yù)測指令，下一地址和蹤跡。相比之前的根據(jù)預(yù)先決定的地址來進(jìn)行順序線性組織的緩存，跟蹤緩存是根據(jù)實(shí)際程序的執(zhí)行進(jìn)行動(dòng)態(tài)組織。若程序有分支，緩存根據(jù)分支轉(zhuǎn)移結(jié)果把下一條需要執(zhí)行的指令組織到這一個(gè)緩存塊中，減少了緩存缺失［4］。

3 主機(jī)與存儲器之間的主流緩存技術(shù)

英特爾公司是生產(chǎn)處理器、芯片組、板卡及系統(tǒng)等的廠家，同時(shí)其對緩存的發(fā)展也有重要貢獻(xiàn)，因此，選擇英特爾公司為本領(lǐng)域的重要申請人，對其專利進(jìn)行梳理，得出英特爾公司關(guān)于緩存技術(shù)發(fā)展的脈絡(luò)［5］。

專利US5829025A，1998年10月27日公開了一種多級緩存中緩存單元分配的方法，提出了非即時(shí)數(shù)據(jù)和即時(shí)數(shù)據(jù)的數(shù)據(jù)標(biāo)識方法，和基于該方法的緩存分配原理。在緩存分配時(shí)被快取的數(shù)據(jù)是頻繁使用的數(shù)據(jù)，所以緩存塊分配時(shí)應(yīng)盡量避免分給那些短時(shí)間不用的數(shù)據(jù)。專利US6202129A，2001年3月13日通過引入一個(gè)共享的緩存結(jié)構(gòu)來消除獨(dú)立緩沖器，減小了硬件開銷，US2002007441A1，2002年1月17日公開了一種即時(shí)和非即時(shí)指令的共享緩存結(jié)構(gòu)，本質(zhì)技術(shù)與專利US6202129A相同，只是從另一個(gè)方面對緩存進(jìn)行保護(hù)。US2003126365A1，2003年7月3日公開了一種在多核系統(tǒng)中多個(gè)處理核之間緩存塊的轉(zhuǎn)移，緩存的一致性是通過每個(gè)核的專用緩存，不需要將數(shù)據(jù)路由到片外的存儲器，再從片外存儲器讀取數(shù)據(jù)，提高了緩存一致性效率。US2004039880A1，2004年2月26日公開了一種多核處系統(tǒng)中共享緩存的一致性的方法和裝置，第一級高速緩存將多個(gè)緩存塊維持在兩個(gè)不同的修改狀態(tài)中。第一修改狀態(tài)表明修改的高速緩存塊最近拷貝，第二修狀態(tài)表明修改的緩存塊的過時(shí)拷貝。US2008022049A1，2008年1月24日公開了共享緩存中的動(dòng)態(tài)預(yù)分類，通過對數(shù)據(jù)的預(yù)分類的方法減小對共享緩存中數(shù)據(jù)的存取時(shí)間，降低功耗。

4 結(jié)論

本文通過檢索緩存專利技術(shù)發(fā)現(xiàn)，緩存技術(shù)在外國發(fā)展較早，核心專利為外國申請，主要為美國，通過對英特爾公司關(guān)于緩存專利進(jìn)行梳理得知，英特爾公司對重要的專利會通過多方面申請專利進(jìn)行全面保護(hù)，并在多個(gè)國家進(jìn)行申請保護(hù)。

［1］李亞民.計(jì)算機(jī)組成與系統(tǒng)結(jié)構(gòu)［M］.北京：清華大學(xué)出版社，2000.

［2］C.Kim,D.Burger,S.Keckler.Nonuniform Cache Architectures for Wire-Delay Dominated On-Chip Caches［J］.IEEEMICRO,2003,272（03）：112-114.

［3］M.R.Many.Cache coherence techniques formulticore processors［J］.University of Wisconsin at Madison,2008（205）：45-47.

［4］高云.簡述計(jì)算機(jī)存儲系統(tǒng)的分層結(jié)構(gòu)［J］.福建電腦，2004（6）：23-26.

［5］Wilkes.Slave Memories and Dynamic Storage Allocation［J］.Trans.IEEE，1965，14：270.