一、什么是 LRU 算法
LRU就是一種緩存淘汰策略讳侨。
計算機的緩存容量有限,如果緩存滿了就要刪除一些內(nèi)容奏属,給新內(nèi)容騰位置跨跨。但問題是,刪除哪些內(nèi)容呢囱皿?我們肯定希望刪掉哪些沒什么用的緩存勇婴,而把有用的數(shù)據(jù)繼續(xù)留在緩存里,方便之后繼續(xù)使用嘱腥。那么耕渴,什么樣的數(shù)據(jù),我們判定為「有用的」的數(shù)據(jù)呢齿兔?
LRU 緩存淘汰算法就是一種常用策略橱脸。LRU 的全稱是 Least Recently Used,也就是說我們認為最近使用過的數(shù)據(jù)應該是是「有用的」分苇,很久都沒用過的數(shù)據(jù)應該是無用的添诉,內(nèi)存滿了就優(yōu)先刪那些很久沒用過的數(shù)據(jù)。
二组砚、LRU 算法描述
LRU 算法實際上是讓你設計數(shù)據(jù)結(jié)構:首先要接收一個 capacity 參數(shù)作為緩存的最大容量,然后實現(xiàn)兩個 API掏颊,一個是 put(key, val) 方法存入鍵值對糟红,另一個是 get(key) 方法獲取 key 對應的 val,如果 key 不存在則返回 -1乌叶。
注意哦盆偿,get 和 put 方法必須都是 的時間復雜度,我們舉個具體例子來看看 LRU 算法怎么工作准浴。
/* 緩存容量為 2 */
LRUCache cache = new LRUCache(2);
// 你可以把 cache 理解成一個隊列
// 假設左邊是隊頭事扭,右邊是隊尾
// 最近使用的排在隊頭,久未使用的排在隊尾
// 圓括號表示鍵值對 (key, val)
cache.put(1, 1);
// cache = [(1, 1)]
cache.put(2, 2);
// cache = [(2, 2), (1, 1)]
cache.get(1); // 返回 1
// cache = [(1, 1), (2, 2)]
// 解釋:因為最近訪問了鍵 1乐横,所以提前至隊頭
// 返回鍵 1 對應的值 1
cache.put(3, 3);
// cache = [(3, 3), (1, 1)]
// 解釋:緩存容量已滿求橄,需要刪除內(nèi)容空出位置
// 優(yōu)先刪除久未使用的數(shù)據(jù)今野,也就是隊尾的數(shù)據(jù)
// 然后把新的數(shù)據(jù)插入隊頭
cache.get(2); // 返回 -1 (未找到)
// cache = [(3, 3), (1, 1)]
// 解釋:cache 中不存在鍵為 2 的數(shù)據(jù)
cache.put(1, 4);
// cache = [(1, 4), (3, 3)]
// 解釋:鍵 1 已存在,把原始值 1 覆蓋為 4
// 不要忘了也要將鍵值對提前到隊頭
三罐农、LRU 算法設計
分析上面的操作過程条霜,要讓 put 和 get 方法的時間復雜度為 O(1),我們可以總結(jié)出 cache 這個數(shù)據(jù)結(jié)構必要的條件:查找快涵亏,插入快宰睡,刪除快,有順序之分气筋。
因為顯然 cache 必須有順序之分拆内,以區(qū)分最近使用的和久未使用的數(shù)據(jù);而且我們要在 cache 中查找鍵是否已存在宠默;如果容量滿了要刪除最后一個數(shù)據(jù)麸恍;每次訪問還要把數(shù)據(jù)插入到隊頭。
那么光稼,什么數(shù)據(jù)結(jié)構同時符合上述條件呢或南?哈希表查找快,但是數(shù)據(jù)無固定順序艾君;鏈表有順序之分采够,插入刪除快,但是查找慢冰垄。所以結(jié)合一下蹬癌,形成一種新的數(shù)據(jù)結(jié)構:哈希鏈表。
LRU 緩存算法的核心數(shù)據(jù)結(jié)構就是哈希鏈表虹茶,雙向鏈表和哈希表的結(jié)合體逝薪。這個數(shù)據(jù)結(jié)構長這樣:
思想很簡單,就是借助哈希表賦予了鏈表快速查找的特性嘛:可以快速查找某個 key 是否存在緩存(鏈表)中蝴罪,同時可以快速刪除董济、添加節(jié)點∫牛回想剛才的例子虏肾,這種數(shù)據(jù)結(jié)構是不是完美解決了 LRU 緩存的需求?
也許讀者會問欢搜,為什么要是雙向鏈表封豪,單鏈表行不行?另外炒瘟,既然哈希表中已經(jīng)存了 key吹埠,為什么鏈表中還要存鍵值對呢,只存值不就行了?
想的時候都是問題缘琅,只有做的時候才有答案粘都。這樣設計的原因,必須等我們親自實現(xiàn) LRU 算法之后才能理解胯杭,所以我們開始看代碼吧~
四驯杜、代碼實現(xiàn)
package LRU;
import java.util.HashMap;
import java.util.LinkedList;
/* Node節(jié)點數(shù)據(jù)結(jié)構 */
class Node{
public int key, val;
public Node next, prev;
Node(int k, int v){
this.key = k;
this.val = v;
}
}
/* 雙向鏈表數(shù)據(jù)結(jié)構====> 偷懶實現(xiàn) */
class DoubleList{
public LinkedList<Node> linkedList;
DoubleList(){
linkedList = new LinkedList<>();
}
// 在鏈表頭部添加節(jié)點 x,時間 O(1)
public void addFirst(Node x){
linkedList.addFirst(x);
}
// 刪除鏈表中的 x 節(jié)點(x 一定存在)
// 由于是雙鏈表且給的是目標 Node 節(jié)點做个,時間 O(1)
public void remove(Node x){
linkedList.remove(x);
}
// 刪除鏈表中最后一個節(jié)點鸽心,并返回該節(jié)點,時間 O(1)
public Node removeLast(){
return linkedList.removeFirst();
}
// 返回鏈表長度居暖,時間 O(1)
public int size(){
return linkedList.size();
}
}
public class LRU{
private HashMap<Integer, Node> map;
private DoubleList cache;
private int capacity; // 容量
LRU(int capacity){
this.capacity = capacity;
map = new HashMap<>();
cache = new DoubleList();
}
// LRU的get方法:在OS頁面調(diào)度中顽频,相當于使用了某頁
public int get(int key){
if(!map.containsKey(key)){ // 找不到該頁
return -1;
}
int val = map.get(key).val;
// 重新放入cache,相當于把該頁的位置提前
this.put(key, val);
return val;
}
public void put(int key, int val){
// create new Node
Node temp = new Node(key, val);
if(map.containsKey(key)){ //如果已經(jīng)存在了
cache.remove(map.get(key));
cache.addFirst(temp);
// 重點:別忘了更新hashtable
map.put(key, temp);
}
else{ // cache已滿太闺,需要移除最后一個并加入當前
if(capacity == cache.size()){
/**
* 當緩存容量已滿糯景,我們不僅僅要刪除最后一個 Node 節(jié)點,
* 還要把 map 中映射到該節(jié)點的 key 同時刪除省骂,而這個 key 只能由 Node 得到蟀淮。
* 如果 Node 結(jié)構中只存儲 val,那么我們就無法得知 key 是什么钞澳,就無法刪除 map 中的鍵怠惶,造成錯誤。
*/
Node last = cache.removeLast();
// 重點:勿忘更新hashtable
map.remove(last.key);
}
// 加入當前
cache.addFirst(temp);
// 更新cache
map.put(key, temp);
}
}
public static void main(String[] args) {
// 具體例子來看看 LRU 算法怎么工作
/* 緩存容量為 2 */
LRU cache = new LRU(2);
// 你可以把 cache 理解成一個隊列
// 假設左邊是隊頭轧粟,右邊是隊尾
// 最近使用的排在隊頭策治,久未使用的排在隊尾
// 圓括號表示鍵值對 (key, val)
cache.put(1, 1);
// cache = [(1, 1)]
cache.put(2, 2);
// cache = [(2, 2), (1, 1)]
cache.get(1); // 返回 1
// cache = [(1, 1), (2, 2)]
// 解釋:因為最近訪問了鍵 1,所以提前至隊頭
// 返回鍵 1 對應的值 1
cache.put(3, 3);
// cache = [(3, 3), (1, 1)]
// 解釋:緩存容量已滿兰吟,需要刪除內(nèi)容空出位置
// 優(yōu)先刪除久未使用的數(shù)據(jù)通惫,也就是隊尾的數(shù)據(jù)
// 然后把新的數(shù)據(jù)插入隊頭
cache.get(2); // 返回 -1 (未找到)
// cache = [(3, 3), (1, 1)]
// 解釋:cache 中不存在鍵為 2 的數(shù)據(jù)
cache.put(1, 4);
// cache = [(1, 4), (3, 3)]
// 解釋:鍵 1 已存在,把原始值 1 覆蓋為 4
// 不要忘了也要將鍵值對提前到隊頭
}
}