对于小型和简单的缓存,什么是最好的数据结构

我经常需要相对较小的(10000个条目<1KB)缓存来加快计算速度。我通常的代码如下:

cache = {}
def calculate_caches(parms):
    if parms not in cache:
        cache[parms] = calculate(parms)
    return cache[parms]

工作正常,但对于长时间运行的进程,我担心内存泄漏。所以我经常像这样执行强力内存夹持:

if len(cache) > 1000:
    cache = {}

在大多数情况下都能很好地工作,并且仍然是干净、简单的代码。但如果我想要一个真正的 LRU strategy 我需要时间戳和缓存项。为此使用dict的问题是,使缓存过期现在意味着遍历整个缓存,这既不优雅也不高效。

cache = {}
def calculate_caches(parms):
    if parms not in cache:
        cache[parms] = (time.time(), calculate(parms))
    expire()
    return cache[parms][1]

def expire()
    if len(cache) > 1000:
        mintime = time.time()
        time2key = {}
        for key, (timestamp, val) in cache.items():
            mintime = min([mintime, timestamp])
            time2key[timestamp] = key
        if mintime in time2key:
            del cache[time2key[mintime]]

是否有更好的方法/数据结构来实现即席缓存?

我的问题和 this question 但我不需要按时间排序,我也不想被骗。