Data flow in cache

데이터 스토어보다 적은 양을 보관하는 데이터베이스의 Subset

  • 캐시는 가득 차지 않게 일정 양의 데이터를 유지해야함
  • 적절한 시간의 TTL(Time-To-Live) 값 설정 필요

Time To Live

  • TTL(Time To Live)
    • 데이터가 얼마나 저장될 것인지를 나타내는 시간 설정
    • 데이터의 수명을 관리하고 메모리 공간을 효율적으로 사용하는데 도움을 준다.
      SET a 100
  OK
  EXPIRE a 60
  (integer) 1
  TTL a
  (integer) 17
    • INCR, RENAME 하더라도 만료시간은 변경되지 않음
    • 하지만 기존 키에 새로운 값을 저장해 덮어쓰면 만료시간이 유지되지 않고 사라진다.
      SET b 100
  OK
  EXPIRE b 60
  (integer) 1
  TTL b
  (integer) 55
  SET b banana
  OK
  TTL b
  (integer) -1
  • 레디스에서 키가 만료됐다고 해도 바로 메모리에서 삭제되는 것은 아님
    • passsive 방식
      • 클라이언트가 키에 접근하고자 할 때 키가 만료됐다면 메모리에서 수동적으로 삭제한다.
    • active 방식
      • TTL값이 있는 키 중 20개를 랜덤하게 뽑아낸 뒤, 만료된 키를 모두 메모리에서 삭제한다.
      • 만약 25% 이상의 키가 삭제됐다면 다시 20개의 키를 랜덤하게 뽑은 뒤 확인 → 아니라면 뽑아놓은 20개의 키 집합에서 다시 확인
      • 이러한 과정을 1초에 10번 수행
    • 만료된 키를 곧바로 삭제하지 않기 때문에 키를 삭제하는 데에 들어가는 리소스를 줄일 수 있지만, 그만큼 메모리를 더 사용할 가능성이 존재한다.
    • 최악의 경우 전체 메모리의 1/4는 이미 만료된 키 값일 가능성 존재

메모리 관리와 maxmemory-policy 설정

레디스의 Memory는 제한적 → 모든 키에 만료시간 설정하더라도 메모리가 가득 차는 상황 발생 가능성 존재

  • 내부 정책을 사용해 어떤 키를 삭제할지 결정
  • maxmemory: 데이터의 최대 저장 용량 설정
  • maxmemory-policy: 용량 초과시 처리 방식 결정

Noeviction

  • 기본값: 데이터가 가득 차더라도 임의로 데이터를 삭제하지 않음 → 에러 반환
    • 캐시에 데이터 저장 불가능시 → 로직에 따라 장애상황 발생
    • 데이터가 가득 차더라도, 캐시 내부적 판단으로 데이터 삭제가 위험하다고 판단될 때 사용 가능

LRU eviction

  • LRU(Least-Recently Used) eviction 레디스에 데이터가 가득 찼을 때 가장 최근에 사용되지 않은 데이터부터 삭제하는 정책
    • 가장 덜(L) 최근에(R) 사용된(U)
    • 최근에 액세스되지 않은 데이터는 나중에도 액세스될 가능성이 낮을 것이라는 가정을 전제
  • volatile-lru
    • 만료시간이 설정돼 있는 키에 한해서 LRU 방식으로 키를 삭제
    • 만료시간이 설정돼 있는 키는 언젠가 삭제될 키라는 것을 의미 → 이런 키 중 가장 오래 사용되지 않은 키를 삭제
    • 삭제하면 안되는 값에 대해서는 만료시간 미지정
    • TTL가 모두 없다면 noeviction 상황과 동일 → 장애 상황 유발 가능성 존재
  • allkeys-LRU
    • 모든 키에 대해 LRU 알고리즘을 이용해 데이터 삭제 → 장애 방지

LFU eviction

  • LFU(Least-Frequently Used) eviction 레디스에 데이터가 가득 찼을 때 가장 자주 사용되지 않은 데이터부터 삭제하는 정책
    • 가장 덜(L) 자주(F) 사용된(U)
    • 자주 사용되지 않은 데이터는 나중에도 액세스될 가능성이 낮을 것이라는 가정을 전제
    • 키를 액세스하는 패턴에 따라 우선순위가 유동적으로 바뀜 → 특정 케이스에서 LRU 보다 더 효율적
    • 키가 오랫동안 사용되지 않았더라도 → 과거에 자주 액세스했던 키라면 나중에도 자주 사용될 수 있다는 가정
  • volatile-lfu
    • 만료시간이 설정돼 있는 키에 한해서 LFU 방식으로 키를 삭제
  • allkeys-lfu
    • 모든 키에 대해 LRU 알고리즘을 이용해 데이터 삭제
  • 레디스는 LRU, LFU 알고리즘 모두 근사 알고리즘으로 구현
    • 모든 키를 정확하게 찾아내는 것은 불필요한 CPU, 메모리 리소스 소비 가능성
    • 특정 키를 근사치로 찾아내 효율적으로 데이터를 삭제하는 방법으로 작동됨

RANDOM eviction

  • 레디스에 저장된 키 중 하나를 임의로 골라내 삭제
    • 삭제될 키 값을 계산하지 않음 → 레디스 부하가 없다.
    • 하지만, 나중에 사용될 수 있는 데이터를 삭제할 가능성이 높아짐
    • 이럴경우 데이터 저장소에서 다시 데이터를 가져와서 캐싱하는 불필요함 유발
    • 그리고 Redis는 LRU, LFU에 근사 알고리즘을 사용하기 때문에 큰 리소스를 사용하지 않음
  • volatile-random
    • 만료시간이 설정돼 있는 키에 한해서 Random 방식으로 키를 삭제
  • allkeys-random
    • 모든 키에 대해 Random 방식으로 데이터 삭제

volatile-ttl

  • 만료 시간이 가장 작은 키를 삭제
    • 삭제 예정 시간이 얼마 남지 않은 키를 추출해 해당 키를 미리 삭제
    • 근사 알고리즘 사용