Redis 캐시 스탬피드 방지: 분산 락과 Jitter 활용 가이드
유명 연예인의 한정판 굿즈 판매가 시작되는 순간, 수십만 명의 사용자가 동시에 접속합니다. 이때 Redis에 저장된 상품 재고 데이터의 만료 시간이 하필 지금 끝난다면 어떤 일이 벌어질까요? 모든 요청이 한꺼번에 데이터베이스(DB)로 몰리며 서버가 마비되는 '…
5 Methods to Prevent Redis Cache Stampede Using Distributed Locks and Jitter
A cache stampede occurs when a heavily requested cache key expires, causing hundreds or thousands of concurrent requests to hit your database at on…
Redis 캐시 스탬피드: 단순 TTL이 당신의 DB를 죽이는 이유와 PER 알고리즘
이커머스 타임 세일 프로젝트를 진행하던 중, 오전 10시 정각마다 DB CPU가 100%를 치며 서버가 응답 불능(Hang) 상태 에 빠지는 현상을 겪었습니다. 로그를 분석해보니 특정 인기 상품의 캐시 만료 시점(TTL Expiry)과 정확히 일치했습니다. 수천 …
Redis Latency Spikes? Fixing the Thundering Herd with Probabilistic Early Expiration
Your dashboard looks stable. Throughput is steady at 5,000 RPS. Then, precisely at 12:00 UTC, the database CPU hits 100%, request latency jumps fro…