[Java] Caffeine Cache란?

Caffeine은 Java에서 사용되는 고성능 로컬 캐시 라이브러리로, Google의 Guava Cache의 대체 라이브러리로 만들어졌으며, 성능(히트율과 처리량) 면에서 우수한 캐시이다. 분산 서버 등으로 인해 Redis 사용이 필요한 경우를 제외하면, 로컬 캐시로 적합하다고 한다.

 

Caffeine Cache 특징

카페인 캐시는 다음과 같은 특징을 갖는다. 나도 자세히 모든 걸 알진 못하지만, Java 백엔드 개발에 로컬 캐시가 필요한 경우 많이 사용한다고 하여 이번 개발 건에 적용해 보면서 알아본 내용을 기술하였다.

• 높은 성능 : ConcurrentHashMap보다 빠르고, Guava보다 3~10배 빠른 경우도 있음
• 자동 만료 : TTL(Time To Live), TTI(Time To Idle) 지원
• 최신 접근 기반 삭제 : LRU 대신 W-TinyLFU 기반 알고리즘 사용
• 비동기 로딩 지원 : AsyncLoadingCache 사용
• Soft/Weak 참조 : 메모리 부족 시 GC에 의해 제거되는 캐시 설정 가능
• 통계 제공 : 히트율, 로딩 시간 등 통계 수집 가능

 

---

 

Caffeine Cache 사용 방법

의존성 (Maven)

pom.xml 파일에 다음 내용을 추가한 뒤 빌드한다.

<dependency>
  <groupId>com.github.ben-manes.caffeine</groupId>
  <artifactId>caffeine</artifactId>
  <version>3.1.8</version>
</dependency>

 

 

주요 Functions

1) Cache(K, V) - 기본 캐시

put(K key, V value)

캐시에 값을 수동으로 저장한다.

cache.put("user1", "홍길동");

 

getIfPresent(K key)

캐시에 키가 있을 경우 값을 반환하고, 없으면 null을 반환한다.

String name = cache.getIfPresent("user1");  // "홍길동"

 

get(K key, Function<? super K, ? extends V> mappingFunction)

값이 없으면 함수로부터 값을 생성하고 저장 후 반환한다.

String name = cache.get("user2", k -> "기본값");

 

invalidate(K key)

특정 키의 캐시 항목을 삭제한다.

cache.invalidate("user1");

 

invalidateAll()

모든 캐시 항목을 삭제한다.

cache.invalidateAll();

 

asMap()

캐시를 ConcurrentMap처럼 사용한다.

cache.asMap().forEach((key, value) -> {
    System.out.println(key + ": " + value);
});

 

 

2) LoadingCache(K, V) - 자동 로딩 캐시

get(K key)

키가 없으면 등록된 로딩 함수로 값을 자동 생성 및 저장한다.

LoadingCache<String, String> loadingCache = Caffeine.newBuilder()
        .build(key -> "User_" + key);

String user = loadingCache.get("123");  // "User_123"

 

getAll(Iterable<? extends K> keys)

여러 키를 한 번에 로딩한다.

Map<String, String> users = loadingCache.getAll(List.of("1", "2"));

 

refresh(K key)

해당 키의 값을 백그라운드에서 재로딩한다.

loadingCache.refresh("123");

 

 

 

3) AsyncLoadingCache<K, V> – 비동기 캐시

get(K key)

값이 없을 경우 비동기 로딩 후 CompletableFuture로 반환한다.

AsyncLoadingCache<String, String> asyncCache = Caffeine.newBuilder()
        .buildAsync(key -> CompletableFuture.supplyAsync(() -> "AsyncUser_" + key));

CompletableFuture<String> future = asyncCache.get("123");
future.thenAccept(System.out::println);=

 

getAll(Iterable<? extends K> keys)

여러 키를 한 번에 로딩한다.

CompletableFuture<Map<String, String>> allUsers = asyncCache.getAll(List.of("1", "2"));
allUsers.thenAccept(map -> {
    map.forEach((k, v) -> System.out.println(k + ": " + v));
});

 

synchronous()

비동기 캐시를 동기 캐시처럼 사용할 수 있는 View이다.

Cache<String, String> syncView = asyncCache.synchronous();
String value = syncView.getIfPresent("123");

 

 

4) 설정 관련

maximumSize(long size)

최대 캐시 항목 개수를 지정한다.

Caffeine.newBuilder().maximumSize(1000);

 

expireAfterWrite(long duration, TimeUnit unit)

항목을 저장한 후 일정 시간이 지나면 만료시킨다.

Caffeine.newBuilder().expireAfterWrite(10, TimeUnit.MINUTES);

 

expireAfterAccess(long duration, TimeUnit unit)

항목에 접근한 후 일정 시간이 지나면 만료시킨다.

Caffeine.newBuilder().expireAfterAccess(5, TimeUnit.MINUTES);

 

refreshAfterWrite(long duration, TimeUnit unit)

일정 시간이 지나면 백그라운드에서 새로고침한다. (LoadingCache에만 해당).

Caffeine.newBuilder().refreshAfterWrite(5, TimeUnit.MINUTES);

 

recordStats()

통계 수집 (히트율, 미스율 등)

Cache<String, String> statsCache = Caffeine.newBuilder()
        .recordStats()
        .build();

CacheStats stats = statsCache.stats();
System.out.println("Hit Rate: " + stats.hitRate());

 

 

캐시 데이터 조회(get) 관련 차이점

캐시 미스를 무시하는 경우 getIfPresent를 사용하고, 조회 시 데이터가 없으면 DB에 Access하는 등의 작업을 통해 캐싱하는 프로세스를 추가하길 원하는 경우 get을 사용해야 한다.

 

getIfPresent(K Key)

단순 조회용 메서드로, 데이터가 없으면 null을 반환한다.

String val = cache.getIfPresent("id");  // 없으면 null

 

get(K key, Function<K,V> mappingFunction)

캐시에 데이터가 없으면 생성 후 저장한다. (Lazy loading)

String val = cache.get("id", k -> "default_" + k);

 

 

 

---

 

캐시 만료 정책

카페인 캐시의 만료 정책을 요약하면 다음과 같다.

• expireAfterWrite : 캐시에 쓰인 후 지정 시간 지나면 만료
• expireAfterAccess : 마지막 접근(읽기/쓰기) 후 지정 시간 지나면 만료
• refreshAfterWrite : 지정 시간 후 백그라운드에서 새로고침

 

---

 

API 사용 예시

1) 기본 캐시 생성

Cache<String, String> cache = Caffeine.newBuilder()
        .maximumSize(1000)             // 최대 1000개 저장
        .expireAfterWrite(10, TimeUnit.MINUTES) // 쓰기 후 10분 경과하면 만료
        .build();

2) 값 저장 및 조회

cache.put("key", "value");
String value = cache.getIfPresent("key");  // 있으면 반환

3) 값 자동 로딩

LoadingCache<String, String> loadingCache = Caffeine.newBuilder()
        .maximumSize(100)
        .expireAfterAccess(5, TimeUnit.MINUTES)
        .build(key -> loadFromDB(key)); // 없을 때 자동 로딩

String result = loadingCache.get("user123");

4) 비동기 캐시

AsyncLoadingCache<String, String> asyncCache = Caffeine.newBuilder()
        .expireAfterWrite(10, TimeUnit.MINUTES)
        .buildAsync(key -> loadFromDBAsync(key));

CompletableFuture<String> future = asyncCache.get("user123");

5) 통계 활성화

Cache<String, String> cache = Caffeine.newBuilder()
        .recordStats()
        .build();

CacheStats stats = cache.stats();
System.out.println(stats.hitRate());