패스트캠퍼스 환급챌린지 18일차 : 현실 세상의 컴퓨터공학 지식 with 30가지 실무 시나리오 초격차 패키지 Online. 강의 후기

본 포스팅은 패스트캠퍼스 환급 챌린지 참여를 위해 작성하였습니다.

 

https://abit.ly/lisbva

Abit.ly 다운받기

 

 

 

공부 시작 시간 - 22:57

 

강의장 목록

 

 

오늘은 캐시 친화적인 코드와 그렇지 않은 코드를 깊이 있게 살펴보자, ARABOZA.

 

캐시 친화적이라는 말은 캐시 히트를 최대화하고 캐시 미스를 최소화하여 실행 속도를 비약적으로 높인다는 뜻이다.

 

첫째, 시간 지역성에 집중하자. 시간 지역성이란 한 번 참조된 데이터가 가까운 미래에 다시 참조될 가능성이 높다는 특성이다. 예컨대 다음 코드는 루프 안에서 변수 num을 계속 사용하기 때문에 캐시에 num이 머물면서 히트율이 매우 높다.

int num = 2;
for (int i = 1; i <= 9; ++i)
    cout << num << " x " << i << " = " << num * i << "\n";

변수 num이 캐시 라인에 유지되어 읽기 비용을 최소화한다.

 

둘째, 공간 지역성을 고려하자. 2차원 배열은 메모리에 행 우선(row-major) 방식으로 연속 저장된다. 열 우선(column-major) 순회 코드는 이 연속성을 무시하므로 캐시 미스가 빈번해진다.

int matrix[10000][10000];
for (int i = 0; i < 10000; ++i)
  for (int j = 0; j < 10000; ++j)
    matrix[j][i] = 1;   // 비추천

이와 달리 행 우선 순회는 인접한 메모리 블록을 순차 접근하여 캐시 효율이 극대화된다.

int matrix[10000][10000];
for (int i = 0; i < 10000; ++i)
  for (int j = 0; j < 10000; ++j)
    matrix[i][j] = 1;   // 추천

이처럼 간단한 순회 순서만 바꾸어도 실행 속도가 수배 가까이 개선될 수 있다.

 

 

셋째, 대용량 데이터 처리 시에는 블록 단위 처리(Loop Tiling)를 고려하자. 전체 배열이 캐시를 초과하면 단순 행 우선 순회만으로는 한계가 있다. 이때는 작은 블록 크기(B)가 캐시에 들어오도록 2중 루프를 다음과 같이 분할한다.

const int B = 64;
for (int ii = 0; ii < N; ii += B)
  for (int jj = 0; jj < N; jj += B)
    for (int i = ii; i < ii + B; ++i)
      for (int j = jj; j < jj + B; ++j)
        matrix[i][j] = 1;

이 기법은 각 블록이 캐시에 적재된 상태에서 연산을 집중 수행하므로 캐시 히트를 극대화한다.

넷째, 데이터 구조 설계에도 신경 써야 한다. 배열 대신 연결 리스트나 트리와 같은 포인터 기반 구조는 메모리 상에 흩어져 저장되기 쉽고 캐시 미스를 유발한다. 가능한 한 연속된 메모리 블록을 사용하는 것이 좋다. 예를 들어 여러 필드를 가진 구조체를 배열로 선언할 때, 실제로 자주 사용하는 필드만 따로 모아 별도 배열로 관리하면 캐시 활용도가 높아진다.

마지막으로 하드웨어 지원 기능을 활용해 보자.

 

컴파일러의 __builtin_prefetch나 C++17의 std::hardware_destructive_interference_size 같은 속성을 이용하면 미리 데이터를 캐시에 적재하거나 캐시 간섭을 줄일 수 있다. 다만 과도한 프리페치는 오히려 성능을 저하시킬 수 있으니, 실제 벤치마크를 통해 최적 지점을 찾아야 한다.

 

정리하자면, 캐시 친화적 코드는

1. 핵심 루프에서 같은 데이터를 반복 참조해 시간 지역성을 높이고,
2. 인접한 데이터를 순차 접근하며 공간 지역성을 최대한 활용하고,
3. 필요 시 루프 티링으로 블록 단위 처리하여 대용량 데이터에서도 캐시 효율을 유지하며,
4. 데이터 구조를 연속 메모리 기반으로 설계하고,
5. 적절한 프리페치 기법을 병행 적용함으로써 실현할 수 있다.

이러한 최적화 원칙을 염두에 두면, 메모리 계층 구조를 넘어 전체 시스템 성능을 비약적으로 향상시킬 수 있다. 프로그래머는 캐시 메모리 동작 방식을 이해하고 코드에 반영함으로써, 고성능 소프트웨어를 한층 더 발전시킬 수 있다.

 

 

 

 

 

공부 종료 시간 - 23:27