window 쪼물딱 거리기 : 할당과 InterlockedExchange 중 누가 더 빠를까?

할당과 InterlockedExchange 중 누가 더 빠를까?

예전에 nop 와 pause 중에 누가 더 많은 clock 을 소비할까.. 궁금해서 약간의 삽질을 한적이 있습니다.
전 가끔 이런 요상한 짓을 즐겨한답니다. ~@,.@~
(제 블로그에 계속 오셨던 분이라면 아실 듯 ==> nop vs pause )

오늘은 갑자기 할당 (e.g. a = b) 을 사용하는 것과 InterlockedXXX 함수를 이용하는 것 중에 누가 더 빠를까 하는 궁금증이 생기더군요. >.<
Interlockedxxx 함수는 lock cmpxchg 인스트럭션을 이용하더군요.
당연히 LOCK# 시그널을 발생시키고, 어쩌구 저쩌구 하는 일을 하니까 InterlockedXXX 함수가 느릴거라 생각했습니다.

과연... 그럴까요?

아래는 테스트에 이용한 코드입니다.

눈여겨 봐야할 코드가 있는데 바로~ ReadTSC() 함수입니다.
저도 오늘에야 확실하게 알게된 내용입니다만, rdtsc 인스터럭션은 serialization 이 보장되지 않는 인스트럭션입니다.
즉 out-of-order execution 가능성을 가지고 있다는 소립니다.
아하 ~~ 뭔소린지 모르겠군요. (-_-)

예를 들면 아래와 같은 코드가 있다고 치죠.

serialization_지원_안하는_명령어_1
serialization_지원_안하는_명령어_1
serialization_지원_안하는_명령어_1

당근 1, 2, 3 명령어 순으로 실행되길 바라지만 실제로는 명령어를 순서대로 처리 하지 않을 수도 있단 겁니다.
파이프라인을 효율적으로 쓰기위해 CPU 프론트 엔드에서 당연히 그렇게 처리하리라는 예상이 되긴 합니다.
하여간 이런걸 out-of-order execution 이라고 합니다.
물론 serialization 이 보장되는 명령어가 있습니다. serialization 이 보장되는 명령중에는 privilege level 에서만 사용할 수 있는 명령어와 상관없이 쓸 수 있는 명령어가 있는데요, CPUID 명령은 privilege level 에 상관없이 쓸 수 있습니다.

serialization_지원_안하는_명령어_1
CPUID
serialization_지원_안하는_명령어_1
CPUID
serialization_지원_안하는_명령어_1
CPUID

이렇게 코드를 작성하면 serialization 이 된다는 소리죠. 간단하죠?
이런 이유로 ReadTSC() 함수에는 rdtsc 만 딸랑 있는 것이 아니라 rdtsc 를 호출하기 전에 cpuid 를 호출해 주는 겁니다.
실제로 cpuid 명령 없이 rdtsc 만 호출하면 매번 값이 묘하게 나오는걸 확인할 수 있습니다.


#define ReadTSC( x )    \
            __asm cpuid                   \
            __asm rdtsc                   \
            __asm mov dword ptr x,eax     \
            __asm mov dword ptr x+4,edx
            
int _tmain(int argc, _TCHAR* argv[])
{
  __int64 start = 0, end = 0, total = 0, evg = 0;
  LONG target = 0, value = 1;
  
  for (int x = 0; x < 32; x++)
  {
    // interlocked operation
    //
    for (int i = 0; i < 12800; i++)
    {
      ReadTSC(start);
      InterlockedExchange(&target, value);
      ReadTSC(end);   
      evg += end - start;
    }
    _ftprintf(stdout, _T("everage of interlocked operation: %04.2f \n"), (double)(evg / 12800));

    // assign 
    //
    evg = 0;
    for (int i = 0; i < 12800; i++)
    { 
      ReadTSC(start);

      // optimization 땜시롱.. 어셈으로
      //
      //target = value;
      __asm 
      {
        mov eax, dword ptr [value]
        mov dword ptr [target], eax
      }
      ReadTSC(end);   
      evg += end - start;   
    }
    _ftprintf(stdout, _T("everage of assign : %04.2f \n\n"), (double)(evg / 12800));
  }
  

  return 0;
}

과연 .. 결과는 어떨까요?

everage of interlocked operation: 697.00
everage of assign : 537.00

everage of interlocked operation: 1230.00
everage of assign : 553.00

everage of interlocked operation: 1227.00
everage of assign : 549.00

everage of interlocked operation: 1205.00
everage of assign : 793.00

everage of interlocked operation: 1479.00
everage of assign : 544.00

everage of interlocked operation: 1244.00
everage of assign : 581.00

everage of interlocked operation: 1233.00
everage of assign : 538.00

everage of interlocked operation: 1214.00
everage of assign : 536.00

역시 그냥 할당하는게 빠르군요. ^.^

참고 자료
- intel white paper : Measuring Instruction Latency and Throughput
- intel manual volume 3A, 7-4 SERIALIZING INSTRUCTIONS