[전쟁사] 158,962,555,217,826,360,000 의 비밀 에니그마

코드북암호와 기계암호(ROTOR 암호기)

  암호학자들은 1차 세계대전(1914년 7월 28일 ~ 1918년 11월 11일)에서 연합군이 이길 수 있었던 것은 암호해독경쟁에서 이겼기 때문이라고 한다.

 1910년 교황청에서 사용한 코드북

  당시에 코드북암호를 사용하고 있었다. 이 암호는 문자의 의미를 숨기는 것이 아니라 문자의 통계적인 특성을 없애기 위해 단어의 의미를 숨기는 방식의 암호이다. 이 암호를 복호화하기 위해서는 같은 코드북을 송신자와 수신자가 동시에 갖고 있어야만 되었다. 이 암호는 규칙이 없어 해독하기가 어렵지만 단 한 권이라도 적의 손에 넘어가면 곧바로 암호가 해독된다는 단점이 있다.

 

  제1차 세계대전에서 사용되던 코드북이 영국측에 넘어가는 바람에 독일의 외무부장관 짐머만(Arthur Zimmermann)이 미국의 참전을 막기 위해 1917년 1월에 멕시코에 보낸 코드북암호문(미국과 전쟁을 하도록 촉구함)이 해독되어 결국 미국이 연합국 측에 합류하여 독일이 전쟁에서 패하게 된다.

 

  이에 따라 새로운 암호의 필요성이 대두 되었다. 각 국의 군사 외교적인 기밀을 유지하기 위하여 새로운 암호개발이 요구되었는데, 1920년에 독일 엔지니어 셀비우스(Arthur Scherbius)가 여러 개의 회전판(rotor)를 이용하여 만든 기계를 이용한  ROTOR(회전판) 암호기를 개발했다. 이 암호기는 이제까지 사용되지 않았던 기계식 암호로서 1919년 10월에 코흐가 특허 신청한 암호기 제작방법을 1927년 베를린 출신의 엔지니어 셀비우스(Arthur Scherbius)가 특허권을 받아 실물을 제작하여 상업용으로 판매하였다.

 

  이 기계의 이름은 '수수께끼' 라는 뜻으로 아무도 풀지 못할 것이라 해서 ‘에니그마(ENIGMA)’라고 이름을 붙였고, 크기는 가로, 세로 30cm, 높이 15 cm, 무게 30kg으로 겉보기에는 둔탁한 타자기로 보였다.

 

  에니그마를 처음 만든 당시에는 평화시대여서 암호문의 수요가 없어 에니그마는 인정받지 못했으나, 2차 세계 대전(1939년 9월 1일 ~ 1945년 8월 15일)시 독일군이 사용하여 위력을 발휘하였지만, 이것이 해독되어 독일이 연합군에게 패하고 만다.

 

 이 암호기의 개량종인 헤겔린(Hegelin)은 한국전쟁(1950년 6월 25일 ~ 1953년 7월 27일)에도 이용되었다.

1920년대 독일의 Arthur Scherbius의 Enigma

       

  ROTOR 암호기는 고전암호의 다중대체암호를 기계적으로 구현하기 위한 시도로서 독일, 스위스, 미국, 일본 등 여러 나라에서 제작되었다. 그 중 ENIGMA는 네덜란드에서 만들어 2차 세계대전 중 독일군이 사용한 대표적인 기계암호이다.

 

  에니그마는 사진에서 보듯이 크게 다음과 같이 구성되어 있다.

구    성	설     명
자  판(Tastatur)	알파벳 26자 평문 입력
배전반(Steckbrett)	선을 선결하여 임의의 두 문자를 서로 교환
회전판(Rotor)	자판을 누를 때마다 한 칸씩 자동차의 거리계기판처럼 회전
전구판(Lampenfeld)	자판(평문)을 누를 때마다 불(암호문)이 들어옴

  작동원리는 자판에 평문을 누르면, 전기신호의 전달이 배전반, 3개의 회전판과 반사판을 되돌아 나와 다시 3개의 회전판, 배전반을 거쳐 전구판에 암호문을 표시하는 원리로 작동된다.

 3개의 회전판, 배전반과 반사판을 가진 Enigma의 작동원리

  에니그마의 암호키의 종류는 회전판은 서로 바꿀 수 있고, 반사판과 배전반의 전선은 다시 이을 수 있는 구조로 되어있다. 따라서

  ①회전판의 위치 선정하는 방법으로 6가지(3개를 차례로 늘어놓는 순열의 수),

  ②회전판의 처음 시작위치(A에서 Z중 임의로 선택)를 선택하는 방법의 의 가짓수,

  ③회전판들의 알파벳 배치 변경(Ringstellung)을 통한 경우의 수 . 즉 ①②③에서 총

 

  그리고 뒤에 있는 ④반사판(Reflector)는 임의의 두 글자를 서로 교환하여 주는데 이는 가능한 조합의 수를 더욱 늘려 줄 뿐더러 한 글자는 절대도 똑 같은 글자로 암호화되지 않게 하여 준다(예를 들어 'B'는 절대로 'B' 자신으로 암호화되지 않는다). 보통 전쟁 초기에는 7쌍(14글자)을 서로 교환하고 나머지 12자는 그대로 통과시키게 반사판가 만들어졌었는데 이는 총 1,305,093,289,500가지의 경우의 수(이 경우의 수 계산은 생략)를 가진다. 그리하여 이 경우의 수를 위의 에니그마의 상태 수와 곱하면 ①②③④에서 약 4,920,000,000,000,000,000,000이라는 22자리의 천문학적인 경우의 수가 나온다.

 

  여기에 ⑤배전반의 전선 연결하는 방법의 수를 곱하면 더욱 커지는 경우의 수가 나온다. 전쟁이 진행되면서부터는 회전판의 수를 점차 늘려 나중에는 12개(<그림 4.13.4> 참조)까지 만들었다. 사실 이 경우의 수를 당시의 계산능력으로 추측한다는 것은 사실상 불가능에 가까웠다.

12개의 회전판

  독일 암호국은 각 무선국에 이 경우의 수들 중에서 몇 가지씩을 취해 코드책을 만들어 배포하였다. 이 책에는 날짜별로 사용해야 하는 회전판의 상태가 적혀 있다. 통상 한 달씩 유효한 책들을 미리 만들어 배포하였고 하루씩 유효한 코드는 전쟁이 막바지에 달해서는 8시간으로 줄어들었다. 쉽게 짐작하겠지만 이 책은 어떤 일이 있어도 적에게 넘어가서는 안 되는 비밀코드인 것이다. 이 책은 아주 쉽게 불에 타버리고 물에도 글씨가 지워지게 하여(U-보트용) 적에게 넘어가는 가능성을 최소화하였다.

예제

 다음 독일어평문을 에니그마에서 사용한 방법으로 암호화하여 보자. 암호문을 보내는 날짜는 1941년 12월 28일이고, 수신자에게 보내야 하는 문장은 “RUECKZUG(후퇴!)”이다. 코드책을 찾아보니 12월 28일에 설정되어야 하는 에니그마의 조건은 다음과 같이 나와 있다.

* 회전판 IV, II, V.

* 회전판 링의 설정 STR

* 배전반 (AG) (BK) (EY) (IP) (ZN) (OS) (QC)

  이 지침은 5개(위 설명에서는 3개의 회전판만을 생각했으나 전쟁 발발 이후 독일군은 회전판수를 5개로 늘렸다)의 회전판(I, II, III, IV, V)중에서 IV, II, V의 회전판을 순서대로 골라 암호기에 넣고 회전판 IV에서 알파벳 S를 1의 위치에 맞추고, 회전판 II에서는 T를 1에, 회전판 V에서는 R을 1의 위치에 넣은 후 뒤쪽의 배전반에서는 위에 적혀있는 7쌍의 알파벳들을 서로 연결시켜 주면 되는 것이다.

  그런 후 암호기의 초기설정(Grundstellung)은 책에 있는 대로 하는 것이 아니라 송신자가 직접 정해야 한다. 예를 들어 송신자가 이번 전문의 초기설정 값으로 ‘YUN’을 정했다면 코드 책에 나와 있는 12월 28일의 회전판 링의 설정은 ‘STR’이므로 이 ‘STR’로 우선 초기설정을 한 후 송신자가 정한 설정 값을 두 번 반복해서(‘YUNYUN’) 암호화하여  초기설정 암호문(예를 들어 ‘FYVDSD’라 하자)을 구한다.

  초기값의 암호문을 구한 후에 에니그마의 회전판을 ‘YUN’으로 다시 설정한 후 나머지 평문을 암호화하여 모두 보내면 되는 것이다. ‘RUECKZUG’이 ‘YUN’설정 후 암호화 된 값이 ‘DTJOHEDF’이라 하면 12월 28일에 보내야 하는 암호문은 송신자초기 설정값+평문을 암호화한 ‘FYVDSDDTJOHEDF’인 것이다.

  그러면 수신자 암호병은 우선 같은 코드 책을 가지고 있으므로 이를 보낸 송신자와 같은 조건으로 에니그마를 맞추어 놓고 수신된 암호문 ‘FYVDSDDTJOHEDF’ 중에서 앞부분 6문자 ‘FYVDSD’을 12월 28일의 초기설정 ‘STR’ 값으로 놓고 복호화하면 ‘YUNYUN’이 나오고, 6문자 다음 암호문의 초기설정은 ‘YUN’이라는 것을 알게 된다. 그리하여 나머지 암호문(‘DTJOHEDF’)을 ‘YUN’을 이용하여 복호화하면 “RUECKZUG(후퇴!)”이 된다.

에니그마 암호 해독법

  처음으로 에니그마의 중요성을 인식한 나라는 폴란드였다. 독일이 처음으로 에니그마를 군사용으로 개량하였을 때부터 폴란드 쪽에서는 에니그마의 암호분석을 위한 부서를 만들었었다. 그러나 위에서 언급한 에니그마의 복잡성 때문에 쉽게 뜻을 이루지 못했다. 이럭저럭 별 성과 없는 3-4년이 지났다. 독일군의 에니그마는 난공불락으로 보였다. 그러나 수학자 르예프스키(Marian Rejewski)가 팀에 합류한 뒤로 양상은 틀려지기 시작했다.

  사실 모든 암호 시스템이 그러하듯이 시스템의 취약점은 이를 사용하는 사람들의 ‘인간적인 실수’이다. 위에서 말했듯이 암호병은 전문을 암호화하여 보내기 전에 에니그마의 초기설정 값을 암호병 자신이 결정해서 그날의 초기설정 값으로 두 번 반복해서(위의 예를 보면 ‘YUNYUN’) 보내야 한다. 암호 병들은 한번 사용한 설정 값은 다시는 사용해서는 안 된다는 지침에도 불구하고 자주 같은 값을 반복하여 사용하였던 것이다. 더군다나 병사들은 자신이 좋아하는 특정 문자나 간단한(‘AAA’같은) 문자들을 사용하였다. 르예프스키는 이를 놓치지 않았다. 자주 사용되는 처음의 6자에 무슨 중요한 의미가 담겨 있음을 알게 되었다.

  그러던 와중에 프랑스 정보국으로부터 뜻하지 않은 정보를 받게 된다. 독일군이 병사들에게 나누어준 에니그마의 사용설명서를 접하게 된 것이다. 이에 힌트를 얻어 모든 통신문의 처음 6자를 모아 분석하기 시작했고 결국은 이 6자는 3자가 2번 반복된다는 사실과 회전판의 초기상태와 밀접한 관련이 있다는 것을 알아내었다. 에니그마는 서서히 해독되어져 갔다.

  분석은 계속되어 일 년의 시간이 지난 후 결국에는 105,456개의 회전판의 모든 초기상태를 한 도면에 정리하기에 이른다. 그리하여 독일군의 암호문은 폴란드측에 의해 20분 안에 해독될 수 있게 된다. 하지만 이런 폴란드 측의 해독 방법은 독일이 에니그마의 운용 방법에 조금이라도 손을 대면 폴란드 측의 노력이 헛수고가 될 수 있는 약점을 가지고 있었다. 실제로 1937년 말에 가서 독일군은 암호기의 초기설정(Grundstellung) 운용 방법을 변경하였고 또 1938년 12월에는 회전판의 수를 3개에서 5개로 높였다. 매번 폴란드 측에서는 새로 시작해야만 했지만 결국에는 에니그마를 해독할 수 있는 기계해독기(Bomba)를 만들기까지는 하였지만 해독을 위한 시간이 너무 길어 실용성이 없었다.

  에니그마 암호기는 암호키의 길이가 길어 암호해독을 위해서는 많은 계산량이 요구되었지만, 1939년 폴란드로 유출된 복제품을 가지고 폴란드의 르예프스키(Marian Rejewski)가 에니그마암호를 해독하는데 크게 기여하였다.

  1939년 9월 독일의 폴란드 침공이 있기 전에 다행히 폴란드는 영국과 프랑스의 정보국 사람들을 초대하여 자신들의 작업을 모두 전수하는데 성공한다. 그 후 독일의 폴란드와 연이은 프랑스의 점령으로 에니그마에 대한 연구는 바다 건너 영국으로 넘어갔다.

  2차대전 기간동안 영국은 블리칠리 파크라는 곳에서는 영국과 유럽의 유명한 수학자들이 에니그마암호를 밤을 새워가면서 독일군의 암호전문을 해독하고 있었다.

  이 때 개발한 기계식 에니그마 암호 해독기가 폴란드 기계식해독기(Bomba)를 발전시켜 이름도 비슷한 봄베(Bombe)로 해독을 하다가 봄베를 개량하여 해독기를 만들기는 하지만 1939년 이전의 폴란드와 같이 실용성이 없었다. 즉 계산 시간이 너무 길었던 것이다. 그래서 과학자들은 새로운 빠르고 자동화된 해독기의 필요성을 느끼게 되어 영국 팀은 미국과의 협력을 통해 더 빠른 속도를 가진 새로운 전자식 암호해독기를 A. M. Turing과 D. Knox가 개발했는데 이 기계의 이름은 최초의 컴퓨터인 콜로수스(Colossus)이다.

 

  이 기계는 1943년에 튜링의 아이디어를 바탕으로 만든 2천4백 개의 진공관을 가진 전자식 해독기이다. ‘거인’ 이라는 의미인 이 기계는 이름에 걸맞게 1초에 2만5천자를 변역해냈다. 1943년 이후로는 전수조사로 모든 에니그마의 코드를 해독할 수 있어 전쟁을 연합군의 승리로 이끌 수 있었다.

 

  실제로 전쟁이 끝날 때까지 영국 측의 에니그마암호 해독에 대한 보안으로 독일최고사령부는 자신들의 암호가 해독되었다고 믿지 않았다고 한다. 작전의 실패에 대해서는 연합군 스파이에 의해 정보가 새어나갔기 때문에 실패했다고 생각했다. 이 에니그마에 대한 비밀은 1980년대가 되어서야 비밀 해제되어 일반에 공개될 수 있었다.

  1950년대 이후로는 컴퓨터 암호 시대가 된다.

 

 

아래는 참고 동영상

(어색한 한글 자막 됩니다)