에니그마는 어떻게 해독되었을까? 전쟁의 흐름을 바꾼 암호해독

제2차 세계대전 당시 독일군은 에니그마라는 암호기계를 사용했다. 겉모습은 휴대용 타자기와 비슷했지만 내부에는 여러 개의 회전판과 전기회로가 들어 있었다. 운용자가 글자를 입력하면 에니그마는 전혀 다른 글자를 램프로 표시했다.

더욱 복잡한 점은 글자 하나를 누를 때마다 회전판이 움직였다는 것이다. 같은 글자를 연속해서 입력해도 매번 다른 결과가 나타났다. 독일군은 방대한 설정 조합을 가진 에니그마의 암호를 적이 해독하기 어렵다고 믿었다.

그러나 암호기계가 복잡하다고 해서 절대 안전한 것은 아니었다. 폴란드와 영국의 암호해독자들은 기계의 구조와 통신절차, 운용자의 습관을 분석하며 에니그마의 약점을 찾아갔다.

상업용 암호기계에서 군사 장비로

독일 기술자 아르투어 셰르비우스는 제1차 세계대전 말기부터 회전판을 이용한 암호기계를 개발했다. 초기 에니그마는 기업과 외교기관의 중요한 정보를 보호하기 위한 상업용 제품으로 소개되었다.

이후 독일군은 에니그마의 가능성에 주목했다. 장비는 군사용 요구에 맞게 개량되었고, 육군과 공군, 해군이 주요 통신을 보호하는 데 사용했다.

에니그마는 하나의 동일한 모델만을 의미하지 않았다. 사용 시기와 기관에 따라 여러 형태가 존재했고, 운용절차도 달랐다. 특히 독일 해군은 잠수함 작전과 관련된 통신을 보호하기 위해 더 복잡한 설정과 엄격한 절차를 적용했다.

에니그마는 어떻게 글자를 바꿨을까?

에니그마에는 키보드와 램프판, 플러그보드, 여러 개의 회전판과 반사판이 들어 있었다. 운용자가 키보드의 글자를 누르면 전기신호는 플러그보드를 지나 회전판 내부의 복잡한 배선을 통과했다.

전기신호는 반사판에서 방향을 바꾼 뒤 다시 회전판을 통과했고, 최종적으로 다른 글자의 램프를 켰다. 운용자는 불이 들어온 글자를 기록해 암호문을 만들었다.

한 글자를 입력할 때마다 적어도 하나의 회전판이 한 칸씩 움직였다. 일정한 횟수만큼 회전하면 옆의 회전판도 움직였다. 자동차의 주행거리계와 비슷하게 회전판의 위치가 계속 변하면서 문자변환 규칙도 달라졌다.

회전판의 종류와 배열, 시작 위치, 고리 설정, 플러그보드 연결방법까지 결합되면서 매우 많은 경우의 수가 만들어졌다. 해독자는 기계의 구조를 알고 있더라도 그날 사용한 설정을 찾아야 했다.

폴란드 암호해독자들이 만든 결정적 기반

에니그마 해독의 역사를 앨런 튜링과 영국의 이야기로만 설명하면 중요한 출발점을 놓치게 된다. 독일과 가까운 폴란드는 전쟁이 시작되기 전부터 독일군의 암호통신을 심각한 안보 위협으로 판단했다.

폴란드 암호국은 기존의 언어 전문가뿐 아니라 수학자들을 암호분석에 투입했다. 마리안 레예프스키와 예지 루지츠키, 헨리크 지갈스키 등은 에니그마의 문자변환을 수학적으로 분석했다.

이들은 독일군이 당시 사용했던 반복적인 메시지 설정 절차와 암호문 사이의 관계를 활용했다. 이를 통해 에니그마 내부 회전판의 연결구조를 추적하고, 일일 설정을 찾는 데 필요한 장비와 보조도구를 개발했다.

1939년 독일의 침공 가능성이 높아지자 폴란드는 자신들이 확보한 에니그마 관련 지식과 복제 장비, 해독기법을 영국과 프랑스에 공유했다. 이 성과는 영국이 에니그마 해독을 본격화할 수 있었던 중요한 출발점이었다.

블레츨리 파크에 모인 다양한 전문가들

영국은 제2차 세계대전 동안 블레츨리 파크에 대규모 암호해독 조직을 운영했다. 이곳에는 수학자와 언어학자뿐 아니라 체스 선수, 퍼즐 전문가, 무선감청요원, 공학자, 행정인력과 기계운용자들이 모였다.

무선감청소에서 수집한 독일군의 암호통신은 블레츨리 파크로 전달되었다. 분석가들은 암호문의 구조와 발신 부대, 송신 시간, 메시지 길이와 통신량을 함께 살펴봤다.

암호해독은 한 명의 천재가 혼자 해결하는 작업이 아니었다. 적의 통신을 수집하는 사람과 메시지를 분류하는 사람, 기계를 설계하는 사람과 해독 결과를 군사정보로 정리하는 사람이 서로 연결되어야 했다.

앨런 튜링과 봄브의 역할

앨런 튜링과 동료들은 폴란드의 선행 연구를 바탕으로 에니그마의 가능한 설정을 효율적으로 검사하는 영국식 봄브를 발전시켰다.

봄브는 암호문을 넣으면 원문이 자동으로 출력되는 기계가 아니었다. 해독자가 추정한 원문의 일부와 에니그마의 구조적 특성을 이용해 성립할 수 없는 설정을 빠르게 제거하는 장비였다.

해독자들은 날씨 보고와 정형화된 인사말, 반복되는 보고 형식처럼 독일군 전문에 포함될 가능성이 높은 문장을 추정했다. 이러한 추정문을 크립이라고 했다.

추정한 문장이 암호문의 특정 위치에 들어간다고 가정한 뒤 봄브를 가동하면, 기계는 논리적으로 불가능한 회전판 설정을 빠르게 제외했다. 남은 후보를 확인하면서 그날의 에니그마 설정을 찾을 수 있었다.

강력한 암호를 약하게 만든 운용자의 습관

에니그마는 기술적으로 복잡했지만 실제 장비를 운용하는 주체는 사람이었다. 운용자들은 매일 비슷한 시간에 정형화된 보고를 전송했고, 긴급한 상황에서는 절차를 단순하게 적용하기도 했다.

같은 표현을 반복하거나 예측하기 쉬운 문구를 사용하는 습관도 해독자에게 단서를 제공했다. 날씨 보고와 정기 상황보고처럼 내용과 형식을 어느 정도 예상할 수 있는 메시지는 크립을 찾는 데 유리했다.

또한 암호문을 완전히 해독하지 못하더라도 통신량과 송수신 관계를 분석하면 의미 있는 정보를 얻을 수 있었다. 특정 지역의 무선통신이 갑자기 증가하면 부대의 이동이나 작전 준비가 진행되고 있을 가능성을 추정할 수 있었다.

이는 오늘날 트래픽 분석과 메타데이터 분석의 원리와도 연결되었다. 메시지의 내용을 읽지 못해도 누가 언제 누구에게 얼마나 자주 통신했는지를 분석하면 조직의 활동을 파악할 수 있었다.

해독한 사실까지 숨겨야 했던 연합국

연합국은 독일군의 암호문을 해독한 뒤에도 모든 정보를 즉시 작전에 활용할 수 없었다. 독일군이 에니그마가 해독되었다는 사실을 알아차리면 장비와 설정, 통신절차를 변경할 수 있었기 때문이다.

따라서 해독정보를 활용하면서도 정보의 출처를 숨기는 작업이 필요했다. 정찰기나 다른 정보수단으로 같은 내용을 확인한 것처럼 위장하기도 했고, 해독능력을 보호하기 위해 일부 정보는 알고도 바로 행동하지 않는 판단을 내려야 했다.

정보를 확보하는 능력만큼 정보의 출처를 보호하는 능력이 중요했다. 암호해독은 단순히 문장을 읽는 기술이 아니라 정보의 가치와 위험을 판단하는 정보작전의 일부였다.

짧은 생각

에니그마 해독을 한 명의 천재가 불가능한 암호를 풀어낸 이야기로만 기억해서는 안 된다고 생각했다. 폴란드 수학자들의 선행 연구와 영국의 조직적인 지원, 무선감청요원과 장비 운용자들의 노력이 연결되어야 실제 성과가 만들어졌다. 군 통신과 정보체계를 다룰 때도 뛰어난 기술 하나보다 사람과 절차, 조직과 장비가 유기적으로 연결되는 것이 더 중요했다. 에니그마의 역사는 복잡한 문제일수록 개인의 능력보다 협업하는 체계가 필요하다는 사실을 보여줬다.

에니그마가 남긴 기술적 교훈

에니그마 해독은 암호학과 수학, 계산기술과 정보분석이 결합한 대표적인 사례였다. 사람이 수많은 설정을 하나씩 시험하는 대신 기계를 이용해 불가능한 경우를 빠르게 제거했다.

블레츨리 파크의 경험이 오늘날 컴퓨터 한 대로 그대로 이어졌다고 단순하게 설명할 수는 없었다. 그러나 복잡한 문제를 논리적인 단계로 나누고, 반복적인 계산을 기계에 맡기는 접근은 이후 컴퓨팅 기술의 발전에 중요한 경험을 제공했다.

무엇보다 에니그마는 완벽해 보이는 보안기술도 구조적 특성과 운용상의 실수가 결합하면 분석될 수 있다는 교훈을 남겼다. 강력한 암호장비를 도입하는 것만으로 보안이 완성되는 것은 아니었다.

암호 열쇠를 안전하게 관리하고, 정해진 절차를 지키며, 사용자의 반복적인 습관을 줄여야 했다. 이러한 원칙은 현대의 사이버보안과 군사통신에서도 여전히 중요하게 적용되고 있다.

다음 글에서는 보이지 않는 전파를 이용해 멀리 있는 항공기와 함정을 발견한 레이더의 등장을 살펴보려고 한다. 통신과 암호가 명령과 정보를 보호했다면, 레이더는 적을 먼저 발견할 수 있게 만든 전장의 눈이었다.