2025년 6월 27일·7분
아디 샤미르의 혁신: RSA, 비밀 분할, 그리고 보안
아디 샤미르가 RSA와 비밀 분할에서 제시한 핵심 아이디어를 살펴보고, 우아한 수학이 실제 보안, 리스크, 키 관리에 어떻게 영향을 미치는지 알아봅니다.
아디 샤미르가 RSA와 비밀 분할에서 제시한 핵심 아이디어를 살펴보고, 우아한 수학이 실제 보안, 리스크, 키 관리에 어떻게 영향을 미치는지 알아봅니다.
아디 샤미르는 논문과 학회에만 머문 아이디어가 아니라 일상적인 보안의 구성 요소가 된 몇 안 되는 연구자 중 한 명입니다. HTTPS를 사용하거나, 소프트웨어 업데이트를 검증하거나, 온라인에서 디지털 서명에 의존한 적이 있다면 그는 기여한 작업의 혜택을 받은 것입니다.
샤미르는 RSA의 공동발명자 중 하나로, 낯선 사람끼리도 실용적으로 안전한 메시지를 교환하고 정체를 증명할 수 있게 했습니다. 또한 샤미르 비밀 분할(Shamir’s Secret Sharing)을 고안해 하나의 비밀(예: 암호 키)을 여러 조각으로 나누어 한 사람이나 서버가 전체 통제권을 갖지 못하게 했습니다.
두 아이디어는 공통 주제를 갖습니다: 깔끔한 수학적 통찰이 현실에서 조직이 실제로 배포할 수 있는 실용적 보안 능력을 열어준다는 점입니다.
이 글은 그 다리를 중심으로 합니다—우아한 개념이 실제 시스템을 지탱하는 도구로 어떻게 이어지는지. RSA가 서명과 안전한 통신을 어떻게 가능하게 했는지, 비밀 분할이 어떻게 팀이 “k-of-n” 규칙(예: 5명 중 3명)이 중요한 작업을 승인하도록 신뢰를 분산하는지 설명합니다.
핵심 아이디어를 무겁지 않은 수식이나 고급 정수론 없이 설명하겠습니다. 목표는 명확성입니다: 이 시스템들이 무엇을 달성하려고 하는지, 설계가 왜 영리한지, 그리고 어디에서 위험이 존재하는지 이해하는 것입니다.
한계도 분명합니다. 강한 수학이 자동으로 강한 보안을 보장하지는 않습니다. 실제 실패는 종종 구현 실수, 부실한 키 관리, 약한 운영 절차, 또는 현실성 없는 위협 가정에서 옵니다. 샤미르의 작업은 좋은 암호 설계의 힘과 신중한 실무 실행의 필요성을 모두 보여줍니다.
진정한 암호학적 획기적 성과는 단지 “암호를 더 빠르게 만들었다”가 아닙니다. 이것은 사람들이 안전하게 할 수 있는 일을 바꾸는 새로운 능력입니다—특히 낯선 사람들 사이에서, 대규모로, 신뢰할 수 없는 네트워크와 인간의 실수를 포함한 현실적 제약 아래에서 문제를 해결할 수 있게 해주는 것입니다.
고전적 “비밀 암호”는 메시지를 숨기는 데 초점을 맞춥니다. 현대 암호학은 더 넓고 실용적인 목표를 지향합니다:
이 전환이 중요한 이유는 많은 실패가 도청이 아니라 변조, 사칭, 그리고 "누가 무엇을 했는가"에 대한 분쟁과 관련되어 있기 때문입니다.
대칭 암호에서는 양측이 동일한 비밀 키를 공유합니다. 효율적이고 여전히 널리 사용됩니다(예: 대용량 파일이나 네트워크 트래픽 암호화). 실무의 어려운 부분은 두 당사자가 처음에 그 키를 어떻게 안전하게 공유하느냐입니다—특히 서로 모르는 경우에.
공개키 암호는 키를 두 부분으로 나눕니다: 공개적으로 공유할 수 있는 공개키와 비밀로 지켜야 하는 개인키. 사람들은 공개키로 메시지를 암호화하고, 오직 개인키 소유자만 복호화할 수 있습니다. 또는 개인키로 서명하면 누구나 공개키로 검증할 수 있습니다.
공개키가 실용적이 되자, 안전한 통신은 더 이상 사전 공유된 비밀이나 신뢰할 수 있는 전달자(택배)를 필요로 하지 않게 되었습니다. 이는 인터넷 규모의 시스템을 가능하게 했습니다: 안전한 로그인, 암호화된 웹 트래픽, 검증 가능한 소프트웨어 업데이트, 신원과 책임을 지원하는 디지털 서명 등.
이런 변화가 바로 ‘획기적’이라고 불리는 종류의 능력입니다.
RSA는 암호학에서 가장 유명한 실용적 답변 중 하나로, 두 사람이 사전에 비밀을 공유하지 않고 어떻게 안전하게 통신할 수 있을지에 대한 문제에 대한 해결책이었습니다. 1977년 Ron Rivest, Adi Shamir, Leonard Adleman이 발표한 이 방식은 빠르게 널리 받아들여졌고, 연구자들의 이름을 조합해 약어로 불리게 되었습니다.
RSA의 큰 변화는 일상어로 설명하기 쉽습니다. 누구나 사용할 수 있는 **자물쇠(공개키)**를 공개하고, 그 자물쇠를 여는 **유일한 열쇠(개인키)**는 본인만 가집니다.
누군가가 당신에게 비밀 메시지를 보내려면 당신과 만나 볼 필요가 없습니다. 공개 자물쇠로 메시지 상자를 잠그고 보내면, 오직 당신의 개인키만 그 상자를 열 수 있습니다.
이 “자물쇠를 공개하고 열쇠를 숨긴다”는 약속은 RSA가 당시 마법처럼 느껴졌던 이유이자, 현대 인터넷 신뢰의 기반이 된 이유입니다.
RSA는 다음과 같은 퍼즐에 의존합니다:
RSA에서는 공개키가 누구나 메시지를 보호하도록 “색을 섞는” 역할을 하고, 개인키는 “레시피”처럼 원래 상태로 되돌리는 데 필요한 비밀입니다.
RSA는 몇몇 핵심 역할을 수행합니다:
새로운 도구들이 인기를 얻었음에도 RSA의 기본 아이디어—공개 자물쇠, 개인 열쇠—는 현대 인터넷의 신뢰 구조를 설명하는 데 여전히 유효합니다.
RSA는 두 가지 일상적 아이디어에 주목하면 덜 신비롭게 보입니다: 수들을 일정 범위로 감싸는 것과 되돌리기 어려운 문제에 의존하는 것입니다.
모듈러 연산은 수가 "감싸여" 돌아가는 연산입니다. 12시간 시계에서 10 + 5는 15가 아니라 3입니다.
RSA는 같은 개념을 훨씬 큰 “시계”로 사용합니다. 큰 수(모듈러스)를 골라서, 결과가 항상 0부터 모듈러스-1 범위에 들어가도록 연산을 합니다.
이것이 중요한 이유는: 모듈러 연산은 한 방향은 쉽고 반대 방향은 어려운 연산을 만들 수 있게 해줘 암호학이 원하는 비대칭성을 제공합니다.
암호학은 종종 다음 성질을 가진 작업에 의존합니다:
RSA에서는 “특별한 정보”가 개인키입니다. 개인키 없이는 공격자가 매우 비용이 큰 문제에 직면합니다.
RSA 보안은 인수분해의 어려움에 기반합니다: 큰 수를 받아서 그것을 만든 두 큰 소수를 찾아내는 문제입니다.
두 소수를 곱하는 것은 간단하지만, 곱한 결과만 주어졌을 때 원래 소수를 찾는 것은 숫자가 커질수록 엄청난 노력이 필요한 것으로 보입니다.
이 인수분해의 어려움이 RSA를 가능하게 합니다: 공개 정보는 공유해도 안전하고, 개인키는 실용적으로 사용 가능하지만 재구성은 어렵습니다.
RSA는 인수분해가 불가능하다는 수학적 증명을 바탕으로 하지 않습니다. 대신 수십 년의 증거가 있습니다: 많은 접근법이 시도되었고, 적절한 크기의 키에서는 알려진 최선의 방법들도 실용적이지 않습니다.
따라서 이는 “어렵다고 가정한다”는 의미이며, 효율적으로 깨려면 큰 새 발견이 필요할 것입니다.
키 길이는 모듈러 “시계”의 크기를 제어합니다. 키가 커질수록 인수분해 비용이 급격히 늘어나 공격을 비현실적으로 만듭니다. 그래서 오래된 짧은 RSA 키는 은퇴되었고, 키 길이 선택은 곧 공격자 노력을 결정하는 선택입니다.
디지털 서명은 암호화와 다른 질문에 답합니다. 암호화는 비밀을 보호합니다: “오직 의도된 수신자만 이걸 읽을 수 있나?” 서명은 신뢰를 보호합니다: “누가 이걸 만들었고, 변경되지는 않았나?”
디지털 서명은 보통 두 가지를 증명합니다:
RSA에서는 서명자가 개인키로 메시지에 대한 짧은 데이터(서명)를 생성하고, 일치하는 공개키를 가진 누구나 이를 확인할 수 있습니다.
중요한 점은 전체 파일을 직접 서명하지 않는다는 것입니다. 실제 시스템에서는 파일의 해시(작은 지문)를 서명합니다. 그래서 작은 메시지든 수 기가바이트의 다운로드든 동일하게 서명이 작동합니다.
RSA 서명은 신원을 대규모로 검증해야 하는 곳에 등장합니다:
단순히 “RSA 수학을 수행”하는 것만으로는 충분하지 않습니다. 실제 RSA 서명은 표준화된 패딩과 인코딩 규칙(예: PKCS#1 또는 RSA-PSS)을 따릅니다. 이는 미묘한 공격을 방지하고 서명을 명확하게 만드는 가드레일 역할을 합니다.
메시지를 암호화한다고 발신자를 증명하는 것은 아니고, 서명한다고 메시지가 숨겨지는 것은 아닙니다. 많은 시스템이 두 가지를 모두 사용하지만, 해결하는 문제가 다릅니다.
RSA는 강력한 아이디어지만, 대부분의 실제 "탈취"는 기본 수학을 직접 깨뜨리기보다는 그 주변의 지저분한 부분을 악용합니다: 키가 생성되는 방식, 메시지가 패딩되는 방식, 장치의 동작 방식, 사람들이 시스템을 운영하는 방식 등입니다.
헤드라인에서 “RSA가 깨졌다”는 말이 나오면, 이야기는 종종 구현 실수나 배포상의 지름길에 관한 것입니다. RSA는 더 이상 ‘순수 RSA’로 많이 사용되지 않으며, 프로토콜에 내장되고 패딩, 해시, 난수성과 결합되어 쓰입니다. 이들 중 하나라도 잘못되면 핵심 알고리즘이 건재해도 시스템은 무너집니다.
다음과 같은 문제가 반복적으로 사고를 일으킵니다:
현대 암호 라이브러리와 표준은 이러한 교훈을 바탕으로 만들어졌습니다. 기본값을 안전하게 설정하고, 상수 시간 연산, 검증된 패딩, 프로토콜 수준의 가드레일을 제공합니다. "나만의 RSA"를 쓰거나 검증된 방식에서 벗어나는 것은 작은 편차가 새로운 공격 경로를 만들기 때문에 위험합니다.
이 점은 빠른 개발 흐름에서 더 중요합니다. 전통적 CI/CD 파이프라인이든 Koder.ai 같은 빠른 개발 플랫폼이든, 속도의 이점은 보안 기본값이 표준화되어 있을 때만 유지됩니다. Koder.ai가 전체 스택 앱(웹의 React, 백엔드의 Go + PostgreSQL, 모바일의 Flutter)을 생성·배포할 수 있는 능력은 프로덕션까지 가는 경로를 단축하지만, TLS 인증서, 비밀 관리, 릴리스 서명 등은 여전히 1등급 운영 자산으로 엄격히 다뤄져야 합니다.
더 많은 실무 보안 지침이 필요하면 /blog에서 구현 및 키 관리 관련 가이드를 찾아보세요.
하나의 “마스터 비밀”에 의존하는 방식은 보안상 불편합니다. 한 사람이 키를 보유하거나 한 장치에 저장되어 있다면, 실수로 분실, 도난, 내부자 오용, 강압 등 현실적인 실패에 노출됩니다. 비밀이 완벽히 암호화되어 있어도 소유자가 한 명이라면 여전히 취약점이 됩니다.
샤미르 비밀 분할은 하나의 비밀을 n개의 별도 쉐어로 나누고, 임의의 k개의 쉐어가 원래 비밀을 복원하게 합니다—반면 k보다 적으면 유용한 정보가 전혀 드러나지 않습니다.
따라서 “마스터 비밀번호를 누가 가지나?”라는 질문은 “진짜 필요할 때 k명의 승인된 사람/장치를 모을 수 있나?”라는 질문으로 바뀝니다.
임계값 보안은 신뢰를 여러 보유자에 분산시킵니다:
이는 복구 키, 인증기관 자료, 중요 인프라의 루트 자격증명 같은 고영향 비밀에 특히 유용합니다.
샤미르의 통찰은 단순한 수학적 우아함을 넘어, 신뢰를 단일 베팅에서 측정 가능하고 감사 가능한 규칙으로 바꾸는 실용적 방법을 제공했습니다.
샤미르 비밀 분할은 실용적인 문제를 해결합니다: 한 사람이나 한 서버, 한 USB에 ‘키’가 집중되는 것을 원하지 않을 때, 비밀을 조각으로 나누어 그룹이 협력해야만 복원되게 하는 것입니다.
그래프 종이에 매끈한 곡선을 그릴 수 있다고 상상해보세요. 그 곡선 위의 한두 점만 보면 그 곡선을 통과하는 무수히 많은 곡선이 가능합니다. 하지만 충분한 점을 보게 되면 그 곡선은 유일하게 결정됩니다.
이것이 다항식 보간의 핵심입니다: 샤미르는 비밀을 곡선(다항식)의 일부로 인코딩하고, 곡선 위의 점들을 쉐어로 나눠줍니다. 충분한 점이 모이면 곡선을 재구성해 비밀을 읽을 수 있고, 부족하면 가능한 곡선이 너무 많아 비밀이 숨겨집니다.
쉐어는 그 곡선 위의 한 점일 뿐입니다: 단독으로는 무작위처럼 보이는 작은 데이터 묶음입니다.
일반적으로 k-of-n으로 설명됩니다:
쉐어가 동일한 장소나 동일한 통제 하에 있으면 비밀 분할은 작동하지 않습니다. 좋은 관행은 사람, 장치, 위치에 걸쳐 쉐어를 분산하는 것입니다(예: 하드웨어 토큰, 법무 보관, 안전 금고 등).
k 선택은 균형입니다:
수학의 우아함은 신뢰 분산을 정확하고 집행 가능한 규칙으로 바꿉니다.
비밀 분할은 비밀을 안전하게 저장하는 일반적 방법이라기보다 통제 분할의 도구로 이해하는 것이 좋습니다. 여러 사람(또는 시스템)의 협력이 있어야만 키를 재구성하도록 의도적으로 요구하는 거버넌스 도구입니다.
이 도구들은 모두 위험을 줄이지만, 줄이는 위험의 종류가 다릅니다.
고가치 비밀에 대해 강한 견제와 균형을 원할 때 빛을 발합니다:
주된 문제가 “파일을 삭제할지도 모른다”거나 “사용자 비밀번호 재설정이 필요하다”면 비밀 분할은 과할 수 있습니다. 또한 공격자가 충분한 쉐어 보유자를 속이거나 그들의 디바이스를 탈취할 수 있다면 임계값이 충족될 수 있으므로 운영 보안이 반드시 병행되어야 합니다.
명백한 실패 모드는 가용성입니다: 너무 많은 쉐어를 잃으면 비밀을 잃는다. 더 미묘한 위험은 인간 측면입니다:
절차를 문서화하고 역할을 명확히 하며 정기적으로 복구 연습을 하세요. 테스트되지 않은 비밀 분할 계획은 희망에 가깝습니다.
RSA와 샤미르 비밀 분할은 ‘알고리즘’으로 유명하지만, 진짜 영향은 사람들이 실제로 운영하는 시스템—인증기관, 승인 워크플로, 백업, 사고 복구—속에 내장될 때 드러납니다.
RSA 서명은 공개키가 정체성을 나타낼 수 있다는 개념을 강화합니다. 실무에서는 이것이 PKI가 되고: 인증서, 인증서 체인, 누가 무엇을 서명할 수 있는지에 대한 정책이 됩니다. 회사는 단순히 “RSA 대 다른 것”을 고르는 것이 아니라 누가 인증서를 발급할 수 있는지, 키를 얼마나 자주 교체할지, 키 노출 의심 때 어떻게 대응할지를 정합니다.
키 회전은 RSA의 운영적 쌍둥이입니다: 변경을 계획하세요. 짧은 수명 인증서, 예정된 교체, 명확한 폐기 절차는 실수의 폭발 반경을 줄입니다.
비밀 분할은 “한 키, 한 소유자” 모델을 신뢰 모델로 전환합니다. 복구 비밀 재구성, 민감한 구성 변경 승인, 오프라인 백업 잠금 해제 등에 k-of-n을 요구할 수 있습니다. 이는 보다 안전한 복구를 가능하게 합니다: 단일 관리자가 몰래 권한을 탈취할 수 없고, 한 번의 비밀번호 분실로 영구적 잠김이 발생하지 않습니다.
좋은 보안은 묻습니다: 누가 릴리스를 서명할 수 있는가, 누가 계정을 복구할 수 있는가, 누가 정책 변경을 승인할 수 있는가? 직무 분리는 독립적 합의를 요구함으로써 사기와 실수를 줄입니다.
운영 도구도 여기서 중요합니다. 예를 들어 Koder.ai와 같은 플랫폼은 스냅샷과 롤백 기능을 포함해 잘못된 배포의 영향을 줄일 수 있지만, 그러한 안전장치는 서명, 최소 권한 접근, 누가 무엇을 승인할지에 대한 명확한 규칙과 결합될 때 가장 효과적입니다.
다양한 보안 수준(예: 기본 접근 vs 임계값 승인)을 제공하는 팀은 선택을 명확히 하세요(참고: /pricing).
암호 알고리즘은 이론상 ‘안전’할 수 있지만 실제 사람, 장치, 워크플로를 만나면 실패할 수 있습니다. 보안은 항상 상대적입니다: 누가 당신을 공격할 수 있는가, 그들이 무엇을 할 수 있는가, 당신이 무엇을 보호하는가, 실패의 비용은 얼마인가에 달려 있습니다.
가능성 있는 위협 행위자를 명확히 하세요:
각 행위자는 다른 방어책을 요구합니다. 외부 공격자를 우려하면 경화된 서버, 안전한 기본값, 빠른 패치가 중요합니다. 내부자가 더 큰 위험이면 직무 분리, 감사 로그, 승인 절차가 필요합니다.
RSA와 비밀 분할은 “좋은 수학”이 출발점일 뿐이라는 점을 보여줍니다.
실무적 습관: 보호 대상을, 누가 공격하는지, 어떤 실패를 견딜 수 있는지에 대한 짧은 위협 모델을 문서화하세요. 팀 변화, 클라우드 전환, 합병, 규제 변화 등 상황이 바뀔 때마다 이를 재검토하세요.
전 세계적으로 배포한다면 위치와 규정 준수 가정도 추가하세요: 키가 어디에 저장되는지, 데이터가 어디서 처리되는지, 국경 간 제약은 무엇인지. (예: Koder.ai는 AWS에서 전 세계적으로 운영되며 다양한 국가에 애플리케이션을 배포할 수 있지만, 모델을 정의하고 올바르게 구성하는 책임은 팀에 있습니다.)
아디 샤미르의 작업은 간단한 규칙을 상기시켜줍니다: 훌륭한 암호 아이디어는 보안을 가능하게 하지만, 일상적 절차가 그것을 현실로 만듭니다. RSA와 비밀 분할은 우아한 구성요소입니다. 실질적인 보호는 키가 어떻게 생성되고, 저장되고, 사용되고, 회전되고, 백업되고, 복구되는지에 달려 있습니다.
암호학을 마법이 아니라 엔지니어링으로 생각하세요. 알고리즘이 타당해도 시스템 주변이 취약하면 깨지기 쉽습니다—서두른 배포, 불분명한 소유권, 누락된 백업, 혹은 "임시" 조치가 영구화되는 경우가 많습니다.
키 관리와 운영 보안에 관한 더 많은 실무 가이드를 원하면 /blog의 관련 게시물을 참조하세요.
진정한 획기적 성과는 단순한 속도 개선이 아니라 새로운 능력을 추가하는 것입니다. 현대에는 보통 기밀성, 무결성, 진위성을 사전 공유된 비밀 없이 인터넷 규모로 보장할 수 있게 해주는 능력을 의미합니다.
대칭 암호는 빠르지만 양쪽이 동일한 비밀 키를 미리 공유하고 있어야 한다는 전제를 깔고 있습니다. 공개키 암호는 널리 공유할 수 있는 공개키와 비밀로 지키는 개인키를 도입해, 서로 모르는 사람들 사이의 키 배포 문제를 해결합니다.
RSA는 누구나 쓸 수 있는 “자물쇠”(공개키)를 공개하고, 오직 본인만 그 자물쇠를 여는 “열쇠”(개인키)를 가진다는 개념입니다. 오늘날에는 주로 디지털 서명과 과거에는 키 교환/전달 용도로 널리 사용됩니다.
수식 없이 말하면, RSA는 '시계 산수' 같은 모듈러 연산과 큰 수를 곱해서 만든 결과를 다시 원래의 두 소수로 분해하는 인수분해가 매우 어렵다는 가정에 기반합니다. 이는 “불가능이 증명된” 것이 아니라 실무에서 오랜 기간에 걸쳐 충분히 어려운 것으로 여겨지는 가설입니다. 따라서 매개변수와 관행이 중요합니다.
암호화는 ‘누가 이걸 읽을 수 있나?’를 다루고, 서명은 ‘누가 만들었고 변조되지 않았나?’를 다룹니다. 실제로는 데이터의 해시(짧은 지문)를 서명하고, 검증자는 공개키로 서명을 확인합니다.
대부분의 실제 실패는 주변 시스템에서 옵니다. 예를 들면:
따라서 검증된 라이브러리와 표준(현대적 패딩 등)을 사용하세요.
샤미르 비밀 분할은 하나의 비밀을 n개의 쉐어로 나누고 임의의 k개를 모으면 원래 비밀을 복원할 수 있게 하는 기법입니다. k보다 적으면 유용한 정보를 전혀 얻을 수 없습니다. 즉, ‘마스터 키 한 사람이 전부 책임지는’ 모델을 제거합니다.
다음과 같은 고가치 비밀에 적합합니다:
일상적인 백업이나 낮은 가치의 비밀에는 운영 부담이 이득보다 클 수 있어 과도한 선택일 수 있습니다.
k는 현실 제약에 따라 정합니다:
쉐어는 사람, 장치, 물리적 위치에 분산해서 보관하세요. 그렇지 않으면 제거하려던 단일 실패 지점이 다시 생깁니다.
알고리즘만으로는 충분하지 않습니다. 실무에서 중요한 습관:
운영과 위협 모델이 보안을 결정합니다.