현대인은 온라인과 오프라인의 경계가 사라진 삶을 살아가고 있으며, 이러한 온·오프라인의 연결을 안전하게 지키는 데에는 암호(Cryptography)가 중요한 역할을 하고 있다. 디지털 세상에서 ‘인증’은 가장 기본적인 관문 역할을 하는 암호 기술이며, 가상화폐는 대표적인 디지털 자산이다. 또한, 온라인 전자투표는 디지털 세상의 ‘신뢰’와 ‘보호’를 유지하기 위한 중요한 도구다.

서재홍 한양대 수학과 교수는 “암호라고 하면 많은 사람들이 비밀번호(PIN) 혹은 영화에서 본 적군이 알아채기 힘들고 아군만 이해할 수 있는 방식의 비밀통신(Encryption/Decryption)을 떠올릴 것 같다. 사실 암호(Cryptography)는 이 보다 훨씬 큰 영역이며 정보보호 전반에서 사용되는 주요 알고리즘 및 프로토콜들을 통칭한다”라고 말했다.

서 교수는 암호분야 전문가로, 세계 최고의 연구결과들이 발표되는 세계암호협회(IACR) 주관 학회의 논문선정위원(Program Committee)으로 활동하고 있다. 서 교수가 설계한 암호기법 중 대표적인 사례는 Bulletproofs+라는 영지식 증명 시스템 (Zero-Knowledge Proof System)으로 2022년 IEEE Access에서 발표되었으며, 현재 프라이버시 보호기능을 제공하는 암호화폐들 중 시가총액 1위인 모네로(Monero)에 적용된 것으로 유명하다. 또한, 최근에는 세계적인 클라우드업체인 아마존웹서비스(AWS)에서 제공하는 얼굴인증API의 보안상 취약점을 입증하였고, 그 결과가 정보보호분야 최고 학회인 IEEE Symposium on Security and Privacy 2024에서 “Scores Tell Everything about Bob: Non-adaptive Face Reconstruction on Face Recognition Systems.”라는 제목으로 발표했다.

창과 방패의 싸움에서 암호학자의 승리 전략

고도화된 현대의 암호는 언제 깨어질지 모른다는 불안함에서 벗어나기 위해 “증명가능한 안전성 (Provable Security)”이라는 접근법을 도입했다. 서 교수는 증명 가능한 안전성 분야의 전문가로 2000년대 초반, 당시 학계가 주목하던 페어링 기반 암호 설계 방식을 연구했고 전자서명 (Digital Signature)분야에서 또한 중요한 연구성과를 남겼다. 당시 높은 안전성을 보장하는 표준모델 및 표준가정에서 안전성이 증명된 효과적인 전자서명을 설계하는 것은 오랫동안 미해결 문제로 남아 있었다. 서 교수는 적은 수의 파라미터로 구성된 효율적인 전자서명을 제안했다. 제안한 전자서명의 안전성을 표준가정과 표준모델에서 증명함으로써 미해결 문제의 정복에 기여했다. 이 결과는 암호학계 최고 학회 중 하나인 Eurocrypt 2013에서 발표됐으며 이후 “Short Signatures from Diffie-Hellman: Realizing Almost Compact Public Key.”라는 이름으로 암호분야 최고저널인 Journal of Cryptology에서 채택이 되기도 했다. 오랜 시간이 흘렀지만 현재까지 제안된 전자서명들 중에는 가장 효율적인 설계방식들 중 하나로 남아있다.

페어링 기반 암호의 문제점을 밝히고 해결

서 교수는 오랜 기간 페어링 기반 암호에 대한 연구를 수행했다. 당시 페어링 기반 암호가 신원기반암호(Identity-based encryption)이라는 오랜 암호학계의 난제를 해결하는 등 신기원을 열었는데, 한 가지 문제점이 있었다. 공개키 암호에서는 공개키(public key)와 개인키(private key) 한 쌍의 키가 사용된다. 이 중 개인키는 암호화된 메시지를 복호화 할 때 사용하는 일종의 복호화키이며, 공개키는 발신자 누구나 암호화에 사용할 수 있는 일종의 암호화키이다. 공개키 암호는 암호화키와 복호화키가 달라서 원거리 통신이 빈번한 인터넷 환경에 적합한 장점이 있지만, 오래된 키를 폐기하거나 새롭게 재발급하는 것이 어렵다는 단점이 있다. 특히, 신원기반암호를 비롯한 페어링 기반 암호에서도 이러한 키 폐기 (Key Revocation) 문제를 효과적으로 해결하기 쉽지 않았다. 서 교수는 2013년 기존의 안전성 정의는 아주 제한적인 공격자만 고려하고 있기에 현실적인 공격을 막을 수 없다는 것을 직접 공격법을 제시함으로써 증명했고, 새로운 안전성 정의와 이를 달성할 수 있는 새로운 키 폐기 방식을 제안했다. 해당 내용은 PKC 2013에서 발표됐으며, 이후 제안되는 대부분의 기능형 암호들은 모두 서 교수가 제안한 안전성 정의와 키 폐기 기법을 따르고 있다.

복제가 쉬운 디지털 세상에 신뢰와 가치를 세우는 암호, 영지식 증명

이런 일이 현실에서 가능할까? 조금만 생각해보면 충분히 가능한 경우들이 있다. 그렇다면 디지털 세상에서도 이런 일이 가능할까? 가능하다. 바로 영지식 증명(Zero-Knowledge Proof)이 정확히 이러한 것들을 가능하게 해주는 암호기법이다. 영지식 증명은 1989년 Goldwasser, Micali, Rackoff 세 명의 컴퓨터 과학자에 의해 제안이 됐다. 최근 블록체인, 메타버스 등의 가상환경에서 무형의 ‘가치’가 보다 중요해지면서 영지식 증명의 중요성이 커지고 있다. 복제가 용이한 디지털 세상에서의 ‘자산’이란 나만 알고 있는 비밀로 그 가치가 유지 되는데, 이를 사용하기 위해서는 그 비밀을 알려주지는 않은 채 자산의 소유권을 ‘증명’해야 하며 이는 정확히 영지식 증명 기술이 해주는 기능에 해당한다. 2018년 MIT Technology Review에서 세상을 바꿀 10대 기술 중 하나로 영지식 증명 기술을 선정하였고, 대표적인 블록체인인 Ethereum을 포함한 대부분의 블록체인 산업에서 영지식 증명 기술을 이미 도입하였거나 도입을 준비하고 있다.

현재 가장 널리 사용되고 있는 영지식 증명 기법은 페어링을 활용한 Groth16이다. 서 교수는 대학원 시절Groth16을 발명한 Jens Groth 박사의 조언으로 논문을 작성한 경험이 있는데, 그 때의 아이디어를 꾸준히 발전시켜 2020년에는Bulletproofs+라는 영지식 증명 기술을 개발하였다. 2020년 6월 해당 기술을 온라인에 공개하였는데, 공개한 지 한 달여 만에 여러 유명 블록체인 업체들로부터 협업 제의를 받았다고 한다. 서교수는 “Monero와 같은 상용 블록체인 업체에 Bulletproofs+를 실제 제품에 적용하는 것을 보며 산업계의 시계는 학계와는 확실히 다르게 흐른다는 것을 몸소 체험하고 있다.”라고 평했다. 서교수의 영지식증명 기술이 블록체인 산업에서 얼마나 중요성이 있는지, 또한 향후 적용 가능성이 무궁무진 한 점을 유추해볼 수 있다.

다양한 암호 분야의 연구와 산업계 적용에 기여해온 서 교수는, 연구 활동뿐 아니라 후학 양성을 통해 암호 기술의 대중화와 저변 확대에도 지속적으로 기여할 것으로 기대된다.