[디지털데일리 김보민기자] 양자컴퓨터 상용화 시점에 대한 논의가 뜨거워진 가운데, 신규 위협이 등장할 수 있다는 전망이 제기되고 있다. 양자 기술을 악용한다면 현 공개키 암호체계가 붕괴돼, 기존 보안 전략 또한 무용지물이 될 수 있다는 우려를 제기하는 전문가도 늘고 있다.

핀테크 보안기업 아톤은 양자내성암호(PQC) 전략으로 이러한 위협을 예방할 수 있다고 자신한다. 암호화 장치가 해킹 당하더라도 개인키와 알고리즘을 유추할 수 없도록 대비해둔다면, '탈취가 불가능한 환경'을 구현할 수 있다는 취지다.

양성진 아톤 연구소장은 20일 서울 소공동 롯데호텔에서 <디지털데일리>가 개최한 'NSIS 2025' 무대에 올라 "양자컴퓨터 상용화는 공상과학(SF)이 아닌 현실로 다가오고 있다"며 "구글·IBM·마이크로소프트(MS) 등 글로벌 테크 기업들이 치열한 개발 경쟁을 벌이고 있는데, 이 속도라면 2030년쯤 양자컴퓨터가 실질적 상용화 단계에 들어설 가능성이 높다"고 말했다.

정부도 글로벌 양자 시장에서 선두를 잡기 위해, 2035년 암호체계 전환을 목표로 PQC연구단 등을 운영하고 있다. 국가정보원, 과학기술정보통신부, 행정안전부, 국가보안기술연구소, 한국인터넷진흥원(KISA)이 참여하는 실무 협의회도 구성했다.

다만 양자컴퓨터 상용화에 맞춰 새 위협이 등장할 것이라는 관측에 힘이 실리고 있다. 양 연구소장은 "양자컴퓨터 상용화가 현실로 다가오면서 기존 인증서 및 개인키 기반 보안 체계에 대한 중대한 위협이 발생하고 있다"며 "현재 널리 사용되는 RSA, ECDSA 암호체계 모두 양자컴퓨터에서 실행 가능한 알고리즘에 의해 직접적인 공격 대상이 되고 있다"고 설명했다.

전문가들은 쇼어 알고리즘에 의한 위협도 두드러지고 있다고 본다. 기존 공개키 암호는 고전 컴퓨터에서 지수 시간의 계산이 필요하지만, 쇼어 알고리즘을 이용한 양자컴퓨터에서는 다항 시간 내 해결이 가능해 근본적인 보안 위협이 발생할 수 있기 때문이다. RSA 소인수분해, ECDSA의 이산대수 문제와 더불어 공개키로부터 개인키를 유추할 수 있는 문제도 발생할 것으로 예상된다.

양 연구소장은 "현재 해독이 불가능하더라도, 양자컴퓨터 기술이 성숙했을 때 미리 수집한 데이터 암호를 복호화하는 'HNDL(Harvest Now, Decrypt Later)' 공격도 있다"며 "전자서명된 계약서, 암호화된 통신 데이터 등 기밀 문서를 수집한 뒤 향후 이를 활용해 전자서명을 위조하거나 민감 정보를 탈취하는 공격이 가능해진다는 의미"라고 부연했다.

아톤에 따르면, 격자 기반 문제는 현재 양자컴퓨팅 환경에서 가장 유력한 기반으로 평가되고 있다. PQC가 대안으로 떠오른 이유다. 양 연구소장은 "특히 암호화폐의 경우 블록체인을 분석해 자산이 많은 지갑 주소를 선별 및 수집한 뒤, 미래에 해당 지갑의 개인키를 복원해 탈취를 시도하는 것도 현실적인 위협 시나리오"라며 "타 지갑으로 송금하는 공개키만 블록체인에 남기 때문에 이체할 때마다 새로운 지갑을 만들면 사실 방어가 가능하다"고 말했다. 이어 "이와 같은 위협은 PQC 전환 계획을 수립하고 체계적으로 대응한다면 충분히 예방할 수 있다"고 강조했다.

PQC는 양자컴퓨터 등장으로 기존 공개키 암호가 붕괴될 위기에 대응하기 위한 신규 암호 기술이다. 특히 격자 기반인 LWE(Learning With Errors) 개념을 적용해 수학적으로 복잡한 기반을 마련하는 것이 핵심으로 여겨지고 있다. LWE는 격자 기반 암호학에서 핵심 역할을 하는 수학적 문제로, 양자컴퓨터에 강한 알고리즘을 설계할 때 사용된다.

이외에도 디지털서명알고리즘(DSA)와 키캡슐화매커니즘(KEM)이 대안으로 떠오르고 있다. 그 일환으로 격자 기반 ML-DSA와 ML-KEM이 주목을 받고 있다. DSA 종류 중 하나인 FN-DSA는 격자 기반이지만 서명 크기가 작고 구현이 어렵다는 특징이 있고, SLH-DSA는 해시 기반으로 서명 크기가 크고 속도가 느리다는 특징이 있다.

양 연구소장은 "기존에 구축했거나 운영 중인 인프라를 PQC로 전환하기 위해서는 진단, 설계, 수행, 평가, 전환 등 단계가 필요하다"고 제언했다.

먼저 설계 단계에서는 미국 국립표준기술연구소(NIST) 알고리즘을 기반으로 해당 기관 환경에 맞는 전자서명, 인증서 발급 및 검증, 키 관리 등 적용 구조를 만들 것을 제언했다. 이후 실환경 또는 테스트베드 환경에서 PQC 기반 서명 모듈을 적용하고 기존 프로세스에 연동 테스트를 수행할 필요가 있다고 밝혔다. 이어 기존 대비 성능 향상, 보안성 강화, 시스템 안정성 등 측면에서 PQC 기술의 효과성을 객관적 수치로 검증해야 한다고 덧붙였다. 이 절차가 마무리되면, PQC를 적용하고 기존 인증서 유지 정책과 연계해 전환 계획을 이행하면 된다는 구상이다.

양 연구소장은 PQC 전환을 준비할 경우 고려해야 할 사항에 대해 "전자서명인증 사업자는 자격을 유지하기 위해 PQC를 지원하는 하드웨어보안모듈(HSM) 업그레이드가 필수인데, 전환 과정 중 기존 알고리즘과 PQC 알고리즘이 병행되는 구간이 필요하다"고 말했다. 이어 "알고리즘을 동시에 지원하기 때문에 기존 RSA와 ECDSA 개인키 및 PQC 개인키를 동시 운영할 수 있는 장비가 필요하다"며 "신규 HSM을 도입하고 기존에 설치된 개인키를 복호화할 수 있어야 한다"고 부연했다.

뿐만 아니라 국내 가이드라인과 국제 표준을 따라야 하고, 기존 인증서를 병행 운영해야 하는 어려움도 커지고 있다. 아톤은 이러한 애로사항을 돕기 위해 PQC 기술을 적용한 인증서 솔루션 '퀀텀 세이프가드(Quantum SafeGuard)'를 공식 출시했다.

퀀텀 세이프가드는 미국 NIST가 인증한 PQC 'ML-DSA'와, 아톤의 화이트박스 암호화 기술을 결합한 제품이다. 양 연구소장은 "아톤의 핵심 기술인 화이트박스는 암호화를 통해 개인 키와 알고리즘 수행 과정 전체를 안전하게 보호한다"며 "현재 국내 대부분 은행과 증권사에 널리 사용되고 있고, 앞으로 양자내성 알고리즘을 중심으로 정부의 양자 대전환 계획에 맞춰 보안 기술 미래를 선도할 것"이라고 강조했다.