양자통신 ‘완벽 보안’ 구멍 뚫렸다···모듈레이션 과정서 정보 왜곡

도청이 불가능한 통신 기술로 알려졌던 양자통신에서 새로운 보안 취약점이 발견됐다.

양자통신은 양자역학의 원리를 바탕으로 정보를 주고받는 방식이다. 빛의 입자인 광자에 정보를 실어 보내며, 누군가 이를 가로채려 하면 신호에 교란이 생겨 도청 시도가 자동으로 탐지된다. 이는 양자 측정이 대상의 상태를 바꾼다는 양자역학의 특성 때문이다. 또한 정보의 복제가 원천적으로 불가능하다는 이론적 기반 덕분에, 양자통신은 가장 안전한 통신 기술로 평가돼 왔다.

그러나 최근 캐나다 토론토대학교 연구팀이 양자통신 송신기, 즉 광원 내부에서 정보가 유출될 수 있는 새로운 경로를 확인했다. 그동안 수신기에서만 탐지되던 보안 허점이 이제는 광자를 생성하는 장치로 확장되면서, 양자통신의 보안 구조 전반에 대한 재검토가 필요해지고 있다.

양자통신- 기존 보안 구조와 측정기 중심의 대응

양자통신은 쌍대 변수(conjugate variables)처럼 동시에 정확히 측정할 수 없는 물리량을 활용해 정보를 인코딩한다. 이러한 특성은 도청자가 신호를 중간에 가로채면 즉시 그 흔적이 남도록 만든다. 여기에 양자 복제 불가능성 원리가 더해지며, 제3자가 정보를 복사하거나 그대로 훔치는 것이 불가능해진다.

하지만 현실의 양자통신 시스템에서는 장비의 미세한 결함이나 물리적 제약으로 인해 정보가 새어나갈 수 있는 사이드 채널이 존재한다. 2000년대 초반에는 수신기 쪽에서 발생하는 취약점이 주요 위협으로 지적됐고, 이를 해결하기 위해 2012년 ‘측정기 독립 양자 키 분배(MDI-QKD)’ 방식이 제안됐다. 이 기술은 수신기와 관련된 모든 사이드 채널을 효과적으로 차단할 수 있었지만, 송신기 쪽은 상대적으로 보안 검토가 미흡한 상태였다.

양자통신 허점, 송신기 광원에서 발생하는 차원 간 정보 간섭

양자 광원은 일반적으로 빛의 편광 상태를 이용해 정보를 인코딩한다. 이때 중요한 전제는, 편광이 시간, 주파수, 위상 등 다른 물리적 특성과 전혀 연관되지 않아야 한다는 점이다. 이를 ‘차원 독립성(dimensional assumption)’이라 부른다.

하지만 연구팀은 실제 장비에서 이 전제가 쉽게 무너질 수 있음을 실험과 모델링을 통해 확인했다. 정보를 실어주는 모듈레이션 과정에서 신호가 시간에 따라 미세하게 변형되며, 이로 인해 같은 광 펄스 안에서도 정보가 일정하지 않게 나타나는 것이다. 이러한 현상은 기존에 알려진 ‘패턴 효과’보다 더 근본적인 문제다.

연구팀은 이처럼 신호 내부의 시간 축에서 발생하는 예기치 못한 정보 왜곡을 ‘숨은 다차원 모듈레이션(hidden multi-dimensional modulation)’이라고 명명했다. 이 경우, 도청자는 편광 정보를 직접 측정하지 않고도 시간축의 변화를 통해 일부 정보를 추정할 가능성이 생긴다.

장비 성능과 대응 기술

이러한 보안 취약점은 사용되는 장비의 성능에 따라 심각성이 달라진다. 대역폭이 충분한 장비는 모듈레이션 신호를 이론적으로 설계한 대로 정밀하게 구현할 수 있어 정보 왜곡이 줄어든다. 반면, 대역폭이 제한된 장비는 신호가 더 많이 왜곡돼 정보 유출 가능성이 높아진다. 연구진은 “신호를 얼마나 정확하게 제어할 수 있느냐가 핵심 변수”라고 설명했다.

대응책으로는 기존 방식과 구조적으로 다른 ‘수동형 양자 키 분배(passive QKD source)’ 기술이 주목받고 있다. 이 방식은 모듈레이터 자체를 사용하지 않기 때문에, 해당 취약점의 영향을 받지 않는다는 점에서 대안이 될 수 있다.

논문 공동저자인 로이 콴 로 교수는 “하나의 사이드 채널을 차단하면 또 다른 경로가 열릴 수 있는 것이 보안의 현실”이라며, “완벽한 보안보다는, 보안 위협을 계속 식별하고 점검하는 체계가 더 중요하다”고 말했다.

이번 연구 결과는 학술지 Physical Review Letters에 게재됐다.

김지윤 기자/ hello@sciencewave.kr

더 많은 정보: Amita Gnanapandithan et al, Hidden Multidimensional Modulation Side Channels in Quantum Protocols, Physical Review Letters (2025). DOI: 10.1103/PhysRevLett.134.130802. On arXiv. DOI: 10.48550/arxiv.2404.14216

자료: Physical Review Letters  , arXiv