애플은 왜 나오지도 않은 양자컴퓨터를 경계할까

[비즈한국] 애플이 곧 iOS 17.4를 내놓습니다. 겉으로 보면 작은 수정 사항들이 몇 가지 들어가는데 한 가지 흥미로운 점이 있습니다. 바로 아이메시지입니다. 정확히는 애플이 아이메시지에 새로운 통신 프로토콜을 적용해 양자 컴퓨터로도 풀어낼 수 없도록 보안을 강화했다는 이야기입니다.

여러분은 우리가 주고받는 메시지가 새어 나갈 수 있다고 생각하세요? 의외로 이를 걱정하는 사람들도 많고, 그럴 가능성이 없다고 생각하는 분들도 많습니다. 하지만 이 메시지에는 생각보다 많은 개인정보가 담겨 있고, 은행 계좌나 가족의 신용카드 번호, 넷플릭스 비밀번호 등 생각보다 예민한 정보들이 많습니다. 업무에 대한 이야기도 메신저로 주고받는 것이 일상입니다.

#메신저는 얼마나 안전할까요?

그런데 이 메신저는 얼마나 단단한 보안 환경을 갖추고 있을까요? 간혹 유명 인사들의 대화 내용이 유출되어서 이야깃거리가 되기도 하고, 기업의 중요한 정보가 새어 나가기도 합니다. 다른 한편으로는 해당 대화의 내용이 어떤 사건의 실마리가 되지만 기기의 잠금을 풀거나, 암호화된 메시지를 읽어내지 못해서 국가 기관이 각 기업에 대화 내용을 요구하고, 직접 해킹에 나서기도 합니다.

어떤 방법으로든 대화의 내용이 새어나갈 수 있다는 걱정에 인기를 모으기 시작한 텔레그램이나 시그널 등의 메신저들이 보안을 꾸준히 다루고 있고, 애초 블랙베리는 당시로서는 절대 해독할 수 없는 강력한 보안 솔루션으로 인정을 받기도 했습니다. 최근에는 왓츠앱이나 페이스북 메신저도 종단 간 암호화 등을 통해 감청의 가능성을 줄이는 노력이 이어지고 있습니다.

애플도 사실 이 부분에 대해서는 양보하지 않고 있습니다. 정책적으로 누구에게도, 심지어 애플도 저장된 메시지의 내용을 들여다볼 수 없도록 한 것은 물론이고, 메시지가 오가는 중에 대화 내용을 훔쳐도 열어볼 수 없게 여러 가지 설계를 합니다. 이른바 종단 간 암호화 기술이죠.

이 종단 간 암호화로 가장 유명세를 탔던 것은 텔레그램입니다. 중앙 서버에 키를 두지 않고 각 기기가 직접 P2P 방식으로 키를 주고 받은 뒤 이를 이용해서 각자의 기기에서만 열어볼 수 있기 때문에 안정성이 높고, 혹시라도 중앙 서버가 공격을 받아도 대화 내용을 해독할 수 있는 키를 두지 않는 겁니다. 아이메시지는 일찍부터 이 종단 간 암호화를 해 왔습니다. 메시지 앱에서 새로운 상대방의 연락처를 입력하면 입력창에 초록색으로 ‘문자 메시지’라고 뜨다가 조금 뒤에 ‘iMessage’라고 바뀌는 것이 바로 상대방이 아이메시지를 쓰는지 확인하고 종단 간 암호화를 할 수 있는 키를 주고받는 과정입니다.

하지만 이 방식은 온라인을 항상 확인해야 하기 때문에 통신 상태나 속도에 따라서 종종 아이메시지로 전송되지 않는 경우도 생깁니다. 그래서 최근에는 중앙 서버가 기본적인 인증을 위한 공개키를 보내주기도 합니다. 대부분의 종단 간 암호화 기반의 메신저들은 이 방식을 씁니다. 다만 서버가 제공하는 키는 연결을 돕는 공개키일 뿐이기 때문에 연결 속도를 높이는 정도의 역할을 합니다.

종단 간 암호화는 안전한 기술이긴 하지만 여전히 암호키를 훔쳐낼 수 있는 여지는 있습니다. 대부분의 메신저가 취하는 암호화 기술은 이 열쇠를 안전하게 보관하는 데에 있습니다. 애플은 지난해 말 iOS 17.2를 도입하면서 ‘연락처 키 인증’이라는 기능을 더했습니다. 채팅을 연결해 주는 종단 간 암호화 공개키에 기기 고유의 키를 하나 더 연결하는 겁니다. 그래서 혹시라도 누군가가 키를 훔쳐내거나 다른 기기에서 로그인을 했다면 인증되지 않은 기기에 메시지가 전송되었다는 경고를 띄웁니다. 한층 단단해진 셈이지요.

그런데 여기에 한 가지 흥미로운 접근이 더해집니다. 바로 양자컴퓨팅입니다. 양자컴퓨팅은 미래의 기술로 꼽히지요. 기본적으로 우리가 쓰고 있는 ‘폰 노이만’ 방식의 CPU, 메모리 중심의 컴퓨터 구조가 아니라 양자 간의 얽힘이나 중첩하면서 0과 1이 동시에 존재할 수 있는 전혀 다른 개념의 컴퓨터입니다. 사실상 한계에 다다른 반도체 중심의 컴퓨터를 벗어나 컴퓨팅 성능에 획기적인 변화를 가져오게 됩니다. 복잡하지만 한 마디로 ‘지금보다 엄청나게 빠른 컴퓨터를 만들어낼 수 있다’는 이야기입니다.

#양자컴퓨터, 막대한 컴퓨팅 파워의 암호 공격

양자컴퓨터는 결국 우리가 풀어내기 어려운 DNA 해석이나 더 복잡한 인공지능 등 막대한 컴퓨팅이 필요한 분야에도 쓰이지만 동시에 암호 해독에도 쓰일 수 있습니다. 컴퓨터의 암호 해독이라는 건 사실 단순한 경우가 많습니다. 0000부터 0001, 0002를 입력해서 9999까지 다 넣어보는 방식이 가장 많이 쓰이기 때문입니다.

애플의 새 프로토콜인 PQ3는 이런 양자컴퓨팅에 대한 가능성을 담아낸 통신 방법입니다. 양자 컴퓨팅의 공격을 막을 수 있는 포스트 퀀텀 알고리즘이 적용되어 있습니다. 특히 과거에 훔쳐낸 키에서 새로운 키를 유추할 수 없도록 했고, 주기적으로 키를 바꾸도록 했습니다. 애플은 PQ3가 적용된 대화를 훔치려면 대화에 몰래 끼어드는 과정과 동시에 암호키를 깰 수 있는 컴퓨팅 파워가 필요한데, 당분간은 물리적으로 불가능하다고 설명합니다.

그리고 현재의 보안 수준도 상당히 높습니다. 안전성을 위해서 가장 많이 쓰이는 AES 방식의 암호는 128비트에 수억 년, 256비트는 조 단위의 입력이 필요합니다. 사실상 무작위로 뚫린 바 없는 안전한 방식입니다. 대부분의 보안 사고는 이 암호화의 문제가 아니라 다른 곳의 허점을 노리는 것이고요.

하지만 이것도 현재의 컴퓨터에 대한 이야기이고, 양자컴퓨터로는 상상할 수 없는 속도로 이를 깨버릴 가능성이 있습니다. 통신이 오가는 상황에서 개인 키를 암호화하는 데에 많이 쓰이는 RSA 암호화는 일정 수준의 양자 컴퓨터가 있으면 1분이면 키를 찾아낼 수 있다고 합니다. 물론 이를 위해서는 수천 큐비트 수준의 고성능 양자 컴퓨터가 필요하고, 이제 수 십 대 큐비트 성능의 컴퓨터가 연구되고 있는 상황이기 때문에 꽤 먼 이야기이긴 합니다. 하지만 현재 수준의 양자 컴퓨터로도 24시간 정도면 키를 찾아낼 수 있습니다. 현재로서는 양자 컴퓨터가 보급되어 있지 않다는 것이 가장 큰 ‘물리적 보안’인 셈입니다.

다시 생각해 보면 양자컴퓨터가 활성화되기까지 앞으로 몇 년 동안은 메시지 내용을 누구도 읽을 수 없다는 말입니다. 애플은 종단 간 암호화 방식의 보안도 안전하지만 당장 풀어내지 못하더라도 지금 훔쳐두었다가 나중에 컴퓨팅 성능이 확보되면 꺼내 볼 수도 있으니 양자컴퓨터가 풀 수 없는 안전장치를 더하겠다는 것입니다. 이론적으로는 지금 훔쳐낸 메시지를 나중에 양자컴퓨터로 풀려면 훔쳐내던 당시의 추가 보안을 풀어내야 하기 때문에 안전하다는 뜻입니다.

양자컴퓨터라고 하니 복잡해 보이지만 기존의 메시지를 주고 받는 경험과 전혀 다르지는 않습니다. iOS17.4, 맥OS 14.4, 워치OS 10.4, 비전OS 1.1 등에는 이 새로운 프로토콜이 더해지고 별다른 설정이나 속도에 영향 없이 메시지를 주고 받을 수 있습니다. 프로토콜이기 때문에 애플 실리콘 맥뿐 아니라 기존 인텔 맥에서도 가능하고, 암호화를 위한 별도의 하드웨어는 필요하지 않습니다.

#문자 메시지 보안은?

그럼 이쯤에서 ‘다른 메신저, 특히 문자 메시지는?’이라는 생각이 듭니다. 현재 대부분의 메신저는 종단 간 암호화 방식을 갖추고 있습니다. 물론 시스템 부담 때문에 기본적으로는 암호화 없는 메시지를 주고받는 경우가 더 많으니, 걱정된다면 암호화된 채팅을 하는 것이 좋습니다.

이런 부분에서는 시그널이 항상 적극적인 방법을 취하고 있습니다. 시그널은 양자컴퓨터 공격에 대한 방어 키를 넣어서 대응하고 있긴 합니다. 아이메시지는 그 키가 망가지거나 일부분이 깨져도 다시 복원해서 보안을 유지하는 단계인 셈이죠.

그렇지만 현실적으로 대부분의 메신저는 보안에 대한 걱정을 그리 크게 하지는 않아도 됩니다. 기본적인 보안 채팅만 켜 두어도 풀어낼 수 없기 때문에 너무 예민하게 받아들일 필요는 없습니다. 오히려 현재 가장 걱정스러운 것은 문자 메시지입니다.

SMS, LMS 등으로 불리는 이 문자 메시지는 사실상 보안 장치 없이 평문으로 전달됩니다. 이 문자 메시지의 출발은 애초 휴대전화가 정해진 시간마다 통신사의 기지국에 접속하고 있다고 알리는 과정에서 주고받는 패킷의 빈 곳을 이용하는 것입니다. 그 한계가 80바이트, 즉 한글로 40글자인 것이지요. 아주 작은 용량이지만 그 틈에 적절한 메시지를 담아서 보내는 서비스는 획기적인 접근이었고, 지금의 인터넷 세상을 키우는 데에 큰 역할을 했습니다.

다만 보안에 대한 부분을 넣을 여지가 없었고, 이게 장문 메시지로 확대되는 과정에서도 그렇게 예민하지는 않았습니다. 사실상 휴대전화가 기지국과 주고받는 신호 자체가 복잡한 암호화가 되어 있고, 문자 메시지도 그 안에 들어 있기 때문입니다.

하지만 보안에 더 예민해지고 공격이 고도화되면서 SMS 단문 메시지에 대한 불안감이 커졌습니다. 이를 극복하기 위해서는 결국 종단 간 암호화가 필요하고, 그 외에 이미지나 영상, 이모티콘을 비롯해 메시지의 고도화도 요구되기 때문에 전체적인 메신저의 진화가 이뤄져야 합니다. 현재로서는 RCS(Rich Communication Suite)로 불리는 통신 서비스입니다. 국내에서는 이미 10여 년 전 ‘조인(Joyn)’이라는 이름으로 서비스하다가 흐지부지된 적이 있고 최근에는 삼성전자의 갤럭시와 함께 ‘채팅플러스’라는 이름의 방식으로 운영되긴 합니다.

구글은 이를 표준화해서 전 세계 안드로이드 이용자를 묶으려고 하는 중이고, 그 흐름에 애플도 들어오도록 요구하고 있습니다. RCS가 전 세계 표준화되면 메시지는 더욱 안전해질 겁니다. 애플은 더 나은 보안을 이유로 들어서 아이메시지와 RCS의 통합을 거절할 수도 있을 테고요. 아이메시지와 구글 주도의 RCS가 통합되는 것은 전혀 다른 이야기이긴 하지만 일반적인 통신의 보안을 높이려면 아이메시지와 별개로라도 아이폰에 RCS가 더해지면 좋을 것 같습니다.

[핫클릭]

· [멋진신세계] 애플의 '비전 컴퓨팅'은 메타버스·VR과 뭐가 다를까
· 서울의 7번째 '애플스토어 홍대' 오픈에 부쳐
· [멋진신세계] 프로보다 센스 있는 선택 '아이폰 15'
· 애플 아이폰 15, 티타늄 소재에 USB-C 까지 "얼핏 보면 모르는 역대급 변화"
· [현장] 애플의 원 모어 띵 '비전 프로'에 비친 컴퓨팅의 미래

<저작권자 ⓒ 비즈한국 무단전재 및 재배포 금지>