[선넘는 과학자들] 천정희 서울대 수리과학부 교수
천정희 서울대 수리과학부 교수(크립토랩 대표)가 22일 서울대 연구실에서 국민일보와 만나 자신이 개발한 동형암호 기술 ‘혜안’을 설명하고 있다. 천 교수는 “10년 뒤에는 동형암호가 암호화의 기본 방식이 되는 미래가 올 수 있다”며 “그때 서울이 동형암호 기술의 중심지로 자리매김할 수 있도록 노력하겠다”고 말했다. 김지훈 기자
“수백만, 수천만명의 생활패턴·취향·인간관계·신체정보 빅데이터는 그 자체로 귀중한 정보입니다. 이 정보를 어떻게 지킬 수 있을까요? 데이터를 항상 금고(암호) 속에 넣어 모든 작업을 한다면 효과적이지 않을까요? 데이터를 금고째 가져가도 써먹을 방법이 없다는 것을 아는 해커는 굳이 고생해서 해킹 공격을 시도하지 않겠죠.”
세계 최초 상용화 가능한 동형암호(Homomorphic Encryption) 알고리즘을 개발한 천정희 서울대 수리과학부 교수는 항상 새롭고 쉬운 비유를 고민한다. ‘꿈의 암호 기술’을 연구하며 사람들에게 조금이라도 쉽게 그 가치를 설명하기 위해 들인 습관이다. 2017년 크립토랩을 창업한 이후 줄곧 4세대 암호 기술의 표준을 주도하고 있는 천 교수를 지난 22일 서울대 연구실에서 만났다.
천 교수의 설명을 조금 더 들어보자.
“동형암호 기술은 우리가 리모콘을 통해 조작할 수 있는 금고 안 로봇이라고 이해하면 됩니다. 크립토랩이 개발한 로봇은 우리가 직접 작업을 할 때 만큼 빠르고 능숙하게 금고 안에서 작업을 수행해줍니다. 굳이 금고를 열 일이 없으니 해커에게 취약점을 노출하지 않아도 되고, 개인들은 안심하고 업체에 정보를 맡길 수 있죠.”
정보를 이용한 연산 작업을 하기 위해서는 정보에 걸려있던 암호를 푸는 복호화 작업을 거쳐야 한다. 인공지능(AI) 모델이 데이터를 학습할 때, AI를 활용해 얼굴 인식을 하고 고객에게 맞춤형 금융 상품을 추천할 때 모두 예외는 없다. 해커들 입장에서는 이 순간이 상대적으로 쉬운 공격 포인트가 될 수 있다. AI 기업들에게는 시민들의 ‘개인정보 원본 제공’에 대한 거부감 극복이 과제다. 정보를 유출당하거나 악용하지 않을테니 업체를 믿고 정보를 달라고 설득하는 것은 쉽지 않은 과제이기 때문이다.
동형암호를 사용하면 이러한 딜레마를 해결할 수 있다. 개인정보 원본을 접하지 않아도 암호화된 상태에서 AI 서비스와 학습이 가능하기 때문이다. 천 교수가 동형암호를 AI 세상이 새롭게 요구한 기술이라고 표현하는 이유다.
크립토랩은 2022년 210억원 규모 시리즈A 투자를 유치하며 시장 진출을 준비하기 시작했다. 현재 의료·금융·국방 등 다양한 산업 분야에서 동형암호 기술 적용을 모색하고 있다. 이달 들어서는 얼굴 정보 저장과 매칭을 모두 암호화된 상황에서 수행할 수 있는 얼굴 인식 시스템 ‘EFR’을 공개했다.
정부의 K-클라우드 사업에도 참여해 향후 5년간 ‘사생활 보호 AI’ 통합시스템을 개발한다. 인터뷰 와중에도 천 교수는 에이전틱 AI(설정된 목표를 달성하기 위해 자율적으로 의사결정을 내리는 AI) 업체들과의 연락으로 분주했다. AI 에이전트(비서)가 정보를 주고받는 과정에서 해킹 위험을 최소화하고 싶은 기업들이 크립토랩의 문을 두드린다는 설명이다.
게티이미지뱅크
크립토랩은 동형암호 기술의 ‘형님’ 격인 양자내성암호(PQC, 양자컴퓨터의 빠른 연산력으로도 뚫리지 않는 암호) 기술력 역시 인정받고 있다. 크립토랩과 서울대 팀이 공동으로 개발한 격자기반 알고리즘 2종은 지난 1월 국정원 양자내성암호 공모전(KpqC)에서 최종 알고리즘에 선정됐다.
천 교수의 동형암호 연구는 지난 2009년 미국의 암호학자 크레이그 젠트리가 발표한 논문에서 시작됐다. 그동안 동형암호 기술의 장애물이었던 느린 처리 속도를 해결할 가능성을 제시했던 젠트리 교수의 연구가 마음을 움직였다고 한다.
“2011년 여름, 연구를 시작할 때 학생들을 모아놓고 경고했죠. ‘너무 멋있는 주제가 있는데 결과가 안 나올 수 있다’라고요.” 이는 기우가 아니었다. 연산 속도를 높이기 위해 덧셈과 곱셈에 이어 나눗셈과 반올림을 활용하려는 시도가 난관에 부딪혔고, 해결에는 2년이라는 시간이 걸렸다. “2014년 12월 24일 여기에 문제를 쓰다가 해결의 실마리를 잡았습니다.” 천 교수는 연구실에 놓여있던 화이트보드 왼쪽 구석을 가리키며 말했다. 문제에 치열하게 맞섰기에 생생하게 기억할 수 있는 영광의 순간이다.
창업 이후에도 기술 혁신은 계속됐다. 동형암호 설루션 ‘혜안’의 연산 속도는 2017년 첫 알고리즘 대비 100배 이상 빨라졌다. 최근에는 행렬 연산 방식을 추가해 속도를 더욱 높인 4.5세대 동형암호 기술을 개발했다. “금고 안 로봇에게 팔을 하나 더 달아준 것과 같은 혁신입니다.” 신기술은 이달 유럽 최대 암호 학술대회 유로크립트에서 처음으로 공개했다.
천 교수가 꼽는 크립토랩 경쟁력의 비결은 사람에 있다. PQC 표준 알고리즘의 제작자 중 하나인 데미안 스텔레 프랑스 리옹 고등사범학교 교수를 비롯해 크립토랩의 경쟁력을 꾸준히 끌어올렸다. 크립토랩의 연구 인력은 40여명으로 전 세계 동형암호 업체 중 최대 규모다.
크립토랩의 기술이 세계 표준이 될 미래도 머지않았다. 현재 혜안이 국제표준화기구(ISO) 표준 3단계(커미티 드래프트)를 통과했으며 마지막 단계를 남겨놓고 있다. 이르면 올 10월 열리는 총회에서 표준 기술이 될 수 있다는 전망이 나온다. 양자내성암호 표준화 작업이 완료한 재작년 이후 상업적 활용 움직임이 본격화됐듯이 표준 선정이 동형암호 기술시장 개화의 계기가 될 것이라는 기대가 나온다.
천 교수는 14년간 연구를 이어올 수 있던 동력으로 ‘성취감’을 꼽았다. “유럽과 미국 업체들이 선두 업체인 크립토랩의 비밀을 캐려고 할 때, 프린스턴과 매사추세츠공과대학(MIT) 대학원생들에게서 기술 문의가 올 때, 우리가 기술의 방향성을 결정하고 있다는 자부심을 느꼈어요. 이제 서울이 동형암호의 중심지가 되는 꿈을 곧 실현하고자 합니다.”
키워드
동형(同型)암호
데이터를 암호화한 상황에서 연산과 활용할 수 있는 암호 방식. '연산을 수행한 후 암호화한 결과'와 '암호화한 뒤 연산을 수행한 결과'가 같은 값을 가지기 때문에 이러한 이름이 붙었다. 데이터 유출 위험을 원천적으로 차단하고 '사용 과정에서의 보호'에 가장 효과적인 기술이다.
