‘2025 삼성호암상’ 과학상 물리·수학부문 수상자로 선정된 신석우 미국 UC버클리 교수가 28일 오전 서울 중구 신라호텔에서 중앙일보와 인터뷰를 하고 있다. 장진영 기자.

# 만 5세 때 영재로 방송 프로그램에 출연, 17세 때 국제수학올림피아드에서 한국인 첫 만점, 서울대 수학과 조기 졸업, 미국 하버드대 수학과 박사 졸업, 현재는 UC버클리 수학과 교수….

한국의 영재 성공사례 1호로 불리며 세계적인 수학자가 된 신석우(47) 교수의 프로필이다. 신 교수는 지난달 30일 열린 제35회 삼성호암상 시상식에서 물리·수학 부문 과학상을 수상했다. 정수론·조화해석·대수기하 등 서로 다른 수학 주제를 통합해 하나의 이론으로 설명하는 ‘랭글랜즈 프로그램(Langlands program)’ 발전에 기여해온 공로를 인정받았다.

화려한 이력에도 신 교수는 “연구에서 실패하는 게 일상”이라고 말했다. 시상식 참석차 서울을 찾은 그를 지난달 28일 서울의 한 호텔에서 만났다. 거듭된 실패에도 인내하며 난제에 집중해 온 그는 “실패는 힘들지만, 너무 쉽게 성공하면 그건 도전적인 연구가 아니다”며 난제를 즐기는 듯했다.



내게 수학이란 ‘놀이이자 밥줄’이다. 어릴 때는 막연하게 수학을 잘해 좋아했고, 고등학교에 진학한 후에 진로를 본격적으로 고민했는데 수학 외에 딱히 관심 가는 학과가 없었다. 수학적 용어로 ‘소거법’을 적용해보니까 마지막에 남은 게 수학이었다.


항상이다(웃음). 연구는 연속적 과정이라 횟수로 말할 수는 없지만 비유해보면 열 번 중 여덟 아홉번은 실패한다. 오히려 너무 쉽게 성공하면 그만큼 도전적인 연구를 하고 있지 않은 것일 수 있다. 실패의 연속이지만 참고, 인내하는 고난의 과정이다.


결국은 호기심이다. 궁금하고 알고 싶은 마음이 크다. 암흑 속에 머무는 시간이 많지만 못 풀던 문제를 해결했을 때, 아주 가끔 그런 빛을 보는 순간의 즐거움을 합치면 그 암흑 속에 있던 시간을 덮고도 남는다.
다만 아무리 천재적인 수학자라 해도 절대적인 공부량은 필수라고 말했다. 그는 아이디어나 영감을 얻는 방법은 따로 없다며 “모든 공부나 연구는 일정 시간 이상을 투입하는 노력이 필요하다”고 강조했다.


━
“인재들 몰리려면 ‘인센티브’ 필요…AI 등장 긍정적”

30일 서울 신라호텔에서 열린 ‘2025 삼성호암상 시상식’에서 기념 촬영을 하고 있다. (왼쪽부터) 과학상 물리·수학 부문 신석우 UC버클리 교수, 과학상 화학·생명과학 부문 정종경 서울대 교수, 공학상 김승우 카이스트 명예교수, 의학상 글로리아 최 MIT 교수, 예술상 구본창 사진작가, 사회봉사상 김동해 사단법인 비전케어 이사장. 사진 호암재단.

신 교수는 40대 후반에 접어들면서 후학 양성에도 관심이 커진다고 했다. 그는 한국의 의대 쏠림 현상에 대해 “개인의 선택이라 뭐라 할 수는 없다”면서도 “뭐든 지나치면 탈이 난다”고 말했다. 이어 “학생들이 의대로 몰리는 건 경제적 보상과 직업적 안정성, 사회적 인정 등이 복합적으로 작용한 결과”라며 “수학계에 인재들이 많이 유입되려면 인센티브가 필요하다. 경제적인 것뿐 아니라 사회적 인정을 통해 자부심을 느낄 수 있게 해줘야 한다”고 말했다.

최근 전 세계 수학자들의 화두 중 하나는 비약적으로 발전한 인공지능(AI)을 어떻게 활용할 것인지다. 십수 년 걸릴 연산을 단 몇 시간 만에 풀어내는 AI의 등장은 수학자들의 연구 방식이나 내용도 바꾸지 않을까.



긍정적인 부분이 더 크다고 본다. 연구 수행 과정에서 효율성을 높여줄 수 있기 때문이다. 예컨대 컴퓨터가 생겼을 때 사람이 하던 많은 계산 과정을 대체하지 않았나.
(※얼마 전 구글이 새로 내놓은 AI 에이전트 '알파이볼브(AlphaEvolve)'는 끊임없이 더 나은 문제 해결 방법(알고리즘)을 찾도록 설계돼 수학·컴퓨터 과학의 난제 해결에 강점을 보일 것이란 기대를 받고 있다.)


난 아직 사용해본 적은 없다. 다만 수학계에서 뜨거운 감자다. 버클리(도시)에서 2주 전 재밌는 심포지엄이 얼렸다. 세계적인 수학자들이 모여 AI의 수학적 역량을 테스트하는 수학 문제들을 설계하고 추리는 작업을 했다고 한다.


어떤 문제에 대해 생각할 건지, 어떻게 접근할 것인지 등 가치 판단을 하며 큰 그림을 그리는 건 여전히 사람의 영역으로 남을 것 같다. 경쟁자라기보다 AI가 조력자나 연구수행 비서 격의 역할을 하고, 결정은 인간이 하는 식의 방향으로 갈 것 같다.
평생 숫자 옆에서 살아온 신 교수가 가장 좋아하는 숫자는 뭘까. 하나만 꼽아달라고 했더니 돌아온 대답은 “2”였다. 그가 연구하는 정수론은 소수(1보다 큰 자연수 중에서 1과 자기 자신만을 약수로 가지는 수)를 핵심 주제로 삼는 수학 분야다. 그중 2는 소수 중 가장 작은 숫자이자 유일한 짝수다. 신 교수는 “2·3·5·7·11 등 많은 소수를 가지고 정수론 문제를 연구하지만, 경험적으로 2와 관련된 문제가 가장 까다롭다”며 “2에 대한 이해도가 높으면 정수론의 많은 문제를 제대로 이해하고 있다고 볼 수 있어 특별하다”고 말했다.

중앙일보

이우림 기자 [email protected]