수학계의 난제 ‘푸앵카레 추측’풀리나

수학계의 난제 ‘푸앵카레 추측’풀리나

지난 6월 4일 중국 신화통신은 ‘수학계의 100년 난제인 푸앵카레 추측을 중국인이 풀었다’는 제목의 기사를 타전했다. 신화통신에 따르면 광둥(廣東)성의 성도 광저우(廣州)에 있는 중산(中山)대학의 주시핑(朱憙平) 교수와 재미수학자인 칭화(淸華)대학 강습교수 차오화이둥(曹懷東) 교수가 그 동안 많은 수학자들을 낙담시켰던 ‘푸앵카레 추측’을 입증할 300쪽 분량의 논문을 ‘Asian Journal of Mathematics’ 6월호를 통해 발표할 예정이다. 국내 몇몇 언론도 이를 인용해 보도하면서 2000년 미국의 ‘클레이 수학연구소’가 “문제를 해결하는 사람에게 100만달러의 상금을 지급하겠다”고 공언한 수학계의 7대 난제 중 하나가 풀렸다며 관심을 보였다. 특이할 만한 점은 일본이나 서방 언론에서는 별다른 반향이 없었다는 것이다.

푸앵카레 추측(The Poincar Conjecture)을 제기한 푸앵카레(J. H. Poincar, 1854~1912)는 100여년 전 프랑스에서 활동한 당대 최고의 과학자이자 수학자였다. 그는 태양 주위를 도는 혹성들이 결국 태양 속으로 빨려 들어갈 것인지, 또는 멀리 외계로 사라질 것인지, 아니면 현재처럼 안정적인 궤도를 유지할 것인지를 설명하면서 오늘날 ‘카오스 이론’이라 부르는 현상을 발견하였다. 그의 관심사는 수학뿐 아니라 물리학과 과학철학에 이르기까지 다양했다. 그는 특히 공간의 구조를 체계적으로 연구하여 차원이라는 개념을 정립하는 데 크게 기여했다.

푸앵카레 추측은 ‘어떤 하나의 밀폐된 3차원 공간에서 모든 폐곡선(閉曲線·하나의 점에서 시작해 다시 그 점으로 돌아오도록 이어진 선)이 수축돼 하나의 점이 될 수 있다면 이 공간은 반드시 원구(圓球)로 변형될 수 있다’는 추론이다. 축구공이나 사과 같은 원구 표면에 놓인 폐곡선은 한없이 작아질 경우 점으로 수렴될 수 있다. 하지만 가운데 구멍이 뚫린 도넛상의 폐곡선을 가정해본다면 얘기는 달라진다. 도넛의 구멍을 통과하는 폐곡선의 경우 아무리 작아지려고 해도 도넛의 단면이 기둥처럼 막고 있기 때문에 점으로 수렴될 수 없다. 언뜻 간단해 보이는 이 문제는 컴퓨터 칩을 비롯한 전자부품의 설계와 생산, 뇌 연구, 영화산업 등과도 관련을 맺는 위상수학(位相數學·topology)의 문제와 직결돼 있다.

‘푸앵카레 추측’이 입증되었다는 것이 화제가 된 데는 이 문제가 미국의 클레이 수학연구소가 100만달러의 상금을 내건 수학계의 7대 난제 중 하나라는 점이 한몫 했다. 사실 푸앵카레 추측을 비롯한 수학계의 7대 난제가 선정된 것은 불과 몇 해 전의 일이다.

미국 뮤추얼펀드계의 큰손이자 억만장자인 랜던 클레이는 1999년 수학 연구를 장려하고 지원할 목적으로 자신의 고향 매사추세츠주 케임브리지에 ‘클레이 수학연구소(Clay Mathematics Institute:CMI)’를 설립했다. 그는 곧 영국의 마이클 아티야 경과 미국의 존 테이트 교수 등 현존하는 최고의 수학자들에게 지금까지 수학계에서 풀리지 않고 있는 난제 7가지를 선정해 줄 것을 부탁했다. 결국 클레이는 2000년 5월 ‘밀레니엄 문제 7가지’를 공표했고 이 중 하나라도 해결하는 사람에겐 각각 100만달러의 상금을 지급하겠다고 선언했다. 단 문제를 해결한 것으로 인정 받기 위해선 2년의 유예기간 동안 전세계 수학자들의 철저한 검증을 거쳐야 한다.

클레이가 밀레니엄 난제를 푼 사람에게 상금을 수여하겠다고 발표한 장소는 파리의 ‘콜레주 드 프랑스’에 있는 한 강당이다. 미국인인 클레이가 파리를 발표장소로 택한 것은 역사적인 전례(前例)가 있기 때문이다. 바로 100년 전, 파리에선 제2차 국제 수학자회의가 열렸다. 당시 수학계를 대표했던 독일의 수학자 힐베르트는 1900년 8월 8일 있었던 초청강연에서 수학계가 20세기에 해결해야 할 미해결 수학문제 23가지를 제시했다. 훗날 ‘힐베르트의 문제들’로 명명된 이 수학문제들은 20세기 수학자에게 일종의 지침이 되었다.

그 중엔 의외로 시시하게 해결된 문제가 있는가 하면 정확하게 답하기가 애매할 만큼 불명료한 문제도 있었다. 하지만 대부분은 수학자라면 한번쯤 도전할 만한 가치가 있는 난제들이었고, 문제를 푼 수학자들은 학계에서 최고의 명성을 얻었다. 특히 이들 문제의 해결은 수학자만의 공허한 신선놀음이 아니었다. 문제의 해결과정이 전기회로의 원리에 응용되기도 했고, 0과 1로 이루어진 컴퓨터 시스템의 단초를 제공하기도 했다.

‘힐베르트의 문제들’이 발표된 지 100년, ‘리만 가설’을 제외한 모든 문제가 해결되었다. 이에 클레이는 또 다른 100년을 맞이하는 시점에서 수학계에 새로운 도전 과제를 안겨준 것이다. 다만 2000년에 발표된 7대 난제의 선정에 참여한, ‘페르마의 정리’를 해결한 것으로 유명한 수학자 앤드루 와일스는 “우리는 중요한 미해결 문제들을 지적하려고 할 뿐이다. 수학에는 중요한 문제들이 있지만 수학의 전반을 대변할 문제를 골라내기는 어렵다”고 말했다. 와일스의 이 말은 100년 전 23개의 수학적 난제를 제시함으로써 수학계에 지침을 주려 한 힐베르트가 활동했던 당시와 지금의 수학계 상황이 많이 달라졌음을 암시한다. 이들 일곱 가지 문제를 대중적으로 해설한 ‘수학의 밀레니엄 문제들 7’의 저자 케이스 데블린은 책 서문에서 “(7개의) 문제들 대부분은 일상언어로 정확히 기술할 수가 없다. 심지어 대학 수준의 수학에 익숙한 사람들이 이해할 수 있는 용어로 기술하기조차 불가능하다”고 말했다.

7가지 난제 중엔 ‘리만 가설’ 정도가 일반인이 그 내용을 짐작할 수 있는 수준이다. 물론 그것을 해결하기가 상대적으로 쉽다는 뜻은 결코 아니다. 1859년 독일의 수학자 리만에 의해 처음 제기된 ‘리만 가설’은 100년 전 발표된 ‘힐베르트의 문제들’ 가운데 유일하게 오늘날까지 증명되지 않은 문제이기도 하다. 이는 2, 3, 5, 7, 11과 같이 1과 자기 자신으로만 나눠지는 소수(素數)들이 일정한 패턴을 지니고 있다는 가정 아래 그 패턴을 밝혀내고자 하는 것이다.

리만은 가설의 증거를 공개하지 않은 채, 죽기 전에 이와 관련된 모든 서류를 불태워버렸다. 영화 ‘뷰티풀 마인드’의 실제 모델인 존 내시 교수도 한때 이 문제에 도전했으나 풀지 못했다. 2004년 말엔 미국 퍼듀대학의 루이스 드 브랑게스 교수가 이 문제를 해결했다며 인터넷에 자신의 해법을 공개해 다시금 언론의 주목을 받았다. 특히 현재 인터넷 전자상거래에 이용되는 암호가 소수를 이용해 만들어지기 때문에 리만 가설이 증명되면 전자상거래의 암호체계가 무용지물이 될 것이라는 주장이 제기돼 논란을 한층 심화시켰다. 그러나 부랑게스 교수의 증명은 아직 수학자들 사이에서 인정을 받지 못했다.

‘리만 가설’이나 ‘푸앵카레 추측’을 비롯한 수학계의 많은 난제는 한 사람의 직관을 통해 탄생한 가설을 수많은 후대 수학자가 골머리 싸매고 증명해내도록 한다. 푸앵카레는 “우리는 논리를 통해서 증명하고 직관을 통해서 발명한다”는 말을 남겼다. 수학의 역사 자체가 이러한 과정의 연속이기도 하다. 처음엔 무모한 것처럼 보이는 시도도 여러 사람의 머리가 더해져 종국엔 결실을 맺곤 한다.

가장 최근 해결돼 화제가 되었던 문제 중엔 ‘페르마의 마지막 정리’가 있다. 17세기 프랑스 사람인 페르마는 수학을 취미로 하는 아마추어 수학자였지만 근대 정수이론 및 확률론의 아버지로 추앙 받을 정도로 수학사에 한 획을 그은 인물이다. 페르마의 정리는 ‘n이 2보다 큰 자연수일 때 방정식 Xn+Yn = Zn을 만족하는 양의 정수 X,Y,Z는 존재하지 않는다’는 것이다. 페르마는 평소 자신의 수학적 발견을 다른 사람과 주고 받은 편지에 기록하거나 책의 여백에 적어놓곤 했다. ‘페르마의 정리’는 ‘산술(Arithmetica)’이란 책의 여백에 적혀 있던 것을 그의 아들이 발견해 세상에 알려졌다. 1630년경에 쓰인 것으로 추정되는 이 책의 여백에 “나는 놀라운 증명방법을 발견했다. 하지만 여백이 좁아서 증명을 쓸 수가 없다”고 적혀 있었다.

수학자들은 페르마 자신이 실제로 이 정리를 증명했다고 보진 않는다. 그가 남긴 기록에 따르면 페르마는 n=4인 경우에 한해서만 증명했을 것으로 보인다. 이후 300년 이상 ‘페르마의 정리’는 수학계의 난제로 남았다. 여러 수학자들에 의해 n을 특정한 숫자로 가정한 상태에서의 증명은 이루어졌지만 일반적으로 적용할 수 있는 ‘페르마의 정리’는 여전히 요원한 일이었다. 1908년엔 파울 볼프스켄이란 사람의 유언에 따라 스위스의 괴팅엔 왕립과학원이 2007년 9월 13일을 기한으로 ‘페르마의 정리’를 증명하는 이에게 상금 10만마르크를 지급하겠다고 발표했다.

‘페르마의 정리’는 수학자들의 호기심을 자극하는 문제임엔 틀림없었지만 현실에 적용해 새로운 가치를 창출해 낼 만한 문제는 아니었다. 하지만 1984년 이 문제가 타원함수와 관련돼 있다는 사실이 밝혀지면서 다시금 관심이 집중됐다. ‘페르마의 정리’는 결국 1995년 영국의 수학자 앤드루 와일스에 의해 증명되었다. 그는 세 명의 동료 수학자와 함께 이를 증명했고 1997년 6월 27일 괴팅엔 왕립과학원으로부터 상금을 받았다.

‘페르마의 정리’가 증명되기까지 이 문제를 해결했다고 주장한 수학자가 적지 않았다. 대부분은 결정적인 오류가 밝혀져 한낱 해프닝으로 끝났다. 하지만 실패는 결국 성공을 위한 밑거름이 되곤 했다. 최종적으로 이를 증명해낸 와일스도 이보다 한 해 전 ‘페르마의 정리’를 증명했다고 발표했다가 스스로 오류를 발견하고 주장을 철회한 바 있었다.

‘푸엥카레의 가설’을 둘러싸고도 이를 해결했다는 주장이 수차례 나온 바 있다. 개중엔 의미있는 주장도 있었다. 1960년 미국의 수학자 스티븐 스메일은 5차원 이상의 모든 다양체에서 ‘푸앵카레의 추측’이 옳음을 증명했다. 1981년엔 미국의 수학자 프리드먼이 4차원 다양체에서 ‘푸앵카레의 추측’을 증명해냄으로써 3차원을 제외한 모든 차원에서 ‘푸앵카레의 추측’이 사실로 밝혀졌다.

2002년 11월엔 그리고리 페렐만이라는 러시아의 한 젊은 수학자가 인터넷에 몇 편의 논문을 올렸다. 처음에는 사람들이 별로 관심을 가지지 않은 논문이었으나 몇몇 수학의 대가들이 페렐만의 논문을 읽어보니 ‘푸앵카레의 추측’을 증명할 만한 방법이 담겨 있었다. 다만 일부분은 설명이 필요했기 때문에 수학자들은 페렐만이 이에 대해 명쾌한 해설을 해주기만을 기다렸다. 그러나 정작 페렐만은 자신의 논문에 대해 더 이상 설명하고 싶은 마음이 없다며 이 문제에 대해 함구해 버렸다.

이번에 중국인 수학자들이 발표한 논문의 제목이 ‘푸앵카레의 추측 및 기하화(幾何化) 추측의 완전 증명 : 리치 흐름(Ricci flow)에 관한 해밀턴-페렐만 이론의 응용’이란 데서도 알 수 있듯이 이번 논문은 페렐만 등이 이뤄놓은 업적의 토대 위에 쌓아올려진 것이다.

서울대 수리과학부 김홍종 교수는 “세계 수학자들에게 이처럼 잘 알려진 이야기를 새삼 중국 언론이 마치 자기 나라 사람이 결정적으로 이룩한 업적인 것처럼 보도하는 것은 중국인 특유의 과장”이라고 말했다. 중국 언론은 ‘푸앵카레 추측’이 상금 100만달러가 걸려있는 수학계의 7대 난제임을 보도했지만 정작 이 중국인 수학자들이 상금을 받게 될지에 대해서는 언급하지 않았다.

■클레이 수학연구소가 선정한 수학계의 7대 난제

·리만 가설(The Riemann Hypothesis)

·양-밀스 이론과 질량 간극 가설(Yang-Mills Theory and the Mass Gap Hypothesis)

·P 대 NP 문제(The P Vesus NP problem)

·내비어-스톡스 방정식(The Navier-Stokes Equations)

·푸앵카레 추측(The Poincar Conjecture)

·버치와 스위너톤-다이어 추측(The Birch and Swinnerton-Dyer Conjecture)

·호지 추측(The Hodge Conjecture)

김재곤 주간조선 기자(truman@chosun.com)

- Copyrights ⓒ 조선일보 & chosun.com, 무단 전재 및 재배포 금지 -

[ 기사제공 ]  주간조선