리만 가설, Riemann hypothesis, Riemann 假說, 리만제타함수, 소수, 양자역학

"샌프란시스코 북쪽에 자리 잡은 세티(SETI) 연구소에 갑자기 이상한 신호가 날아들기 시작한다. 2,3,5,7,11,13,17, ... 이 수들의 공통점은 뭘까?

바로 소수 (prime number, 素數) 다.

그렇다면 이는 외계의 지적생명체가 보낸 신호임이 분명했다.

이것은 <코스모스>의 저자 칼 세이건의 소설 <콘택트>의 한 장면이다.

 

세계 7대 수학 난제가 있다.

1. 푸엥카레 추측

2. 내비어-스톡스 방정식

3. 호치 추측

4. 양-밀스 이론과 질량 간극 가설

5. 버츠와 스위너톤-다이어 추측

6. P대 NP 문제

7. 리만가설

 

이 중에서 가장 친숙하고 가장 어려운게 수학에서, 리만 가설(Riemann假說, Riemann hypothesis) 또는 리만 제타 추측은 리만 제타 함수의 모든 자명하지 않은 영점의 실수부가 1/2 이라는 추측이다. 19세기 중반에 발표된 이래로 수학사에서 주요 미해결 난제의 하나로 남아 있다. 리만 가설은 소수의 분포와 밀접하게 연관되어 있다.

 

리만 (게오르크 프리드리히 베른하르트 리만, 독일어: Georg Friedrich Bernhard Riemann )

 

소수란? 1과 자신으로 밖에는 나눠지지 않는 수이다. 영어로는 Prime Number. 근본적인 수라는 뜻이다. 0.1, 0.2 등을 나타내는 '작은 수'를 의미하는 소수 (小數)가 아니다. 여기서 素자는 우리가 원소 (元素)라고 할 때 사용하는 '근본 소(素)'자 이다.

이렇게 모든 수는 소수의 곱으로 나타낼 수 있다.

아래를 보자 뭔가 비슷하지 않은가?

모든 물질이 원소로 이루어진 것처럼 모든 수를 구성하는 수가 소수이다.

'수의 원소', '원소 수' 그래서 소수이다. 우리는 과학시간에 물을 전기분해하면 수소와 산소가 된다고 배운다.

마찬가지로 12=2x2x3 처럼 수를 소수의 곱으로 분해한 것을 '소인수분해'라고 한다.

하지만, 자연 속의 원소가 100개 남짓으로 이루어진 것에 비하면 소수는 무한히 많다. 이미 지금으로부터 2300년 전 유클리드가 소수의 개수가 무한하다는 걸 증명했다. 뭐가 중요한지는 모르겠지만 이 증명은 참으로 아름답다.

게다가 수학자들은 소수가 무한하다는 것에 만족하지 않았다.

소수는 어떻게 분포하고 있을까? 뭔가 규칙성이 있는 걸까? 아니면 완전히 불규칙하게 분포하는 있는 걸까? 어떤 수 N까지의 소수의 총 개수를 알수 있는 식은 존재할까? 소수의 분포가 완전히 불규칙하다면 일일이 하나하나 셀수 밖에는 없는 걸까?

이것은 1에서 100까지의 소수를 보여주는 표이다.

1에서 10까지의 소수는 4개, 1에서 100까지의 소수는 25개이다. 이런 식으로 계속하면 우리는 이런 표를 얻을 수 있다.

소수의 개수가 늘어나는 것에서 뭔가 규칙성을 발견할 수 있는가? 수가 커지면서 소수나 나타나는 빈도가 점점 줄어든다는 것 외에는 별다른 규칙성을 발견할 수 없다. 위대한 수학자 오일러 (레온하르트 오일러, 독일어: Leonhard Euler, 라틴어: Leonhardus Eulerus 레온하르두스 에울레루스) 는 다음과 같이 말했다.

"소수의 세계에는 인간의 지성이 범접할 수 없는 신비가 있다. 이를 실감하려면 소수의 표를 잠시 살펴보기만 하면 된다. 거기에서 우리는 어떤 질서도 규칙도 찾을 수가 없다."

모든 수학자들이 포기하려는 순간 수학의 천재 가우스 (요한 카를 프리드리히 가우스, 독일어: Johann Carl Friedrich Gauß) 가 그 돌파구를 연다

가우스는 다음과 같이 생각했다. '소수는 동전 던지기와 비슷할 게 아닐까? 동전을 던질 때 우리는 앞면이 나올지 뒷면이 나올지 예측할 수 없다. 전혀 불규칙하다. 하지만 동전을 많이 던질수록 앞면이 나올 확률은 반드시 1/2에 가까워진다.

소수도 처음엔 그 나타나는 빈도가 불규칙하게 보이지만 큰 수로 갈수록 점점 어떤 값에 가까워지지 않을까? 라는 아이디어였다. 단, 소수는 동전 던지기와 달리 숫자가 커질수록 나타나는 빈도가 줄어드니까 확률이 1/2로 고정된 것이 아니다. 숫자가 커질수록 그 확률이 작아지는 좀 복잡한 동전던지기인 셈이다.

가우스는 그 확률이 대략 1 / logN 이라고 생각했다. N이 커질수록 1/logN의 값은 작아진다. 100이 소수일 확률은 1/log100, 907이 소수일 확률은 1/log907, 10000이 소수일 확륙은 1/log10000, N값이 커질수록 확률은 작아진다.

이렇게 생각하면 N번째 수까지의 소수의 개수는 대략 N / logN 이 된다. 동전을 100번 던졌을 때 앞면이 나올 횟수는 100x1/2 = 50, 앞면이 50번 정도 나온다. 마찬가지로 숫자 N까지 소수가 나오는 횟수는 대략 N x (1/logN) 이 된다. 그리고 이를 실제 소수의 갯수와 비교해 보니 놀라울 정도로 일치했다.

이것이 가우스가 15살때 생각한 '소수 정리' 이다. 소수의 갯수가 뜬금없이 로그함수와 관련된다고? 그것도 오일러 수 e를 밑으로 하는 로그함수와?

소수가 정말로 이렇게 분포하는 걸까? 그렇다면 이건 정말 악마의 장난이다. N의 값이 엄청 커지면 혹시 슬쩍 확률이 바뀌지는 않을까?

영국의 수학자 하디 (고드프리 해럴드 하디, 영어: Godfrey Harold Hardy) 는 어릴 때 교회에서 찬송가 번호를 소인수분해하면서 놀았다고 한다. 그렇게 소수를 좋아하던 하디도 결국 소수 연구에 지친 나머지 절친 라마누잔 (스리니바사 아이양가르 라마누잔, 타밀어: ஸ்ரீனிவாஸ ஐயங்கார் ராமானுஜன், Srinivāsa Aiyangar Rāmānujan) 에게 다음과 같이 고백한다. "소수는 악마적 속성을 갖고 있다."

많은 수학자들은 외계인을 만난다면 그들에게 가장 물어보고 싶은 게 리만 가설이라고 한다. 독일의 수학자 힐베르트 (다비트 힐베르트, 독일어: David Hilbert ) 도 죽은 후 500년 뒤에 깨어날 수 있다면 가장 먼저 리만 가설이 증명되었는지 묻고 싶다고 했다.

영국의 수학자 G.H. 하디는 어느 새해의 여섯 가지 소망 중 첫번째로 리만가설의 증명을 꼽았다. 하디의 절친이었던 리틀우드 (존 이든저 리틀우드, 영어: John Edensor Littlewood ) 는 "리만가설이 거짓이라고 믿어 버려야 삶이 더 편해질 거 같다"라고 말했다.

영화 "무한대를 본 남자"의 실제 주인공 라마누잔은 리만가설 때문에 심한 복통을 느꼇고, 영화 "뷰티풀 마인드" 의 실제 주인공 존 내쉬 (존 포브스 내쉬 주니어, John Forbes Nash, Jr.) 리만가설을 연구하다 조현병에 걸렸다.

 

영국의 수학자로 영화 "이미테이션 게임" 의 실제 주인공이며, 컴퓨터 과학의 아버지, 비운의 천재라는 수식어가 따르는 앨런 튜링 (앨런 매시슨 튜링, 영어: Alan Mathison Turing) 은 다른 수학자들과 다른 관점으로 증명하려 들지 않고, 리만가설이 틀렸음을 증명해보이려고 했다. 현대 컴퓨터의 원형인 암호해독기로 계산을 시작했는데, 6개월간 쉬지 않고 계산했더니, 결과는 일직선상에 있는 제로점을 더 많이 찾게 됐을 뿐이다. 결국 리만가설 증명에 실패하고 2년 뒤 앨런 튜링은 자살로 생을 마각하게 된다.

페르마의 마지막 정리는 1995년 앤드루 와일즈 (앤드루 존 와일스 경, 영어: Sir Andrew John Wiles ) 에 의해 풀렸고, 7가지 밀레니엄 문제 중 하나인 푸앙카레의 추측은 2003년 그레고리 페렐만 (그리고리 야코블레비치 페렐만, 러시아어: Григо́рий Я́ковлевич Перельма́н) 이 해결했다.

 

하지만 아직도 리만가설은 난공불락이다. 세계의 많은 수학자들이 지금도 이 문제에 매달리고 있다. 한국의 기하서 교수도 20년 넘게 오직 이 한 문제만을 풀고 있다.

그럼 도대체 리만 가설이 뭘까?

유클리드, 오일러, 가우스, 리만, 힐베르트, 하디, 라마누잔, 셀베르그,...

역사상 가장 찬란했던 수학의 별들이 마치 릴레이를 하듯 소수의 문제에 매달려 왔다.

그 중에서도 소수의 분포에 대한 궁금증이 가장 컸다. 1792년 마침내 가우스가 소수의 개수를 추측할 수 있는 소수정리를 제안했다. 소수정리는 X보다 작은 소수의 개수 π(X)는 X가 상당히 커지면 X/logX에 가까워진다는 얘기다.

 

가우스는 이렇게 추측했을 뿐 이를 증명할 수는 없었다. 가우스의 제자였던 리만은 리만제타함수를 도입해 어떤 가정을 하면 소수정리를 증명할 수 있다는 것을 알았다. 1859년 리만이 발표한 논문에 거의 누에 띄지도 않게 삽입된 이 가정에는 오늘날 덤으로 10억 원의 상금이 걸려 있는데, 이게 바로 리만 가설이다.

19세기 수학자들 사이에는 소수정리를 증명하는 사람은 영생을 얻는다는 말이 있었다. 1986년 자크 아다마르 (자크 살로몽 아다마르, 프랑스어: Jacques Salomon Hadamard ) 와 발레 푸생 (샤를장 에티엔 귀스타브 니콜라 드 라 발레푸생, 프랑스어: Charles-Jean Étienne Gustave Nicolas de la Vallée-Poussin ) 은 소수정리를 거의 동시에 증명했고, 실제로 96, 99세까지 살았는데 당시로는 정말 엄청난 장수를 누린 셈이다.

하지만 1859년 리만이 제기한 가설은 아직까지 그 누구도 증명하지 못했다. 소수 정리를 증명했으면 됐지 왜 또 리만가설을 증명해야 할까? 리만이 리만 가설을 도입한 것은 가우스의 소수정리를 증명하기 위해서가 아니었나? 사실이다. 하지만 리만가설은 소수정리보다 훨씬 정밀하다. 존경하던 스승 가우스가 그토록 찾아 헤매던 성배, 곧 N까지의 소수를 정확하게 셀 수 있는 유일한 식인 것이다.

리만가설의 출발은 리만제타함수다. 비교적 간단하게 생긴 함수인데, 이 함수를 통해 가우스의 소수정리보다 꽤 정확하게 소수의 갯수를 알 수 있지만 여전히 오차가 있다. 이 오차를 보정해 주는 것은 바로 이 함수의 무한히 많은 근(영점)들이다.

오차를 보정하려면 복소평면 상에서 이 근들이 모두 1/2축 위에 있어야 한다는게 바로 리만가설이다.

이 근들 하나하나가 마치 소리의 파동과도 같은 역할을 해서 이 파동들을 합치면 오차가 점점 줄어들어 결국엔 오차가 0 에 수렴한다는 얘기다.

만일 리만가설이 틀려서 근둘 중 하나라도 1/2축 위에 있지 않다면 이 근이 내는 소리의 파동이 너무 커서 조율은 애초부터 불가능해진다. 역설적이게도 리만제타함수의 근들이 1/2축 위에 예쁘게 정렬해 있다는 것이 소수가 그토록 불규칙하게 보이는 이유이다.

영점의 질서가 소수의 무질서를 표현한다. 가우스가 예견한대로 소수는 동전던지기와 같은 임의성을 갖고 있고, 리만가설이 옳다는 것은 그러한 임의성을 설명할 수 있다는 얘기다. 그래서 영국의 수리물리학자 마이클 베리 (마이클 빅터 베리 경, 영어: Sir Michael Victor Berry ) 는 이렇게 말했다.

"리만가설은 소수를 음악으로 풀어 쓸 수 있다는 뜻이다."

영국의 수학자 마커스 드 사토이 ( Marcus Peter Francis du Sautoy ) 교수의 이런 책도 있다. "소수의 음악"

리만가설이 너무도 중요해 지자 심지어 이렇게 말하는 사람들도 생겼다.

"리만 가설이 거짓임을 증명하는 사람은 급사할 것이며, 그 결과는 세상에 알려지지 않을 것이다."

리만가설이 거짓임을 증명하면 수학계에는 일대 재앙이 닥치기 때문이다.

1972년 미국의 프린스턴 대학교에서 리만가설을 연구하던 휴 몽고메리 (Hugh Lowell Montgomery ) 박사가 관심을 가지고 리만가설에 대해 새로운 아이디어를 떠올렸는데, 영점이 일직선 상에 있는 것도 중요하지만, 이것보다도 중요한 건 영점 사이의 간격이 아닐까? 라고 생각했다.

그래서 영점 사이의 간격을 나타내는 수식을 찾아냈다. 이 수식을 발견한 몽고메리 박사는 너무 뿌듯해 하는데, 마침 양자역학의 전설적인 물리학의 대가 프리먼 다이슨 (프리먼 존 다이슨, 영어: Freeman John Dyson ) 박사와 티타임을 갖게 되는데, 몽고메리 박사의 식을 본 다이슨 박사는 놀라움을 감추지 못한다.

소르끼치도록 깜짝 놀라는데,, 왜냐하면,

미시세계의 운동을 나타내는 양자역학에서 적용되는 운동은 표현하는 수식과 완변히 일치했기 때문이다.

소~~~~오~~~~름 ....

원자들이 표현하는 어떤 수식이 소수들을 표현하는 어떤 수식과 관계가 있는 것이었다.

 

소수 - 1과 자기 자신만으로 나누어 떨어지는 수

원자 - 더 이상 화학적으로 쪼갤 수 없는 물질의 최소 단위

 

두 입자의 에너지 차이가 r일 확률을 나타내는 식

리만제타함수의 두 근 사이의 거리가 u일 확률을 나타내는식

리만제타함수의 근의 분포, 양자역학의 에너지 분포의 유사성. 출처 : Odlyzko, A. M. (1987), ‘On the distribution of spacings between zeros of the zeta function’, Mathematics of Computation 48(177), 273–308.

소수와 양자역학. 전혀 다른 두 분야의 학문인데 어떻게 이런일이 생길 수 있을까? 소수는 수의 원자라고도 불리는데 물리적인 실체를 이루는 원자와 연관성이 있다니 놀라울 따름이다. 혹자는 '소수가 창조주가 숨겨놓은 암호이다' 라고도 하는데 위의 일화를 보니 많은 생각이 들게한다.

어쩌면 소수가 우주의 설계도일지도 모른다는 생각이 든다.

https://www.youtube.com/watch?v=ui1lLctcSw8

https://www.youtube.com/watch?v=V-WVAXpyFZw

https://www.youtube.com/watch?v=jplN6NnGSBM

https://m.blog.naver.com/lyb0684/221366713844

 

다음 편에는 그 유명한 푸엥카레 추측으로 얘기해 보도록 한다. 수학계의 간지남, 페렐만이 빠질 수 없지....

https://www.youtube.com/watch?v=53HrLpy6IUA