MyMiscFu012

[wiki:MyMisc 위로]

(TableOfContents)

문제를 푸는 것, 그리고 만드는 것

입시문제

대학의 선생을 하고 있으면, 대학 입시 문제를 풀 필요가 있을 때가 자주 있다. 예를 들면 문제에 미스가 없는가 라든가, 출제에 관계하지 않은 선생이 시험삼아 풀어본다고 하는 경우가 있다. 수험생과 같은 시간으로 풀려고 하는 경우도 있지만, 아무래도 수험생과 같이 합격 불합격이 관계되는 일이 아니니까, 정신을 차리지 않아서 풀지 못하기도 한다. 이것은 곤란한 것이지만, 그다지 부끄럽다고는 생각하지 않는다. 아무래도 답이 있기로 되어있는 문제를 일정시간 안에 푸는가 어떤가는「아무래도 좋다」라고 결국은 생각한다.(FootNote(그런 일로 합격 또는 불합격이 좌우되는 수험생에게는 미안한 일이지만, 수험 수학만 알고 수학이라는 것은 이런 것이라고 생각하기보다, 세상이 이상해서 이런 일을 시키고 있다고 생각해 주는 편이 좋다고 필자는 생각한다.))

한편은 출제하는 기회도 있지만 필자의 개인적인 감상으로는, 좋은 문제가 만들 수 있는가 어떤가 하는 쪽이 수학자로서의 능력을 시험받고 있는 것 같은 기분이 든다. 출제를 결정하는 위원회에서 이 문제는 상당히 흥미롭다고 해서 채용되면, 조금은 기쁘다. 그다지 복잡하지 않고, 그래도 제재(題材)의 본질에 관한 문제를 생각한다고 하는 것은 대단히 어렵다. (선명하고 elegant하고 모양이 좋은, 그러나 그 방법이 반드시는 보편성을 갖지 않은, 퍼즐 같은 문제를 만드는 것과는 다르다.) 문제를 만드는 능력의 쪽이 문제를 푸는 능력보다도「고급」이고「보다 창조적」이라는 생각도 든다. (그렇다고 해도 이것은 사람이 출제한, 풀 수 있는 문제에 한한다. 풀릴지 아닐지 모르는 문제를 처음 푸는 것은, 이것과는 완전히 다르다.)

(FootNote)

개개의 문제의 가치

수학의 연구의 세계에서는, 문제를 푸는 것이 자신 있는 사람(problem solver)와, 새로운 개념을 생각하여 문제를 만들어 내는 것이 자신 있는 사람의 양쪽이 있어, 이 둘의 밸런스가 깨지면 잘 진보하지 못한다.

그것이 무슨 쓸모인가를 생각하지 않고 이론을 건설하여도 소용이 없다 라는 것은 한쪽에의 경고이다. 길고 장대한 이론 구성을 하여 보고, 결국 그것을 만족하는 예는 없었다 라는 등의 말도 있다고 한다. 말만이 겉돌고, 뭔가 매력적이지만 잘 생각하면 空疎 라고 하는 것은 여러 분야에 있다. 그것이 매스컴을 타고 선전을 시작하면 점점 더 실속 없게 되는데, 수학에서 이것을 피하기 위한 방법은, 되도록 분명한, 그리고 미리 다른 지식이 없어도 정식화 할 수 있는 문제를 생각하여, 만들어진 이론이 그것이 대하여 유효한가 어떤가를 생각해 가는 일이다. 이것은 많이 강조되는 일이고 중요한 점이다. 예를 들면 페르마의 문제는 이러한 문제의 한가지 예이다.

그러나 여기서는 그것에 비하면 강조되는 일이 적은, 반대쪽의 점을 말하고자 한다.

50, 60년대의 수학, 70년대의 수학

현대 수학을 형성하는 많은 이론체계는, 가깝게는 1950, 60년대 정도까지 끝을 맺는다. 미분위상기하학의 많은 부분, 층(sheaf)이랑 호몰로지대수, 대수기하학의 기초(예를 들면 스킴(scheme)), 초함수랑 의미분작용소(pseudo-differential operator) 등 열거하여야할 예는 많으나, 그러한「수학을 만들어 가는」일이 한창이었던 것은 50, 60년대였다.

필자는 그때를 실제로 체험한 세대에는 속하지 않는다. 학생시대에 그와 같이 만들어져온 장대한 이론체계를 보고 감동함과 동시에, 자신들의 상황이 당시와는 달라져왔다는 것을 느끼고 있었다는 것도 기억하고 있다. 비교적 단순하고 명쾌하며 그러나 매력적이던 그때의 수학에 비해, 필자가 학생이던 70년대 말의 수학은 훨씬 어려워져 있었다. 논문의 생산수가 너무 크게 늘어나서, 전문가도 거의 읽을 수 없게 된 것도 70년대에서였다고 한다.

또 50, 60년대를 대표하는 수학자. 예를 들면 Serre와 Milnor가 명쾌하고 읽기 쉬운 논문을 쓰는 것으로도 유명했던데 비하여, 70년대 이후를 대표하는 수학자의 논문에는, 무엇인가 재미있을 것 같은 것이 써 있지만, 어려워서 조금도 알 수 없다 라는 경우도 많았다. 우리는 황금시대가 지난 후에 공부를 시작한「늦게 도착한 상품」은 아닌가 라는 의구심을 품었던 것도 생각난다.

유명한 미해결 문제 해결의 러시(Rush)

한쪽에서 70년대부터 진행되었던 것은 옛날부터의 유명한 미해결 문제 해결의 러시였다. Weil예상 근처에서 시작하여, 최근의 페르마 예상에 이르기까지의 20여년간은 그렇게 볼 수도 있다. 어떤 사람은 그것을「시대는 50, 60년대에 개발 된 수법을 근본으로, 예전부터 있었던 문제를 해결하는 단계에 들어왔다」고 평했다. 그것은 올바르다. 그러나 필자는, 어느쪽인가 하면, 그러한 경향에 익숙하지 못했다.

문제 해결을 중시하는 한 가지 이유는, 수학자의 수가 늘어나서 그들 사이의 경쟁이 격화된 것을 들 수 있다. 미해결 문제를 푼다고 하는 종류의 업적의 하나의 특징은, 그것이 객관적으로 평가되기 쉬운 점이다. Grothendieck는 『수확과 뿌린 종자』가운데서,「어린이다운 개념의 발견」을 자기가 생애를 통해 추구해온 것이라고 말하고, 예를 들면 topos와 같은 기본적인 도구가 평가받지 못하고, Weil 예상의 증명에 사용된 부분만으로 의미를 부여한다는 생각에 반대하고 있다. 예를 들면, 우선 Weil 예상을 증명한 것의 가치를 부정하는 수학자가 없는 것과는 달리, topos의 발견의 평가는 사람에 따라 나뉠 것이다. 이것은 topos의 발견이, Weil 예상의 증명보다 수학으로서의 가치가 낮은 것을 꼭 뜻하는 것은 아니다.

이것은, 수학의 가치가「답이 하나라는 것」, 즉 정리가 옳은가 어떤가가 명확히 결정되는 것, 그리고 동시에, 우수한 수학 문제의 조건이「답이 많이 있는 것」, 즉 많은 해법이 있는 것, 이라는 것과 마찬가지이다.

무엇이 이론이고 무엇이 응용인가

수학의 경우, 무엇이 이론이고 무엇이 응용인가를 말하는 것은 어렵다. 예를 들면, 갈루아 이론이라고 하는 것이 있다. 이것은 방정식의 해를 근호를 써서 표시하는 공식을 탐구하는 과정에서 발견된 것이고, 방정식을 풀기(근호로 표시하기)위한 기본이론이며, 구체적인 방정식을 풀기 위하여 많은 응용이 있다. 그 후, 대수학은 개개의 방정식은 일단 거리를 두고, 체(field)의 확대와 그의 갈루아 군의 연구로 역점을 옮겼다. 그 중에서 발견된 많은 사실이 있다. 그것들은 중요한 것이지만,「그러면 그것을 사용하면 어떤 방정식이 풀리게 되는 것인가?」라고 질문하는 것은 무의미한 경우가 많다.

예를 들면, 갈로아 이론에 대한 중요한 이론에 유체론(類體論;class field theory)이라는 것이 있지만, 이것이 나타난 직후에 유체론으로 어떤 방정식이 풀리게 되었는가 라고 물어도 좋은 답은 나오지 않을 것이다. (그래도 유체론과 같은 기본적인 이론은, 결국 오래된 문제에도 응용된다. 즉, 예를 들면 방정식의 정수해의 문제를 생각하는 데에 유체론은 여러 가지로 사용된다.)

새로운 문제의식을 만든다

이미 제출된 의의가 정하여 있는 수학 문제를 푸는 것을 지상 목표로 삼는 태도의 문제점은, 수학에 대한 태도가 보수적이 되는 것이다. 즉, 어떤 문제가 중요하고 재미있는지에 대하여, 새로운 입장에서 보지 않으므로 판단하는 것을 회피하고, 이미 확립되어 있는 옛 문제의식에 따라버리는 일이다.

어떠한 문제가 재미있는가(가치가 있는가)에 대한 생각은, 연구가 진행됨에 따라 변해가는 것이 당연하다. 새로운 문제의식을 만드는 것은 중요한 발견의 하나이다.

페르마 예상의 우수한 점은, 그것이 ideal 이론 등의 많은 수학을 탄생시킨 동기가 되었다는 것이라고 전해진다. 힐베르트(Hilbert)는 23개의 수학 문제를 제출한 유명한 강연 중에서, 개개의 구체적인 문제의 의의를 강조하고, 그것을 생각하는 것으로 이론이 나아가야할 바른 방향을 알 수 있다고 말하고 있다.

이것은 두 가지 뜻에서 중요하다. 하나는 구체적인 문제의 의의이고, 또 하나는 그것이 왜 중요한가이다. 그것은 이론을 바르게 진행시키는 길잡이로서 중요한 것이며, 문제를 풀기 위해서만 이론이 필요한 것은 아니다.

커다란 꿈

90년대에 들어와, 문제 해결이라고 하는 의미로의 수학의 진보는, 일단락된 것처럼 보인다. 페르마의 문제가 풀리면, 이름이 붙어있는 유명한 예상으로는, 리만(Riemann) 예상과 포엥카레(Poincare)예상이 남는다. 어느 것이든 간에, 풀어야할 문제가 점점 어려워지고 있는 것은 확실하다. 필자는 이쯤에서 되돌아가기를 기대한다. 즉 새로운 문제의식을 만들고, 개념구성이 행하여지는 시대의 도래를 기대한다.

몇 백년도 풀리지 않은 문제를 푸는 것은 멋진 일이지만, 필자의 (커다란) 꿈은 몇 백년도 풀리지 않는 문제를 제출하는 것, 오랜 기간 동안 수학자가 꿈을 꾸게 하는 재료를 발견하는 것이다.