(가려읽기) 승리에 안주하다

컬럼비아 대학 교수로 있을 당시 나는 큰 실수를 저지른 적이 있다. 그 무렵 나는 아주 재미있는 아이디어가 떠올라서 연구 가치가 높은 ‘좋은 문제’를 잡았다. 이 문제로 수학의 이론을 완성시키려고 생각한 것이다.

 

그것은 기하학적인 문제로서 대략 말하면 무한급수를 써서 정의된 데이터를 유한급수로 효과적으로 표현할 수 없겠느냐 하는 근사문제였다. 우선 1차원, 2차원이라는 낮은 차원에서 연구한 결과, 좋은 방법을 찾아낼 수 있었다. 반 년쯤 걸려서 얻은 그 연구 결과를 나는 하버드 대학의 세미나에서 발표하였다.

 

그떄 세미나에서는 하버드 대학의 교수들뿐만 아니라 다른 대학 교수도 적지 않게 참석하고 있었다. 나는 하버드 대학의 세미나에 모인 쟁쟁한 교수들과 학생들 앞에서 내가 세운 이론을 발표하였다. 발표를 마치자 메사추세츠 공과대학의 한 교수가 “당신의 이론은 아름답다. 최고다!”라고 눈을 빛내면서 말했다.

 

“아름답다(Beautiful!)”

 

수학자에게 이것을 능가할 만한 찬사는 없을 것이다. 영국의 수학자 러셀(B. A. W. Russell)은 전에 수학의 미에 대하여 이렇게 말한 적이 있다.

 

“수학은 진리뿐만 아니라 숭고한 아름다움을 지니고 있다. 그 아름다움은 조각처럼 차갑고 엄숙하며 사람에게 호소하는 것도 아니고 그림이나 음악처럼 화려한 장식도 없다. 그러면서 장엄하리만큼 순수하며, 최상의 예술만이 제시할 수 있는 엄격한 완벽에 도달할 수 있다.”

 

‘아름답다’라는 말은 수학에서는 최고의 찬사를 뜻하는 것이다.

 

나는 대단히 기뻤다. 동시에 이 이론을 3차원, 4차원으로 매개변수(媒介變數)의 수를 늘려서 표현하여 최종적으로는 일반론으로까지 높이려고 결심했다. 2년 동안 나는 그 연구에 몰두하였다. 그러나 결국 벽에 부딪치고 말았다. 이 이론을 일반화하는 것은 불가능하지 않을까 하고 거의 포기하려던 무렵이었다.

 

어느 날 밤늦게 선배인 하버드 대학 교수로부터 뜻밖의 전화가 걸려 왔다.

 

“독일 태생의 젊은 학자가 자네 이론과 비슷한 것을 일반론으로 완성한 것 같네.”

 

그는 다소 동정하듯이 말했다. 나는 그의 말을 다 듣기도 전에 갑자기 수화기를 든 손이 떨리고 온몸에서 힘이 빠지는 것을 느꼈다.

 

나는 될 수 있는 대로 마음을 냉정하게 갖고 그 학자가 어떤 방법을 썼느냐고 물었다. “바이어슈트라스의 정리를 쓴 것 같다.”라는 대답이었다.

 

(…)

 

인형처럼 멍하게 앉아 있는 동안 나는 왜 2년간의 피나는 노력이 열매를 맺지 못했는지 다시 생각하기 시작했다. ‘바이어슈트라스의 정리’는 1백 년 전부터 있었다. 나는 그 전에 그 정리를 써서 성공한 적도 있었다. 그럼에도 불구하고 이번에는 왜 이 정리를 쓰면 된다는 생각을 못 했을까?

 

생각나는 일이 있다. 하버드 대학 세미나에서 연구 결과를 발표했을 때 매사추세츠 공과대학의 교수로부터 “아름답다!”라고 칭찬받은 적이 있다. 그것 때문에 기분이 좋아진 나는, 그 후 나의 방법을 고집하게 되었던 것이다. 그리고 그 고집은 편견을 만들고, 그 편견을 다시 고집하는 악순환을 되풀이하는 사이에 결국 일을 새로운 각도에서 보는 태도를 잊어버리고, 무의식중에 일방적인 편견으로 가득 차 “이 방법으로 못 풀면 현대 수학으로서는 풀 수 없을 것이다.”라는 엄청난 독선이 내 마음속에 형성되어 갔던 것이다.

 

나는 2년에 걸쳐서 이 편견을 향하여 돌진했던 것이다. 그것은 오직 비뚤어지고 문제를 더 복잡하게 했으며, 미로에 들어가 헤매기 위한 시간이었다고도 말할 수 있다.

 

사람은 성공을 경험함으로써 자칫하면 소박한 마음을 잃어버리기 쉽다. 내가 실패한 것은 그 때문이다. 문제에 대하여 솔직하고 소박한 마음을 유지할 수 있었다면 원점으로 되돌아가서 나의 방법을 자세히 점검했을 것이다. 그리고 그 과정에서 전에 나 자신이 써서 효과가 있었던 ‘바이어슈트라스의 정리’가 관건이 된다는 것을 그다지 어렵지 않게 알았을 것이다.

 

소박한 마음을 잃지 않는 것, 그것이야말로 창조의 기반이 아닐까? 이것을 깨닫게 되었을 때는 어느새 황혼이 가까워 있었고, 나는 어느 정도 힘을 되찾았다.

 

 

『학문의 즐거움』 (원제는 히로나카 헤이스케의 『학문의 발견』.)