[세상을 바꾸는 수학] 수학의 유리알 유희

박형주 포스텍 수학과 교수

지난 2003년에 뉴욕시는 공립학교 배정 방식에서 새로운 실험을 시작했다. 이전에는 학생이 진학하고 싶은 학교 다섯 곳을 써내면 학교가 순차적으로 선발 여부를 결정했는데, 여러 문제로 학교와 학생 모두 불만이 많았다. 새로운 방식에서는 학생이 하나의 학교만 적어낸다. 각 학교는 지원자 중에서 원하는 학생을 수용한도 내에서 선정한다. 떨어진 학생들은 다시 하나의 학교를 적어내고 이 과정은 반복된다.

뭐가 다른 걸까? 일단 학생과 학부모의 만족도가 크게 높아졌다. 원하지 않는 학교에 배정된 학생이 적응하지 못해서 중간에 다른 학교로 전학을 가는 경우가 거의 없어졌다. 학교에 대한 이해도가 높은 학생들이 입학하고, 불필요한 전학으로 인한 비용도 줄게 된 학교들의 만족도 또한 높았다.

이 새로운 배정 방식을 제안한 사람은 하버드대 경영대학원의 앨빈 로스 교수다. 그는 자신의 대학원 지도교수였던 UCLA의 수학자 로이드 섀플리 교수와 함께 2012년 노벨경제학상을 받았다. 뉴욕시의 새로운 학교 배정 방식은 섀플리와 로스의 수학적 업적이 성공적으로 적용된 사례다.

경제적 자원을 시장 구성원에게 배정하는 문제에서 안정적인 평형 상태에 다다르도록 할 수 있는가라는 문제가 원래 출발점이었다. 여기서 안정적 평형 상태란, 그 배정 결과를 조금 바꾸고자 시도하면 어떤 구성원이 크게 손해를 보는 등의 이유로 변경 전으로 돌아가게 되는 상태를 말한다. 학교 배정 문제에서는, 학생의 전학이 없어지는 상태다.

원래는 섀플리 교수가 수학자 데이비드 게일과 함께 제안한 수학 알고리즘이었던 게일-섀플리 짝짓기 알고리즘을 로스가 각종 경제현상과 사회문제에 적용해 그 유용성을 입증했다. 자원 배분 문제를 시장에서 자원과 구성원의 짝짓기 문제로 본다면, 최적의 짝짓기는 안정적 짝짓기라고 볼 수 있다. 현재의 배분 상태에 모든 구성원이 행복한 것은 아니지만, 작은 변경은 또 다른 문제를 야기하므로 원래대로를 선호하는 상태다. 배정의 반복 과정을 통해 반드시 안정적 짝짓기에 다다름을 부인할 수 없는 명징성(明澄性)으로 증명한 것이 노벨상 수상의 이유다.

결혼 상대를 찾는 미혼 남녀들의 짝짓기에서도 같은 방식을 적용하면 안정적 짝짓기에 도달할 수 있다. 이 경우의 안정적 짝짓기는, 배우자가 아닌 상대와 눈이 맞는 불상사가 없는 상태를 말한다. 물론 최초의 호감 순위가 바뀌지 않는 경우인데, 이 연구 결과가 이혼의 사회적 비용을 줄이는 데 기여했다는 증거는 아직 없다.

수학이 사회·경제 문제에 대한 답을 하는 수준을 넘어서 산업의 여러 문제를 해결하는 시대다. 고등학교를 졸업한 이후로 수학은 만나본 적이 없다는 분들은 이런 것도 수학이냐고 할 만하다. 원래 고대 문명에서 사냥감의 수를 세거나 농사의 절기를 결정하는 문제로부터 수학이 시작됐으니, 이러한 경향은 새로운 게 아니다.

수학이 산업에 영향을 끼치는 최근 사례로 빅데이터 열풍을 들 수 있다. 빅데이터와 최적화 이론으로 대중교통 노선과 배차 일정을 뒤집으면 도시 교통문제도 상당히 해결된다. 조류독감이나 메르스 같은 전염병의 감염경로 예측도 가능하다. 구글은 시행착오 끝에 2012년에 유튜브의 방대한 이미지 데이터에서 고양이와 강아지를 구별하는 데 성공했는데, 이는 인공지능 시대가 훌쩍 다가왔음을 의미한다.

독일 작가 헤르만 헤세(1877~1962)는 소설 ‘유리알 유희’로 1946년 노벨문학상을 수상했다. ‘유리알 유희’의 주인공은 학문의 순수함으로 가득한 유토피아에서 명인의 경지에 올랐으나 이를 세상과 나누고자 시장통 같은 세상으로 나간다. 21세기의 수학은 산업과 사회의 문제를 풀어 나가는 한복판에 이미 와 있다.

<약력>

서울대 물리학과 졸. 미 버클리대 대학원 수학과 박사.

미 오클랜드대 수학과 부교수, 고등과학원 계산과학부 교수 역임.

2014 국제수학자대회 조직위원장.