[과학세상] 60년 수학 난제 ‘소파 움직이기’

해가 바뀌고 2025년이 됐다. 대단한 설렘이나 거창한 계획은 없지만, 이사가 예정돼 있어 마음이 살짝 분주하다. 대륙을 넘나들던 것까지 합해 거주지를 바꾼 게 스무 번도 넘는다. 이 정도면 이사의 달인이 될 만도 한데, 현실은 정반대다. 이사가 점점 더 어렵다. 살아온 시간에 비례해 이런저런 이유로 버리지 못하는 잔 짐이 늘어나는 데다 가구까지 많아진 탓이다.

가구는 그 수를 줄이는 것도 쉽지 않지만, 큰 덩치 때문에 좁은 입구를 거쳐 밖으로 빼내는 것도 만만치가 않다. ‘언젠가 읽을’ 책들을 과감히 정리하고 가운데 선반이 내려앉은 큰 책장을 하나 버렸는데, 난리도 그런 난리가 없었다. 무겁고 높이도 문보다 높아 이동이 쉽지 않았다. 바닥에 뉘여 한참을 이리 밀고 저리 밀고 하면서 땀을 한 바가지 정도 흘리고 나서야 일이 끝났다. 책장이었으니 망정이지 소파였다면… 생각만으로도 아찔하다.

지난 해 12월 백진언 연세대 수학과 연구원(29)이 ‘소파 움직이기 문제(The Sofa Problem)’라 불리는 60년 난제를 해결했다는 소식이 있었다. 이는 ‘폭이 1이고 직각으로 꺾인 복도를 지나갈 수 있는 소파(2차원 도형)의 면적은 얼마인가?’라는 질문으로, 여러 수학자들에 의해 여러 개의 답이 제시됐지만 확실하게 증명된 적이 없어 오랫동안 미해결된 과제로 남아있었다.

국내 20대 수학자가 해법 제시 ‘화제’

이번 연구 결과 내용을 알아보기에 앞서 소파 문제의 의미를 조금 더 자세히 살펴보면 이렇다. 우선 복도는 L자 모양으로 꺾여 있다. 다시 말해 한쪽에서 소파를 밀고 들어가야 하고, 코너를 지나 반대쪽으로 나와야 한다. 그런데 소파는 아주 무겁기 때문에 들 수 없고, 오직 밀어서만 움직일 수 있다. 따라서 소파가 복도 벽에 걸리지 않고 코너를 돌아야 한다. 이런 상황에서 코너를 돌 수 있는 소파 중 가장 넓은 면적을 가진 소파는 어떤 모양일까?

이는 생각보다 간단치 않은 문제다. 우선 소파의 모양이 정해져 있지 않다. 다시 말해 소파의 모양은 직사각형, 원형, 혹은 완전히 복잡한 곡선까지 무한히 많은 형태로 설계할 수 있다. 그래서 어떤 모양이 가장 좋은지 판단하려면 너무 많은 경우를 비교해야 한다.

사실 소파가 직각 코너를 돌 수 있는 모양을 몇 가지 찾아보는 건 어렵지 않다. 예를 들어, 작은 직사각형이나 둥근 모양의 소파는 쉽게 코너를 통과할 수 있다. 하지만 최적의 답을 증명하는 건 어렵다. 다시 말해 특정 소파 모양이 정말 가능한 모든 소파 중에서 가장 큰 면적을 가지는 최적의 해라는 것을 수학적으로 증명해야 하는데, 이 과정이 매우 복잡하다.

이는 마치 가장 맛있는 음식을 찾는 것과 비슷하다. 다양한 음식을 먹어보는 건 어렵지 않지만, 이게 모든 음식 중 ‘제일 맛있다’고 하려면 전 세계 음식을 다 먹어보고 평가해야 가능하다. 그만큼 증명이 쉽지 않다.

이 질문을 던진 캐나다의 수학자 레오 모저(Leo Moser·1921~1970)는 문제를 일상에서 찾는 걸 좋아한 독특한 인물로 알려져 있다. 그는 수학적 호기심을 자극하는 질문들을 모아 책으로 만들고, 친구와 동료들에게도 새로운 질문을 추가하도록 권하기도 했다고 한다. 어쩌면 이 과제도 비슷한 과정을 통해 제기된 것일 수 있다. 아니면 본인의 이사 경험에서 영감을 얻었거나….

삶도 조건 만족하는 최적의 답 찾는 과정

소파 문제 해결에 중요한 역할을 한 인물로 영국 수학자 해머슬리와 미국 수학자 조지프 거버를 꼽을 수 있다. 해머슬리의 경우 소파의 면적을 최대화하기 위해 일명 ‘전화기 모양’이라 불리는 특정 기하학 형태를 선택해 최대 면적을 산출했다. 그리고 조지프 거버의 경우 해머슬러의 소파 곡선을 세밀하게 조정해 좀 더 큰 면적의 소파를 설계하는 데 성공함으로써 문제 해결에 중요한 단계를 마련한다.

두 사람의 경우처럼 기존 연구가 소파의 면적 최대화에 초점이 맞춰진 데 반해 백진언 박사는 소파가 ‘Q’라는 새로운 변수를 도입해 소파의 면적 자체가 아닌 소파가 가져야 하는 속성, 다시 말해 소파의 형태나 회전 이동 등을 포함한 효율성을 측정하는 데 중점을 두었다. 그리고 거버의 소파가 Q의 최댓값을 가짐을 보임으로써 거버의 제안이 이 문제의 해답임을 증명했다.

백 연구원의 논문은 검증 과정을 거치고 있어 아직 공식적으로 학술지에 발표되지는 않은 상태다. 때문에 이번 도전의 최종 결과가 나오기까지는 조금 더 기다려봐야 한다. 주어진 조건을 만족하는 최적의 답을 찾아내는 건 학문의 세계에서도, 이사와 같은 일상의 문제에서도 쉽지 않은 게 확실하다. 그래서 더욱 흥미롭기도 하다.