Birch and Swinnerton-Dyer Conjecture[1]

추측의 대략적 내용은 아래와 같다.[2]에서 [math(s=1)]에서의 첫 번째 로랑 계수를 계산하는 식인데, 이 식을 쓰는데만 해도 대학원 이상 수준의 타원곡선의 온갖 개념이 필요하므로 여기서는 생략한다.]

위 추측에 대한 증명은 밀레니엄 문제 중 하나다. 현재까지 미해결인 상태며, 이 문제를 푼 사람에게 상금 100만 달러가 수여된다.

정수론의 가장 중요한 문제 중 하나는 방정식의 정수해 또는 유리수해를 찾는 것이다.

간단한 예로 다음 문제를 생각해 보자. 세 변의 길이가 모두 정수인 직각삼각형은 어떤 것이 있을까?

다시 말해서, 이는 피타고라스 정리의 방정식 [math(a^2 + b^2 = c^2)] 을 만족하는 자연수 [math(left(a,b,cright))]를 찾는 것이다. 이를 만족하는 [math(left(3,4,5right), left(5,12,13right), left(7,24,25right), left(8,15,17right), left(6,8,10right), cdots)] 같은 무한히 많은 쌍들은, 모두 [math(left(a, b, cright) = kleft(m^2 - n^2 , 2mn, m^2 + n^2right))] 또는 [math(kleft(2mn, m^2 - n^2 , m^2 + n^2right))]의 형태로 나타낼 수 있다. 이런 식으로 변수가 정수인 다항방정식을 디오판토스 방정식(Diophantine equation)이라 부른다.

유명한 페르마의 마지막 정리 [math(x^n + y^n = z^n)]도 디오판토스 방정식의 예라고 볼 수 있다. 하지만 페르마의 마지막 정리 문서를 보면 알겠지만, 이 경우의 정수해는 xyz가 0인 것을 제외하고는 존재하지 않는다. 이 문제는 대다수의 디오판토스 방정식은 보기와는 다르게 매우 어렵다는 것을 시사하기도 한다. 사실 실수의 방정식이라면 (차수나 양음의 조건만 만족시키면) 해가 존재하는 건 당연하지만, 이 경우에는 '정수가 되어야 한다'는 훨씬 까다로운 조건을 만족해야 하니...[3]

방정식의 유리수해를 찾는 것은 정수해를 찾는 것과 꽤 비슷하다. 예로 위의 피타고라스 정리 방정식의 경우 양변을 [math(c^2)] 로 나누고 [math({a over c} = x)], [math( {b over c} = y )]라 하면, 이는 원 [math(x^2 + y^2 = 1)] 위의 점 중 [math(left(x,yright))]가 유리수인 점을 찾는 문제가 된다.

우선 타원곡선이 뭔지 알아야 한다. 타원곡선은 수학과 대학원의 대수기하학 수업에서 다루는 것 중 하나이다.

타원곡선(elliptic curve)은 일반적으로

꼴의 도형의 방정식을 나타낸다. 정수론에서 관심을 두는 것은 [math(left(x,yright))]가 유리수인 해, 즉 유리수점의 집합 [math(Eleft(Qright))]를 찾는 것이다.

아래 두 단락은 대수학 중 군론, 특히 그 중에서도 유한생성 아벨군의 기본 정리(fundamental theorem of finitely generated abelian groups)를 모르면 이해할 수 없는 내용이다.

타원곡선의 유리수점들은 해들을 '더할 수 있는' 특이한 구조를 가지고 있다. 곡선 위의 두 점 [math(P)]와 [math(Q)]를 더하는 방법은 대략 다음과 같다. [math(P)]와 [math(Q)]를 잇는 직선 [math(l)]을 생각하고, [math(l)]과 [math(E)]의 다른 교점 [math(R)]을 생각한다. 이제 [math(R)]의 [math(y)]좌표를 [math(-)]로 바꾼 점 [math(R')]은 [math(P+Q)]가 된다. 이 덧셈에 대해서 유리수점들은 가환군을 이룬다. 다시 말해 이 덧셈에 대해 교환법칙과 결합법칙이 성립하고, 0에 해당하는 점에 대해[4] 점들을 빼는 것도 가능하다는 것이다. 이 [math(Eleft(Qright))]의 군을 모델-베유 군(Mordell-Weil group)이라 하자.

이제 자연스럽게 떠오르는 질문은 [math(Eleft(Qright))]의 군의 구조에 대한 것이다. 모델-베유 정리(Mordell-Weil theorem)에 따르면 이 군은 유한생성(finitely generated)된다. 다시 말해 유한 개의 유리수점 [math(P_1,P_2,cdots,P_k)] 가 있어서, 이들의 합으로 모든 점을 나타낼 수 있다. 이를 만족하는 최소개수의 점들 중, 반복해서 더해서 0이 되지 않는 점들의 개수를 타원곡선의 계수(rank)라고 한다. 이 계수를 [math(r)]이라 한다면, 타원곡선의 모든 유리수점은 다음의 꼴로 (단 [math(n_iinmathbb{Z}, P_{text{torsion}})] 은 반복해서 더해서 0이 되는 점)

유일하게 나타낼 수 있다.

분모, 분자가 모두 [math(N)] 이하인 유리수점의 개수가 증가하는 개형을 [math(r)]로 표현할 수 있다.

지금까지의 내용을 이해할 수 없는 위키러들은 대신, 타원곡선의 계수에 대해서 다음처럼 간략화시켜서 기억하고 넘어가도록 하자:
계수는 타원곡선의 유리수점이 얼마나 많은지 나타나는 지표이다.

본 단락을 이해하는 데에는 정수론 배경 지식이 필요하다.

디오판토스 방정식을 푸는 데에 중요한 접근 중 하나는, 방정식을 특정 정수로 나눈 나머지로 생각하는 것이다. 예를 들면 [math(x^2 - 3y^2 = 2)]같은 방정식은 정수해가 존재하지 않는데, 이는 정수 [math(x)]에 대해 [math(x^2)] 를 3으로 나눈 나머지는 0과 1밖에 없기 때문이다. 비슷하게 [math(x^2 + y^2 = 103)]같은 경우도, [math(x^2 + y^2)]을 4로 나눈 나머지는 0, 1, 2밖에 가능하지 않으므로 정수해가 없다.

일반적으로 ([math(x)]와 [math(y)]에 대한 식) = 0 꼴의 디오판토스 방정식에 대해, ([math(x)]와 [math(y)]에 대한 식)이 정수 [math(N)]으로 나누어 떨어지는 해가 있는지[5]에 대한 합동방정식으로 보았을 때 해가 있는지.]의 조건을 국소적 조건이라 한다. 디오판토스 방정식이 해가 존재하려면 당연히 국소적 조건을 만족시켜야 하지만, 그 역이 성립하지는 않는다.

이제 하세-베유 [math(L)]-함수(Hasse-Weil L-function), 간단히 L-함수라는 대상은, 임의의 방정식에 대해 국소적 조건의 조각들을 모두 모음으로 만들어진다. 즉 소수 [math(p)]에 대해서 합동방정식

의 해의 개수[9]나 [math(y)]를 [math(p)]로 나눈 나머지만을 생각하는 개념이다. [math(x)]나 [math(y)]가 모두 0에서 [math(p-1)] 일 때까지만 생각한다고 봐도 무방하다.]에 대한 적절한 식[10] 의 경우를 계산하는 것만으로도 [math(L)]-함수를 구하기 충분한 상황이다.] 으로 정의하는데, 타원곡선의 경우 이 함수는

로 나타난다. 여기서 [math(a_p)] 는 [math(p+1-left(E_pright.)]의 해의 개수[math(left.right))].

어찌 보면 이는 리만 가설에 나오는 리만 제타함수의 아날로그라 생각할 수 있다. 제타함수의 오일러곱을 생각하면 이는 소수 [math(p)]에 대한 국소적 함수 [math(left(1 - p^{-s}right))]들의 모음이니까. 다만 소인수분해의 일의성에 의해 소수의 개수와 리만 제타함수가 바로 연결되는 상황과는 다르게, 타원곡선의 [math(L)]-함수는 유리수점 [math(Eleft(Qright))]의 개수에 대한 정보를 줄 이유가 선험적으로는(a priori) 전혀 없다.

이제까지 나왔던 개념들을 정리해 보자. 타원곡선 E의 계수 r은 타원곡선의 유리수점의 군에 대응되는 양으로, 유리수점이 얼마나 많은지를 나타내는 지표이다. 한편 하세-베유 [math(L)]-함수는 [math(E)]의 국소적 조건들을 모두 모아 합친 양이다. 앞서 말하진 않았지만, 복소해석학의 이론에 따르면 [math(L)]-함수에서 [math(s = 1)]에서의 근의 차수는 특별한 의미를 가진다. 중간과정을 모두 생략하면, 이 근의 차수는 국소적 조건으로 유리수점이 얼마나 많은지를 어림하는 '추정치'라고 생각될 수 있다. 즉 버치와 스위너톤-다이어 추측은 결국

실제 유리수점이 얼마나 많은지는 국소적 조건의 정보로 계산한 추정치와 사실 일치한다.

라는 것을 말한다.

버치와 스위너톤-다이어 추측의 의미는 디오판토스 방정식의 핵심적인 문제 중 하나인 해가 얼마나 있는지의 질문과 연관지을 수 있다. 만약 이 추측이 맞다면, 타원곡선의 해가 유한 개인지 무한 개인지 판정할 수 있다.[11]을 의미하므로, L-함수를 계산해서 0이 아님을 보이면 된다. 만약 무한 개라면 유한 번 더해서 0이 아닌 해를 찾을 수 있다는 소리이므로, 조사하면 언젠가 해가 나올 것이다.] 왜 하필 타원곡선이 중요하냐 하면, 타원곡선의 해 판정이 곡선, 즉 [math(f(x,y)=0)]꼴의 방정식 중에선 유일하게 풀리지 않은 문제이기 때문이다. 곡선의 차수가 1 또는 2인 경우에는[12] 풀이가 초등정수론에서 완벽히 해결되었고(1일때는 너무 쉽고, 2일때는 ax²-by²=c의 해집합이 펠 방정식 기법을 이용하면 찾아진다), 4차 이상의 곡선[13]의 경우에는 팔팅스의 정리에 의해 해가 유한 개밖에 없다는 사실이 증명되었다. 3차인 곡선들 중 해가 있는 것은 타원곡선과 대수적으로 동치이므로, 즉 해가 무한히 많은지 아닌지 유일하게 모르는 곡선이 타원곡선인 셈이다.

당장에 스위너톤-다이어가 본 추측을 생각한 동기도 [math(E_p)]의 해의 개수인 [math(N_p)]의 분포를 컴퓨터로 계산하며 나왔다고 하니,[14]가 커지는 경향이 있다. 위의 L-함수와 연관지어 생각한다면 [math(N_p)]가 커지면 [math(a_p=p+1-N_p)]가 작아지므로 [math(L(E,1)=0)]이 될 가능성이 좀더 높아진다고 억지로 끌어다 얘기할 수도 있다.] 문제제기 자체가 비교적 실용적인 알고리즘 정수론 측면에서 이루어졌다고 볼 수도 있다. 물론 조금만 더 지나선 방정식에 대한 L-함수 이론이 체계화되면서 복잡한 이론이 끝없이 전개되어, 추측의 형태도 현재의 추상적인 형태에 이르게 된다. 하여튼 정수론 연구자들에겐 버치와 스위너톤-다이어 추측도 다른 밀레니엄 문제인 리만 가설만큼처럼 분야의 새 지평을 연 문제로 생각되곤 하지만...

이런 수학자들의 생각은 대부분 사람들에게는 와닿긴 힘들다. 비슷한 포지션의 문제인 리만 가설에 비해서 여기에 대해 다루는 교양서적들도 거의 없고 관심도 못 받고... 타원곡선 자체는 타원곡선 암호라던가 실용적인 역할이 조금씩 생겨나고 있긴 하지만, 본 추측 자체가 타원곡선 암호에 영향을 미치는 영향에 대해서는 현재로는 리만 가설의 경우보다도 훨씬 근거가 빈약하다. 물론 역사적으로 순수 수학에서의 발견은 많은 실용적 결과를 낳았으므로 미래는 모른다.

이 문제를 밀레니엄 문제로 선정한 사람은 페르마의 마지막 정리를 증명한 앤드루 와일스 교수이다. 앤드루 와일스가 타원곡선을 전공했으니 그럴 만도 하다. 실제로 페르마의 마지막 정리 증명을 보면 첫 줄부터 '타원 곡선'과 '하세-베유 제타 함수' 같은 게 마구 튀어나온다.[15]