한때는 이란이 세계의 중심?
수학이야기 2023. 2. 3. 23:56방학이라 한가한 때 수학의 역사를 정리해 두고 싶어서 이런저런 자료를 뒤적거린다. 며칠 째 방정식을 정리해 보았다. 그렇다고 본격적인 뭔가는 아니고 이제까지 끄적거렸던 이야기를 한데 모아두려고 한다.
오늘날 미국과 유럽을 중심으로 하는 서구 문명이 대세이기 때문에 수학은 모두 그리스에서 시작한 것처럼 느껴진다. 하지만 거슬러 올라가면 그리스 문명은 이집트나 메소포타미아 문명의 영향을 많이 받았다. 이집트 알렉산드리아로 유학을 간 수학자들이 제법 많다. 고대 바빌로니아인이 남긴 점토판에 이미 이차 방정식이 등장한다.
어떤 정사각형의 넓이와 한 변의 길이를 합하면 3/4이다. 이때, 한 변의 길이를 구하면 1/2이다.
지금은 중동 하면 사막, 이슬람, 석유 이런 것들이 떠오르지만 한때는 중동이 세계의 중심이었던 때가 있다. 그리스가 로마에게 정복당하고 그리스 수학자와 철학자들이 남긴 지식을 고스란히 간직하고 발전시킨 이들은 이슬람인이다. 특히 요즘 이슈가 되고 있는 이란이 수학과 철학의 중심이던 시절이 있었다.
당연하게도 그 시대 최고의 수학자도 이란 사람이다. 방정식의 역사에 반드시 등장해야 하는 수학자인 그의 이름을 들으면 수학을 전공하지 않은 사람도 익숙하게 들릴 것이다.
라틴어 이름은 알고리스무스(Algorismus)이다. 영어로는 알고리즘(Algorithm)이 그의 이름에서 왔다. 그가 쓴 책을 비롯해 이슬람 제국에 있던 책이 유럽으로 전해지지 않았다면 유럽은 중세의 어둠을 벗어나는데 훨씬 더 오랜 세월이 필요했을 것이다.
그가 쓴 책 제목에 있는 Al-jabr(الجبر)이 대수학(Algbra)이 되었다. 참고로 책에서 여러 가지 계산 기술을 소개하고 있는데 Al-jabr는 요즘 우리가 쓰고 있는 표현으로 바꾸면 '이항'이다. 그를 비롯한 이슬람 수학자들은 그 시대 이미 음수와 0을 쓰고 있던 인도나 중국과 달리 음수를 사용하지 않았다.
이런 면을 보면 이슬람도 유럽과 마찬가지로 음양의 조화를 중요하게 여기는 동양 철학과는 거리가 멀었다. 하지만 인도에서 쓰던 숫자와 자릿수에 따른 진법 체계를 정리한 그의 책이 유럽에 소개되면서 아라비아 숫자가 널리 쓰이게 되었다. 인도인은 자신들이 만든 숫자가 아라비아 숫자로 불리는 것을 아쉽게 생각할 수 있겠다.
알 콰리즈미는 2차 방정식을 아래와 같이 여섯 가지로 나누어 풀이를 제시했다. 위에 적은 대로 이슬람 지역은 인도와 달리 음수는 해로 생각하지 않았다. 방정식의 계수도 양수인 경우만 생각했기 때문에 오늘날 기준으로는 같은 꼴인 4, 5, 6을 구별하였다.
이들 가운데 한 가지 풀이를 살펴보자.
$$x^2 +10x=39$$
왼쪽에 있는 식을 사각형 넓이로 생각하고 그림과 같이 재배열하고 적당한 정사각형을 더해서 큰 정사각형을 만든다고 생각하였다.
그림을 오늘날 수식으로 정리하면 아래와 같다.
\begin{split}x^2 +10x+25=39+25\\(x+5)^2 =64\\x+5=8\\x=3\end{split}
오늘날 아주 발전된 표기법을 자연스럽게 쓰고 있는 우리가 보기엔 굉장히 시시한 내용처럼 보이지만 통일신라시대로 되돌아가서 이차 방정식을 푼다고 생각하면 결코 쉽지 않은 일임을 알 수 있을 것이다.
어쩌면 현대인도 중고등학교 졸업하고 오래되면 이차 방정식을 이렇게 풀어낼 수 없는 사람이 제법 많을 것이다.
이제 알 콰리즈미의 방법을 현대식으로 해석하여 근의 공식을 만들어 보자. 알 콰리즈미를 비롯한 옛 수학자들은 당연히 이차식은 넓이로 생각하였다. 요즘도 중고등학생은 이차식을 넓이와 연관 지어 생각하면 창의성을 기를 수 있다.
$$ax^2 +bx+c=0$$
$$x^2+\frac{b}{a}x+\frac{c}{a}=0$$
$b/a=p,\;\;c/a=q$라고 하면
$$x^2+px+q=0\tag{1}$$
우리는 최첨단 표기법을 가지고 있으니 이차 방정식쯤은 식은 죽 먹기다. 하지만 2차 함수의 그래프까지 동원하면 훨씬 쉽게 이해할 수 있다. 결국 이차식을 고쳐서 완전 제곱식으로 만들면 문제 해결이라는 걸 주목하자. 이것은 이차함수의 그래프를 적당히 평행이동하여 일차항이 없는 형태로 고치는 것을 뜻한다.
(1)에 $x=z-p/2$를 대입하자.
$$\left( z-\frac{p}{2}\right)^2 +p\left( z-\frac{p}{2}\right)+q=0$$
정리하면
\begin{split}z^2-pz+\frac{p^2}{4}+pz-\frac{p^2}{2}+q=0\\z^2=\frac{p^2}{4}-q\\z=\pm\sqrt{\frac{p^2}{4}-q}\\x=-\frac{p}{2}\pm\sqrt{\frac{p^2}{4}-q}\end{split}
요즘은 누구나 알고 있는 2차 방정식의 근의 공식과 비교해 보자. 굳이 이렇게 복잡하게 설명한 것은 여기에서 3차 방정식의 풀이를 이야기하기 위해서다. 알 콰리즈미의 책은 825년에 썼지만 유럽에 전해진 것은 훨씬 훗날의 일이다. 유럽의 수학자들은 3차 방정식의 해를 구하는 알고리즘을 찾기 시작했다.
3차 방정식의 풀이법을 찾은 사람은 이탈리아 수학자 델 페로(Scipione del Ferro: 1465~1526)와 타르탈리아(Niccolo Fontana Tartalglia: 1500~1557)이다. 하지만 책으로 가장 먼저 펴낸 사람은 카르다노(Girolamo Cardano: 1501~1576)이다. 여기에 얽힌 유명한 이야기가 있다.
생년을 보면 알겠지만 최초 발견자는 델 페로다. 그는 볼로냐 대학 교수였던 1515년 형태가 $ax^3 +bx=c$인 3차 방정식을 해결하였지만 발표하지 않았다. 그 시절은 방정식의 풀이법을 찾고도 혼자 만의 비법으로 감추는 일이 흔했다. 델 페로가 죽고 비법이 적힌 공책은 제자이자 사위였던 안토니오 마리아 피오레에게 넘겨졌다.
타르탈리아는 '말을 더듬는 자'라는 뜻이다. 어린 시절 이탈리아를 침략한 프랑스 병사가 휘두른 칼에 얼굴을 크게 다쳤지만 제대로 치료를 받지 못해서 말을 더듬게 되었다고 한다. 아버지를 일찍 여의고 집이 매우 가난해서 재능은 있었으나 교육을 받지 못하고 혼자서 수학을 공부했다고 한다. 1534년 베네치아에서 겨우 수학 교사 자리를 얻었고 3차 방정식의 풀이법을 찾았다고 주장하면서 명성을 얻었다.
피오레는 타르탈리아의 말을 믿지 않았다. 물려받은 풀이법을 믿고 피오레는 타르탈리아와 대결하여 코를 납작하게 해 줄 생각이었다. 서로에게 30문제를 내고 45일간 풀기로 했다. 결과는 타르탈리아가 단 두 시간 만에 모두 해결하고 피오레는 한 문제도 풀지 못했다. 타르탈리아가 낸 문제는 형태가 $x^3+mx^2=n$으로 델 페로의 해법이 통하는 형태가 아니었기 때문이다.
이 소문을 듣고 카르다노가 타르탈리아에게 풀이법을 알려주기를 간청했다. 거절을 거듭하던 타르탈리아는 결국 아무에게도 알리지 않는다는 조건을 달고 카르다노에게 풀이법을 전수하였다. 신이 난 카르다노는 제자이자 사위인 페라리와 4차 방정식의 풀이법까지 연구를 거듭하였다. 그러다가 델 페로가 먼저 3차 방정식의 해법을 찾았다는 사실을 알고는 타르탈리아와의 약속을 어기고 1545년 먼저 책(Ars Magna)으로 근의 공식을 출판하여 명성을 독차지하였다.
화가 난 타르탈리아가 항의와 비난을 거듭하였지만 때는 이미 늦었다. 카르다노는 대꾸도 하지 않았고 제자인 페라리와 다툼을 벌이다가 끝이 나고 말았다. 요즘이야 카르다노-타르탈리아 공식으로 부르기도 하지만 3차 방정식의 근의 공식은 카르다노 공식으로 불린다.
카르다노가 찾은 방법을 따라해 보자. 카르다노가 살던 시대는 복소수를 모르던 시절이라 아래와 똑같은 방법은 아니었을 것이다.
알 콰리즈미가 넓이로 이차식을 생각했듯이 삼차식은 부피로 생각하는 방법을 고민하면 된다. 아래와 같이 정육면체의 부피를 구하는 식을 활용하기로 하자.
$$(u+v)^3=u^3 +v^3 +3uv(u+v)\tag{2}$$
결국 $z^3=c$와 같은 꼴을 만들면 해결된다. 마찬가지로 3차항의 계수가 1인 방정식에서 시작하자.
$$x^3 +ax^2 +bx+c=0\tag{3}$$
2차 방정식과 마찬가지로 2차항이 없는 형태로 변형하자. 아래와 같이 3차 함수의 그래프는 변곡점을 중심으로 대칭이므로 변곡점이 $y$위에 오도록 평행이동한다고 생각하면 된다. 물론 카르다노는 미적분을 몰랐으니 변곡점을 구하지 못했겠지만 (2)는 알고 있었기에 찾았을 것이다.
$x=t-a/3$을 대입하여 정리하자.
\begin{split}\left(t-\frac{a}{3}\right)^3+a\left(t-\frac{a}{3}\right)^2 +b\left(t-\frac{a}{3}\right)+c=0\\t^3+\left(-\frac{a^2}{3}+b\right)t+c+\frac{2a^3}{27}-\frac{ab}{2}=0\end{split}
\begin{split}p &= b - \frac{a^2}3 \\q &= c + \frac{2a^3-9ab}{27} \end{split}
라고 하면
$$t^3 + pt + q = 0\tag{4}$$
이제 델 페로가 찾았다고 알려진 꼴이 되었다. (2)식과 같은 꼴이 되도록 고치기 위해 비교해 보자.
$$(u+v)^3-3uv(u+v)=(u^3 +v^3) \tag{2-1}$$
$t=u+v,\,\,-p/3=uv$이라고 놓으면 될 것이다. 먼저 $t=u+v$를 (4)에 대입하자.
\begin{split}(u+v)^3+p(u+v)+q=0\\u^3+v^3 +3uv(u+v)+p(u+v)+q=0\\u^3+v^3+q=0\end{split}
이제 거의 다 왔다. 양변에 $u^3$을 곱하자.
$$\begin{split}u^6+u^3v^3+qu^3=0\\u^6-\frac{p^3}{27}+qu^3=0\\(u^3)^2+qu^3-\frac{p^3}{27}=0\end{split}\tag{5}$$
이제 2차 방정식의 근의 공식을 쓰자.
\[u^{3}=-{q\over 2}\pm \sqrt{{q^{2}\over 4}+{p^{3}\over 27}}\]
한편, \(v^3\) 역시 같은 방법으로 얻을 수 있다. \[v^{3}=-{q\over 2}\pm \sqrt{{q^{2}\over 4}+{p^{3}\over 27}}\]
처음에 이야기한 대로 완전 세제곱 형태가 되었다.
$$u^3=c$$
이 방정식은 복소수인 근까지 생각해야 한다. 복소수를 완벽하게 표현하는 방법도 훨씬 훗날의 일이다. 이 방정식의 근은
$$u=\sqrt[3]{c},\;\;u= \omega \sqrt[3]{c}, u=\omega^2 \sqrt[3]{c}$$
여기서 $\displaystyle{\omega=-\frac{1}{2}+\frac{\sqrt{3}}{2}i}$이다.
따라서 $u, v$는 다음 여섯개의 값 중 하나를 가질 수 있다.
\begin{align} \sqrt[3]{-{q\over 2}+ \sqrt{{q^{2}\over 4}+{p^{3}\over 27}}}\\ \omega\sqrt[3]{-\frac{q}{2}+\sqrt{\frac{q^{2}}{4}+\frac{p^{3}}{27}}}\\ \omega^2\sqrt[3]{-\frac{q}{2}+\sqrt{\frac{q^{2}}{4}+\frac{p^{3}}{27}}}\\ \sqrt[3]{-\frac{q}{2}-\sqrt{\frac{q^{2}}{4}+\frac{p^{3}}{27}}}\\ \omega\sqrt[3]{-\frac{q}{2}-\sqrt{\frac{q^{2}}{4}+\frac{p^{3}}{27}}}\\ \omega^2\sqrt[3]{-\frac{q}{2}-\sqrt{\frac{q^{2}}{4}+\frac{p^{3}}{27}}} \end{align}
이제 \(uv = -p/3\) 임을 이용하면 $u$에 의해 $v$의 값이 결정된다.
편의를 위해 $A,B$를 다음과 같이 두자. \begin{align} A=\sqrt[3]{-{q\over 2}+ \sqrt{{q^{2}\over 4}+{p^{3}\over 27}}} \\B=\sqrt[3]{-\frac{q}{2}-\sqrt{\frac{q^{2}}{4}+\frac{p^{3}}{27}}}\end{align} \(t=u+v\)는 다음 세 개의 값을 가질 수 있다.
\begin{align} A+B\\ \omega A+\omega^2 B\\ \omega^2 A+\omega B \end{align}
\[\begin{align} x_1 = &-\frac{b}{3 a}\\ &-\frac{1}{3 a} \sqrt[3]{\frac{2 b^3-9 a b c+27 a^2 d+\sqrt{\left(2 b^3-9 a b c+27 a^2 d\right)^2-4 \left(b^2-3 a c\right)^3}}{2}}\\ &-\frac{1}{3 a} \sqrt[3]{\frac{2 b^3-9 a b c+27 a^2 d-\sqrt{\left(2 b^3-9 a b c+27 a^2 d\right)^2-4 \left(b^2-3 a c\right)^3}}{2}}\\ x_2 = &-\frac{b}{3 a}\\ &+\frac{1+i \sqrt{3}}{6 a} \sqrt[3]{\frac{2 b^3-9 a b c+27 a^2 d+\sqrt{\left(2 b^3-9 a b c+27 a^2 d\right)^2-4 \left(b^2-3 a c\right)^3}}{2}}\\ &+\frac{1-i \sqrt{3}}{6 a} \sqrt[3]{\frac{2 b^3-9 a b c+27 a^2 d-\sqrt{\left(2 b^3-9 a b c+27 a^2 d\right)^2-4 \left(b^2-3 a c\right)^3}}{2}}\\ x_3 = &-\frac{b}{3 a}\\ &+\frac{1-i \sqrt{3}}{6 a} \sqrt[3]{\frac{2 b^3-9 a b c+27 a^2 d+\sqrt{\left(2 b^3-9 a b c+27 a^2 d\right)^2-4 \left(b^2-3 a c\right)^3}}{2}}\\ &+\frac{1+i \sqrt{3}}{6 a} \sqrt[3]{\frac{2 b^3-9 a b c+27 a^2 d-\sqrt{\left(2 b^3-9 a b c+27 a^2 d\right)^2-4 \left(b^2-3 a c\right)^3}}{2}} \end{align}\]
4차 방정식은 요점만 정리해 보자. 잘 정리하여 아래와 같이 만든다.
$$x^4+ax^3 +bx^2+cx+d=0$$
$x=t-a/4$를 대입하면 3차항이 사라진다.
$$t^4+pt^2+qt+r=0$$
$$t^4 +pt^2=-qt-r$$
양변에 $pt^2+p^2$을 더해서 좌변을 완전 제곱식으로 만든다.
$$t^4+2pt^2+ p^2=pt^2-qt-r+p^2$$
$$(t^2+p)^2=pt^2-qt-r+p^2$$
다시 양변에 $2(t^2+p)z+z^2$을 더한다.
$$(t^2+p)^2+2(t^2+p)z+z^2=pt^2-qt-r+p^2+2(t^2+p)z+z^2$$
$$(t^2+p+z)^2=(p+2z)t^2-qt+(2pz+z^2-r+p^2)$$
여기서 좌변을 $(At+B)^2$으로 정리할 수 있도록 하면 된다.
이를 위해서는 우변의 판별식이 0이 되도록 만들면 된다.
$$(-q)^2-4(p+2z)(2pz+z^2-r+p^2)=0$$
정리하면 아래와 같은 3차 방정식을 얻는다.
$$8z^3+20pz^2+(16p^2-8r)z+(4p^3-4pr+q^2)=0$$
$$z^3+\frac{5}{2}pz^2+(2p^2-r)z+\left(\frac{1}{2}p^3-\frac{1}{2}pr+\frac{1}{8}q^2\right)=0$$
$$\vdots$$
물론 21세기에 위와 같은 방식으로 근을 구하지 않는다. 하지만 옛사람이 걸어간 발자취를 훑어보는 일도 의미 있는 일이라 여겨져 정리해 본다.
이후로 오랜 세월을 5차 방정식의 풀이를 찾기 위한 노력이 이어졌으나 모두 실패했다. 평생을 바친 평범한 수학자들의 노력을 비웃듯 천재가 나타나 근의 공식이 존재하지 않음을 증명하였다. 하나도 아니고 둘이나 된다. 주인공은 아벨(Niels Honrik Abel: 1802~1829)과 갈루아(Evariste Galois: 1811~1832)이다. 하지만 두 천재 모두 젊은 나이에 요절하고 말았다. 방정식을 풀어서 부와 명성을 얻은 사람은 카르다노가 유일해 보인다.