유클리드 기하는 아름다운가?

수학은 엄밀해서 아름답다. 요즘은 중학교 수학 교과서에서 엄밀한 증명을 요구하지 않는다. '증명하라'라고 하지 않고 '설명하라'라고 적는다. 비록 교육 과정에 없어도 멀리 가고 싶다면 열심히 도형의 성질을 열심히 증명해 보아야 한다. 뒷산으로 가는 소풍 준비와 히말라야 등정 준비는 차원이 다른 일이다.

중학교 수학 교과서에서 우리가 외우는 많은 성질들을 꼼꼼하게 증명해서 깊이 이해한다면 기하학이 지닌 아름다움을 만끽할 수 있을 것이다. 예전에 이미 올렸던 증명을 한 군데로 모아 두려고 한다. 중학생 가운데 뒷산을 오르는데 만족하지 않고 멀리 히말라야 등정을 목표로 삼고 있는 학생을 위한 글이다. 먼저 명제 1부터 10까지 그리고 명제 23을 증명해 놓는다. 더 간단한 증명이 있더라도 가능하면 유클리드가 보였던 방법을 그대로 옮기려고 노력하였다.

유클리드 원론은 왜 수학이 아름다운가를 보여주는 고전이다. 먼저 책에 쓰일 용어 23개를 정의하고 증명 없이 참으로 받아들이는 공준 5개 공통 관념 5개를 적었다. 그다음 이어지는 모든 명제는 공준과 공통 관념으로 증명하고 있다.

Postulates 공준

공준과 아래 공통 관념을 모두 오늘날은 공리(Axiom)라고 부른다.

Postulate 1. 임의의 점에서 임의의 점으로 직선을 그릴 수 있다.

Postulate 2. 선분을 이어서 직선을 만들 수 있다. 

Postulate 3. 임의의 중심과 반지름을 가진 원을 그릴 수 있다.  

Postulate 4. 모든 직각은 서로 같다. 

Postulate 5. 두 직선과 한 직선이 만날 때 있는 두 직선을 한없이 늘리면 같은 쪽에 있는 내각을 더해서 직각 둘(180도) 보다 작은 쪽에서 만난다.

실제로 원을 그릴 때 돌아가던 컴퍼스가 움직여서 반지름이 달라져 원이 제대로 그려지지 않을 때가 많다. 이런 일은 고려하지 않기 위하여 공준 3을 미리 밝혀둔 것이다. 공준 4는 왜 적었을까? 두 직선이 만날 때 이웃하는 각이 같다면 직각이라고 정의하였다. 그런데 직선이 완벽하게 평평하지 않다면 만나는 곳이 달라지면 직각이 달라질 것이다. 이 공리를 넣음으로써 직선은 어느 곳이나 180도로 곧게 뻗어 있음이 보장되는 것이다. 평행선 공준은 더 이야깃거리가 많지만 줄인다.

Common Notions 공통 관념

Common notion 1. 똑같은 것과 같은 것들은 서로 같다. 

Common notion 2. 같은 것에 같은 것을 더하면 그 더한 전체는 여전히 같다. 

Common notion 3. 같은 것에서 같은 것을 덜어내어도 그 나머지들은 여전히 같다. 

Common notion 4. 포개어서 같은 것들은 서로 같다. 다시 말해 평행이동이나 대칭이동하여 완전히 포개지는 것들은 서로 같은 것이다. 

Common notion 5. 전체는 부분보다 크다.

명제 1 주어진 선분을 변으로 하는 정삼각형을 만들 수 있다.

주어진 선분 $AB$를 반지름으로 두 점 $A,B$를 중심으로 하는 두 원을 그릴 수 있다. 두 원의 교점을 $C$라고 하자. [공준 3] 두 점 $A$와 $C$, $B$와 $C$를 잇는 선분을 그릴 수 있다. [공준 2] $\overline{AB}=\overline{AC}$이고 $\overline{AB}=\overline{BC}$이다. 공통 관념 1에 따라 $\overline{AC}=\overline{BC}$이다. 정삼각형을 작도하였다. 사실 여기에 살짝 부족함은 있다. 두 원이 교차할 때 만나는 점이 반드시 존재한다고 하려면 선이 완비성을 가지고 있다는 공리가 필요하다. 이 부분은 훗날 수학자가 완비성 공리로 보완하였다.

명제 2 주어진 선분과 같은 선분을 주어진 한 점을 끝점으로 하여 만들 수 있다.

얼핏 생각하면 선분에 컴퍼스를 대고 반지름을 잰 다음 옮겨서 그리면 된다. 하지만 컴퍼스를 들고 옮기는 동안에 반지름이 달라지지 않음을 증명으로 확인해야 한다. 그 과정은 아래와 같다. 생각보다 쉽지는 않다. 이 과정에서 정삼각형을 작도해야 한다. 그래서 명제 1을 명제 2 앞에 놓은 것이다.

점 $A$와 선분 $\overline{BC}$가 주어졌다고 하자.

선분 $\overline{AC}$를 한 변으로 하는 정삼각형을 그려 점 $D$를 찾는다. (명제 1)

반직선 $DC$와 $DA$를 긋는다. (P2)

점 $C$를 중심으로 반지름이 $\overline{BC}$인 원 $C_1$을 그려서 반직선 $DC$ 위의 점 $E$를 찾는다. (P3)

점 $D$를 중심으로 반지름이 $\overline{DE}$인 원 $C_2$을 그려서 반직선 $DA$ 위의 점 $F$를 찾는다.

$\overline{DE}=\overline{DF}$이고 $\overline{DC}=\overline{DA}$이므로

$\overline{DE}-\overline{DC}=\overline{DF}-\overline{DA}$이다.(CN-3)

정리하면

$\overline{CE}=\overline{AF}$

점 $A$를 중심으로 반지름이 $\overline{AF}$인 원 $C_3$을 그린다.

원 $C_3$ 위에 있는 점과 점 $A$를 잇는 선분이 명제가 원하는 선분이다.

$\blacksquare$

명제3 서로 다른 선분이 있을 때 작은 것과 같은 선분으로 큰 것을 자를 수 있다.

명제 2에서 선분을 옮길 수 있게 되었으므로 선분 $C$ 보다 긴 선분 $AB$를 선분 $C$와 같은 선분만큼 잘라내는 것은 간단하다.

중학교 1학년 수학에서 가장 중요한 것을 꼽으라면 삼각형을 들고 싶다. 유클리드 '원론'에 정삼각형을 작도하는 것이 가장 먼저 나온다. 그만큼 중요하다. 과학고 입시 면접을 하면서 가끔 묻는다. 

"사각형의 모든 내각의 합은 얼마입니까?"

"마주 보는 두 꼭짓점을 이으면 삼각형 둘로 나누어집니다. 삼각형 내각의 합은 180도 이므로 사각형은 360도입니다."

"그러면 삼각형의 내각의 합은 왜 180도일까요?"

"..................."

아주 간단한 질문이지만 뜻밖에 정확한 답을 하지 못하는 경우가 매우 많다. 이 문제에 대한 답을 바로 맞힐 수 있어야 과학고에서 공부할 자격이 있다. 요즘은 옛날과 달라서 교과서에서 엄밀한 증명이 많이 사라졌다. 자유 학년제 탓인지 주로 '삼각형을 찢어서 세 각을 모아 놓으면 180도가 됩니다.'라는 대답이 많이 나온다. 초등학생이라면 이쯤 하면 되지만 중학생은 여기에 그쳐서는 곤란하다.

너무 당연해 보이는 걸 증명해 보는 것에서 수학 공부를 위한 능력이 길러진다. 어지간한 중학생은 모두 두 삼각형이 합동이 될 조건을 알고 있다. 질문과 동시에 거의 기계처럼 답한다. "SSS 합동, SAS 합동, ASA 합동이 있습니다." 물론 모든 걸 증명할 수는 없는 노릇이므로 잘 외우고 활용하면 그만이다. 하지만 두 변과 사이에 끼인 각이 같으면 왜 합동일까에 대한 궁금증을 가져야 한다. (참고로 변과 각은 각각 영어로 side와 angle이다.)

명제 4 두 삼각형에서 두 변과 사이에 낀 각이 서로 같다면 나머지 변과 각들은 서로 같다.

너무 당연해서 어떻게 증명해야 할까 고민된다. 먼저 '같다'는 어떻게 정의했을까 알아야 한다. 유클리드는 서로 포개서 꼭 맞게 겹쳐지는 것을 '같다'라고 정의했다. 따라서 삼각형이 꼭 맞게 겹쳐짐을 보이면 된다.

아래 그림에서 변$AB$, 변$AC$가 변$DE$, 변$DF$와 각각 같고 각 $BAC$와 각$EDF$가 서로 같다고 가정하자.

이제 나머지 변$BC$와 변$EF$, 각$ABC$는 각$DEF$와 같고 각$ACB$는 각$DFE$와 같음을 보이면 된다.

먼저 꼭짓점 $A$를 $D$에 포개어 놓고 직선 $AB$를 직선 $DE$에 포개어 놓자.

$\overline {AB}=\overline {DE}$이므로 꼭짓점 $B$는 $E$와 포개어진다.

$\angle{ BAC}=\angle{EDF}$이므로 $AB$와 $DE$가 포개져 있으면 직선 $AC$와 직선 $DF$도 포개어진다'. 

따라서 점 $C$와 점 $F$도 포개진다. ($\because \overline{ AC }=\overline{DF}$)

앞에서 점 $B$와  점 $E$가 일치하므로 밑변 $BC$와 밑변 $EF$는 같다. (두 점을 잇는 선분은 단 하나다. )

그러므로 삼각형 $ABC$와 삼각형 $DEF$은 빈틈없이 포개어진다.

그러므로 나머지 각도 서로 같다. 

$$\angle {ABC}=\angle {DEF},\;\;\angle {ACB}=\angle {DFE}$$

$\blacksquare$

이렇게 두 삼각형이 같은 것을 합동($\equiv$)이라고 한다. 

$$\triangle ABC\equiv\triangle DEF$$ 

 

명제 5 이등변 삼각형에서 두 밑각은 서로 같다. 변을 연장하면 밑각 아래에 있는 각도 서로 같다.

 

$\triangle ABC$는 $\overline{AB}=\overline{AC}$인 이등변 삼각형이라고 하자.

이제 $\angle{ABC}=\angle{ACB}$임을 보이자.

먼저 두 변 $\overline{AB},\overline{AC}$을 연장하고 그 위에 $\overline{AE}=\overline{AF}$인 두 점 $E$와 $F$를 잡는다.

$$\overline{AB}=\overline{AC}$$

$$\overline{AE}=\overline{AF}$$

$$\angle{BAC}=\angle{CAB}$$

명제 4에 따라서 두 삼각형은 합동이다.

$$\triangle{ABF}\equiv\triangle{ACE}$$

$$\angle{ABF}=\angle{ACE}\tag{1}$$

이제 $\triangle BEC$와 $\triangle CBF$에서

$$\overline{BE}=\overline{CF}\tag{CN-4}$$

$$\overline{CE}=\overline{BF}$$

$$\angle{BEC}=\angle{CFB}$$

$$\triangle{BEC}\equiv\triangle{CFB}\tag{명제-4}$$

따라서 $$\angle BCE=\angle CBF\tag{2}$$

(1)(2)에 따라서

$$\angle ABF -\angle CBF=\angle ACE-\angle BCE\tag{CN-4}$$

그러므로  $$\angle{ABC}=\angle{ACB}$$

$\blacksquare$

꼭지각 $A$의 이등분선을 생각하면 훨씬 쉽게 증명할 수 있다. 하지만 유클리드는 각의 이등분선은 명제 9번에 넣었으므로 지금 단계에선 사용하지 않았다. 이처럼 유클리는 명제를 배열하는 순서까지 조율하여 빈틈 없는 아름다움을 추구하고 있다.

참고 평각이 180도라는 사실을 쓰면 쉽게 보일 수 있다. 하지만 유클리드는 명제 5에 앞서 평각이 모두 같다는 증명을 하지 않아서 위와 같이 조금 복잡하게 증명한 것이다. 

이 명제를 증명하는 그림이 당나귀 다리를 닮았다고 Pons Asinorum로 부른다. '폰스 아시노룸'은 간단함에서 확신을, 느림에서 빠른 생각을, 모호함에서 분명함을 끌어내는 능력을 시험하는 결정적 문제를 은유하는 이름이다. 

파푸스는 삼각형을 들어 올린 다음 뒤집어서 포개는 것으로 증명했다. 

바로 이어지는 명제 6은 이 명제의 역이다. 

명제 6 두 밑각이 같은 삼각형은 이등변 삼각형이다.

$\triangle{ABC}$에서 $\angle{ABC}=\angle{ACB}$라고 하자.

$$\overline{AB}\not=\overline{AC}$$를 가정하고

변 $AB$가 $AC$보다 크다고 하자.

$\overline{DB}=\overline{AC}$인 점 $D$를 잡을 수 있다.

$\overline{BC}$는 공통이고 $\angle{ABC}=\angle{ACB}$이므로 명제 2에 따라

$$\triangle{ABC}\equiv\triangle{DCB}$$인데 모순이다.

따라서

$$\overline{AB}=\overline{AC}$$

명제 7 선분의 양 끝 점 시작해서 한 점에서 만나는 두 직선을 그었다면, 같은 선분의 양 끝 점에서 주어진 두 직선과 각각 같은 직선으로 같은 쪽에 있는 다른 점에서 만나게 할 수는 없다.

 

결론을 부정하자.

길이가 각각 같은 두 선분이 서로 다른 점 $A$와 $D$에서 만난다고 하자.

$$\overline{AB}=\overline{DB}\tag{1}$$

$$\overline{AC}=\overline{DC}\tag{2}$$

(1)이므로 

$$\angle{BAD}=\angle{BDA}\tag{p-5}$$

$\angle{BDA}$는 $\angle{CAD}$보다 크다.

따라서 $\angle{CDA}$는 $\angle{CAD}$보다 확실히 크다.

그런데 (2)이므로 

$$\angle{CAD}=\angle{CDA}\tag{p-5}$$인데 이것은 모순이다.

따라서 서로 다른 두 점에서 만날 수 없다.

$\blacksquare$

유클리드는 위 그림처럼 점 $D$가 삼각형$ABC$ 밖에 있는 경우만 증명했다. 엄밀함을 추구하는 유클리드를 생각하면 이례적이다. 안쪽에 있는 경우도 쉽게 보일 수 있다.

명제 8 두 삼각형이 두 변이 서로 같고 밑변도 서로 같다면 각도 서로 같다.

이 명제는 삼각형이 합동이 될 세 가지 정리 SAS, SSS, ASA합동 가운데 두 번째 정리다. '합동'은 현대에 와서 정의한 것으로 유클리드는 합동을 따로 정의하지 않고 두 삼각형이 포개져 꼭 들어 맞으면 '두 삼각형이 같다.'고 정의했다. 명제 4에서 이미 SAS합동을 보였고 명제 26에 ASA합동이 나온다. 이 명제도 아주 당연해 증명할 필요가 있을까 생각할 것이다. 유클리드는 그렇게 생각하지 않았다. 당연해 보이는 것도 당연하다고 받아들이지 않은 것이 바로 유클리드가 보통 사람과 다른 점이다. 이 점이 바로 '원론'을 다른 책보다 뛰어나다고 말하는 까닭이다.

먼저 두 변이 $\overline{AB}$, $\overline{AC}$가 $\overline{DE}$, $\overline{DF}$가 각각 같고 밑변 $\overline{BC}$와 $\overline{EF}$가 같다고 가정하자. 즉

$$\overline{AB}=\overline{DE},\;\;\;\overline{AC}=\overline{DF},\;\;\;\overline{BC}=\overline{EF}$$

이라고 하자.

점 $B$를 점 $E$와 포개 놓고 직선 $BC$와 $EF$를 포개 놓으면  $\overline{BC}=\overline{EF}$이므로 점 $C$와 $F$는 포개어진다.

따라서 두 변 $BC$와 $EF$가 일치한다.

$$\overline{AB}=\overline{DE},\;\;\;\overline{AC}=\overline{DF}$$

인 두 직선이 만나는 점을 $G$라고 하면 앞선 명제 7에 따라 그림처럼 $D$와 포개어 지지 않을 수 없다.

점 $G$와 $D$가 일치하므로 $\angle{BAC}=\angle{EDF}$이다.

그러므로 $$\triangle{ABC}\equiv\triangle{DEF}\tag{명제 4}$$

$\blacksquare$ 

명제 9 주어진 각을 이등분하라.

$\angle{BAC}$을 이등분하자.

 

직선 $AB$ 위에 적당한 점 $D$를 잡는다. 

직선 $AC$ 위에 선분 $AD$와 같은 선분으로 자르는 점 $E$를 잡는다.

선분 $DE$를 한 변으로 하는 정삼각형을 작도한다.

$\overline{AD}=\overline{AE}$, $\overline{AF}$는 공통, $\overline{DF}=\overline{EF}$

명제 8에 따라 SSS합동이다.

$$\triangle{ADF}\equiv \triangle{AEF}$$ 

$$\therefore\;\;\angle{DAF}=\angle{EAF}$$

따라서 직선 $AF$는 $\angle{BAC}$을 이등분 한다.

$\blacksquare$

명제 10 주어진 선분 $AB$를 이등분하라.

 

선분 $AB$를 한 변으로 하는 정삼각형을 작도하는 과정을 다시 살펴 보자.

점 $A$와 $B$를 중심으로 선분 $AB$가 반지름인 원을 그려 만나는 점 $C$와 $D$를 찾는다.

$\overline{AC}=\overline{BC},\;\;\;\overline{AD}=\overline{BD},\;\;\;\overline{CD}\;\;$공통

$$\triangle{ACD}\equiv\triangle{BCD}$$

$$\therefore \angle{ACD}=\angle{BCD}$$

선분 $CD$와 $AB$가 만나는 점을 $E$라 하면

$\overline{AC}=\overline{BC},\;\;\;\overline{CE}$ 공통, $\angle{ACD}=\angle{BCD}$

$$\triangle{ACE}\equiv\triangle{BCE}$$

$$\therefore \overline{AE}=\overline{BE}$$

$\blacksquare$

명제 26 두 각이 각각 같고 한 변이 같은 두 삼각형은(서로 같은 변이 두 각과 모두 만나거나 건너편에 있는 변이라도) 나머지 각과 변도 서로 같다.

보통 교과서에 한 변과 양 끝 각이 같다고 적지만 굳이 양 끝 각일 필요는 없음을 금세 알 수 있다. 삼각형의 내각의 합은 180도로 일정하다는 명제를 증명하지 않았기 때문에 이 명제는 둘로 나누어 증명한다. 

$\triangle{ABC},\triangle{ DEF}$이 있다. 

$$\angle{ABC}=\angle{DEF} ,\angle{BCA}=\angle{EFD}\tag{1}$$라고 하자.

먼저 1. $\overline{BC}=\overline{EF}$라 하고 나머지 두 변과 각이 서로 같음을 보이자. (한 변과 양 끝 각이 같은 경우)

즉,  $\overline{AB}=\overline{DE}$와 $\overline{AC}=\overline{DF}$이고 $\angle {BAC}=\angle {EDF}$ 임을 보이기로 하자.

만약에 $\overline{AB}\not=\overline{DE}$이면 어느 하나가 클 것이다. 

이때, $\overline{AB}>\overline{DE}$라고 하면 $\overline{BG}=\overline{DE}$인 점 $G$를 잡을 수 있다.

$\overline{BG}=\overline{DE}$, $\overline{BC}=\overline{EF}$, $\angle{ABC}=\angle{DEF}$이므로 명제 4에 따라서 

$$\triangle GBC\equiv\triangle DEF$$ 

$$\angle{GCB}=\angle{DFE}$$

이것은

$$\angle{GCB}=\angle{ACB}\;\;\;(\because (1)\angle{BCA}=\angle{EFD})$$라야 하므로 모순이다.

$$\therefore \overline{AB}=\overline{DE}$$

명제 4에 따라 

$$\triangle ABC\equiv\triangle DEF$$

2. 다음으로 $\overline{AB}=\overline{DE}$이고 $\overline{BC}\not=\overline{EF}$라고 하자.

만약에 $\overline{BC}\not=\overline{EF}$이면 어느 하나가 클 것이다. 

이때, $\overline{BC}>\overline{EF}$라고 하면 $\overline{BH}=\overline{EF}$인 점 $H$를 잡을 수 있다.

위와 마찬가지로

$$\triangle ABH\equiv\triangle DEF$$ 이므로

$$\angle BHA=\angle EFD$$이다.

이것은 

$$\angle BHA=\angle BCA\;\;\;(\because (1)\angle{BCA}=\angle{EFD})$$가 되므로 모순이다.

따라서 $\overline{BC}=\overline{EF}$이므로

$$\triangle ABC\equiv\triangle DEF$$

$\blacksquare$

이처럼 그냥 외우면 간단한 정리도 막상 증명하려고 하면 상당한 공을 들여야 한다. 오죽하면 뛰어난 수학자 데카르트도 이 과정이 힘들어서 해석기하학을 만들었을까?