미적분을 향한 공격

수학 시간엔 쓰지 않지만 물리 시간엔 많이 쓰는 개념이 있다. 바로 무한소란 개념이다. 극한을 배우지 않은 고등학교 1학년 학생에게 뉴턴의 운동법칙과 같은 물리를 설명하기 위해 필요한 모양이다. 하지만 이 때문에 극한을 배우고 난 다음에도 무한소의 개념을 적용하려 들다가 모순에 빠지는 학생이 있다. 무한소와 극한은 서로 양립할 수 없는 개념이다. 물론 대부분은 문제를 모르고 지나간다.

무한소가 지닌 헛점

어떤 분야이든 처음 시작할 때는 구멍이 있기 마련이다. 뉴턴과 라이프니츠의 연구에도 빈틈은 많았다. 그 가운데 하나가 바로 '무한소'라는 개념이다. 라이프니츠는 1680년경 '무한소'라는 개념을 사용했다. 뉴턴도 탐탁지 않았지만 1665년에 쓴 원고에서 무한소의 개념을 사용했다.

무한소라는 개념을 기하학적으로 고려하지 않으면 이 문제를 도저히 풀 수 없다.

<프린키피아> 1권에 아래와 같이 적었다.

나는 수학적인 관점에서 어떤 '양'이라는 것은 무한히 작은 부분들로 이루어진 것이 아니라 연속적인 움직임에 의해 만들어진 것으로 생각한다.

라이프니츠는 편지에서 말했다.

냉정히 말해 무한소와 무한대 그 어느 쪽도 잘 믿어지지 않는다. 내 생각에 양쪽 모두 간결한 말로 표현하기 위해 만들어진 상상 속 개념으로 보인다.

뉴턴은 $x$와 $y$의 값이 시간에 따라 변하는 비율을 플럭션(fluxions)으로 부르고 변수 위에 점을 찍어 나타냈다. $x$의 유율인 $\dot{x}$는 $dx/dt$를 뜻한다. 이런 뉴턴의 미분법을 우리말로 유율법으로 부르는데 이글에선 그냥 플럭션으로 부르기로 하자. 뉴턴은 그래프 위를 움직이는 점의 속도를 '흐르는 양(量)'이란 뜻으로 '유량(流量, fluxio)'이라고 불렀다. 오늘날 표현으로 플럭션은 순간변화율이다.

플럭션은 라이프니츠-뉴턴 미적분 논쟁의 핵심이었다. 뉴턴은 라이프니츠에게 이를 설명하는 편지를 보내면서 암호로 감췄다. 그는 이렇게 썼다.

I cannot proceed with the explanations of the fluxions now, I have preferred to conceal it thus: 6accdæ13eff7i3l9n4o4qrr4s8t12vx. 나는 지금 플럭션에 대한 설명을 계속 진행할 수 없으며, 이렇게 숨기는 것을 선호한다:

위에 있는 어지러운 문자열 '6accdæ13eff7i3l9n4o4qrr4s8t12vx.'은 "임의의 수의 흐르는 양으로 구성된 방정식이 주어졌을 때 플럭션을 구하고 그 반대의 경우도 마찬가지이다."를 라틴어로 옮긴 Data æqvatione qvotcvnqve flventes qvantitates involvente, flvxiones invenire에서 해시 코드(각 문자의 빈도)를 나타내고 있다. 

이렇게 뉴턴도 감추려 했던 미적분학의 약점을 아프게 공격한 사람은 아일랜드 클로인 교구의 주교였던 조지 버클리${}^{George \;\;Berkeley}$: 1685. 3. 12 ~ 1753. 1. 14.)이다. 1734년 <분석가: 신앙심 없는 수학자에게 보내는 담론(The analyst: or a discourse addressed to an infidel mathematician)>에서 에서 아래와 같이 꼬집었다.

And what are these fluxions? The velocities of evanescent increments. And what are these same evanescent increments? They are neither finite quantities, nor quantities infinitely small, nor yet nothing. May we not call them ghosts of departed quantities?
이 플럭션은 무엇인가? 사라지는 증분의 속도이다. 그렇다면 이 같은 사라지는 증분은 무엇일까요? 그것은 유한한 양도 아니고 무한히 작은 양도 아니며, 그렇다고 아예 없는 것도 아니다. 우리는 그것을 '떠나버린 양'의 유령이라고 부르면 안 될까?

뉴튼을 따라 함수 $y=x^2$를 미분하자.

먼저 $x$를 $x+h$로 증가시키면, $y$의 증가량은 $(x+h)^2 -x^2=2hx+h^2$이다.

다음으로 $y$의 증가량을 $x$의 증가량으로 나눈다.

$$\frac{2hx+h^2}{h}\tag{1}$$

약분하면

$$2x+h\tag{2}$$

여기서 $h$를 생략하면

$$2x\tag{3}$$

버클리는 여기서 $h$는 $0$인가 아닌가를 묻는다. 만약 $0$이라면 (1)은 틀렸다. $0$이 아니라면 생략할 수 없어서 (3)이 될 수 없다.

이처럼 무한소라는 개념은 헛점을 지니고 있다. 고대 그리스에서도 무한소의 개념을 사용한 아르키메데스와 같은 수학자도 '제논의 역설'과 같은 반론에 제대로 대항하지 못했다.

엄밀하게 정의한 극한

이런 공격을 완벽하게 막아내기 위해 만든 개념이 바로 극한이다. 고등학교 교과서에 나오는 표현이다.

$x\rightarrow\infty$일 때, $y\rightarrow 0$$\iff \displaystyle{\lim_{x\rightarrow \infty}y=0}$

이것을 "$x$가 무한대로 증가할 때, $y$의 극한은 $0$이다."라고 읽는다. 이것은 무엇을 뜻하는 것일까?

함수 $y=1/x$가 있다. 편하게 생각하기 위해 $x>0$, $y>0$일 때만 생각해 보자.

 

그래프를 보면 매우 직관적으로 이해할 수 있다. 하지만 이것만으로는 부족하다.

"$x$가 증가할 때, $y$가 점점 $0$에 가까워지기 때문이다."

뭔가 부족하다. 아래에 있는 함수도 $x$가 증가할 때, $y$가 점점 $0$에 가까워지지만 $0$에 수렴하는 것은 아니다.

$$y=1+\frac{1}{x}$$

그냥 가까워지는 것으로는 부족하고 한없이 가까워진다는 뜻을 넣어야 한다.

"충분히 큰 $x$를 선택하면, $y$를 우리가 원하는 만큼 $0$에 가깝게 만들 수 있다."

억지스럽지만 극한을 엄밀하게 정의하기 위해 반드시 살펴봐야 하는 함수가 있다.

$$y=\begin{cases}1/x&\quad(x\not\in \mathbb{Z})\\1&\quad(x\in \mathbb{Z})\end{cases}$$

이 함수는 $x$가 정수가 될 때마다 함숫값이 튀어 오른다. 이 함수는 수렴하지 않는다. 하지만 정수만 고르지 않는다면 충분히 큰 $x$를 선택해 $y$를 우리가 원하는 만큼 0에 가깝게 만들 수 있다. 이런 문제를 피하기 위해 다시 정의를 가다듬는다.

"충분히 큰 수보다 더 큰 모든 $x$에 대해 우리가 원하는 만큼 $y$를 $0$에 가깝게 만들 수 있다."

"임의의 양수 $\epsilon$이 주어졌을 때, $X$보다 큰 값을 가지는 모든 실수 $x$에 대해 $y<\epsilon$을 만족하는 양수 $X$가 존재한다."

극한이란 개념을 엄밀하게 정의할 수 있게 된 것은 19세기말 독일 수학자 카를 바이어슈트라스${}^{karl\;Weierstrass}$의 공이다.

아래는 너무나도 유명한 $\epsilon-\delta$ 논법이다. 오늘날은 아래와 같이 극한을 정의하였으므로 더 이상 무한소나 무한대의 개념을 사용하지 않아도 된다. 따라서 무한소를 비웃는 제논의 역설은 완벽하게 극복하였다.

$\forall \epsilon>0$, $\forall x >X \Rightarrow |f(x)-L|<\epsilon$를 만족하는 $X$가 존재한다.

$$\iff\quad \lim_{x\rightarrow\infty}f(x)=L$$

모든 $\epsilon>0$, $0<|x-c|<\delta$인 모든 실수 $x$에 대하여 $|f(x)-L|<\epsilon$를 만족하는 $\delta>0$가 존재한다.

$$\iff\quad\lim_{x\rightarrow c}f(x)=L$$

https://en.wikipedia.org/wiki/Fluxion

Fluxion - Wikipedia

https://mathshistory.st-andrews.ac.uk/Biographies/Berkeley/

George Berkeley - Biography

https://suhak.tistory.com/1019

이해하는 미적분 수업_David Acheson _바다출판사

https://en.wikipedia.org/wiki/Limit_of_a_function#(%CE%B5,_%CE%B4)-definition_of_limit 

Limit of a function - Wikipedia