그래프 그리기에 도함수를 쓰자

미분은 함숫값의 변화를 관찰하기 위해 만들었다고 해도 지나친 말이 아니다. 움직이는 물체의 빠르기를 재거나 곡선이 굽어 돌아가는 모양을 살필 때처럼, 어떤 양이 다른 양에 따라 어떻게 달라지는지 살피는 일은 늘 수학의 중심에 있었다.

주어진 함수에서 함숫값이 어떻게 변하는가를 한눈에 보여주고자 할 때 우리는 좌표평면 위에 그래프를 그린다. 점들의 모임으로 흩어져 있던 관계가 하나의 매끄러운 곡선으로 이어지는 순간, 보이지 않던 수의 흐름이 눈앞에 펼쳐진다.

그러나 식의 꼴이 복잡해질수록 일일이 값을 넣어 점을 찍는 방식으로는 전체 모습을 온전히 그려내기 어렵다. 바로 이 대목에서 미분이 길잡이가 된다. 찰나의 순간변화율을 뜻하는 도함수를 구하면 곡선이 어느 구간에서 위로 오르고 어느 구간에서 아래로 내려앉는지, 어디서 가장 높이 올라갔다가 돌아서는지를 손바닥 들여다보듯 짚어낼 수 있다.

접선의 기울기라는 아주 작은 정보가 도함수로 모이고 평균값 정리라는 논리로 뒷받침될 때 구간 전체의 증감이 선명하게 드러난다. 결국 그래프를 그린다는 것은 미분을 도구 삼아 함숫값의 변화를 시각적인 언어로 풀어내는 일이며, 수식 뒤에 숨겨진 역동적인 움직임을 온전히 읽어내는 안목을 갖추는 일이다.

함수의 증가와 감소의 정의

함수의 변화를 분석하는 가장 기초적인 단계는 그래프가 오른쪽으로 가면서 올라가는지 혹은 내려가는지를 엄밀하게 규정하는 일이다. 고등학교 수학에서 다루는 함수의 증가와 감소는 미분가능 여부와 상관없이 오직 정의역 안의 임의의 두 원소에 대한 대소 관계로 정의한다.

어떤 구간에 속하는 임의의 두 실수 $x_1, x_2$에 대하여
$x_1 < x_2$일 때 $f(x_1) < f(x_2)$가 성립하면 함수 $f(x)$는 그 구간에서 증가한다고 한다.
반대로 $x_1 < x_2$일 때 $f(x_1) > f(x_2)$가 성립하면 함수 $f(x)$는 그 구간에서 감소한다고 한다.

이 정의는 함수가 연속이 아니거나 매끄럽지 않은 형태일지라도 구간 전체에서 일관된 방향성을 갖는지를 판정하는 절대적인 기준이 된다.

미분계수의 부호와 구간의 증감을 이어주는 평균값 정리

정의 자체에는 미분이 들어있지 않지만, 미분할 수 있는 함수를 다룰 때는 굳이 두 점을 일일이 잡아 따지지 않아도 된다. 도함수의 부호만 확인하면 훨씬 손쉽게 함수의 증감을 알아낼 수 있기 때문이다. 한 점에서의 접선 기울기라는 국소적인 모습이 어떻게 구간 전체라는 넓은 영역의 움직임을 보장해 줄까? 이 둘을 논리적으로 단단하게 이어주는 징검다리가 바로 평균값 정리다.

함수 $f(x)$가 닫힌구간 $[a, b]$에서 이어져 있고 열린구간 $(a, b)$에서 미분가능하다고 하자. 이 구간에 들어 있는 두 수 $x_1, x_2$에 대하여 $x_1 < x_2$라 하면, 평균값 정리에 따라 다음 식을 만족하는 $c$가 $x_1$과 $x_2$ 사이에 적어도 하나 존재한다.

$$\frac{f(x_2) - f(x_1)}{x_2 - x_1} = f'(c) \quad (x_1 < c < x_2)$$

열린구간 $(a, b)$의 모든 $x$에서 $f'(x) > 0$이라면, 두 점 사이에 있는 $c$에서도 어김없이 $f'(c) > 0$이 된다. 이때 분모인 $x_2 - x_1$이 양수이므로 분자인 $f(x_2) - f(x_1)$도 반드시 양수여야 한다. 따라서 $f(x_1) < f(x_2)$가 성립하여 함수 $f(x)$는 그 구간에서 증가한다는 결론에 닿는다.

마찬가지로 모든 $x$에서 $f'(x) < 0$이라면 두 점 사이의 기울기 역시 음수가 되어 $f(x_1) > f(x_2)$가 성립하므로 함수는 감소한다. 이처럼 평균값 정리는 찰나의 순간변화율 부호가 두 점 사이의 평균변화율 부호를 이끌도록 만들어 주는 핵심적인 열쇠다.

극값의 현대적 정의와 그 본질

함수의 증가와 감소 상태가 전환되는 지점을 관찰하다 보면 자연스레 극대와 극소라는 개념에 이른다. 종종 '증가하다가 감소로 바뀌는 점'을 극값으로 오해하는 경우가 있으나, 현대 해석학과 현행 고등학교 교육과정에서의 극값 정의는 미분가능성이나 증감의 변화, 심지어 연속성조차 전제하지 않는 순수한 국소적(local) 대소 비교이다.

함수 $f(x)$의 정의역에 속하는 어떤 열린구간에 대하여, 그 구간 안의 모든 $x$가 $f(x) \le f(a)$를 만족할 때 함수 $f(x)$는 $x = a$에서 극대라 하고 함숫값 $f(a)$를 극댓값이라 부른다. 
마찬가지로 $x = a$를 포함하는 어떤 열린구간 안의 모든 $x$에 대하여 $f(x) \ge f(a)$를 만족할 때 함수 $f(x)$는 $x = a$에서 극소라 하고 $f(a)$를 극솟값이라 부른다.

이 정의의 핵심은 점 $a$를 둘러싼 아주 작은 열린구간 안에서 함숫값의 최대와 최소를 따진다는 점에 있다. 따라서 절댓값 함수처럼 뾰족하여 미분이 불가능한 점에서도 극값이 존재할 수 있으며, 상수함수는 모든 점에서 극대이자 동시에 극소가 된다. 극값은 어디까지나 국소적인(local) 영역에서 가장 높은 봉우리이거나 가장 낮은 골짜기인지를 묻는 개념이다.

위의 점 가운데 $A$, $B$는 미분가능하지 않은 점이다. 따라서 두 점에서 미분계수를 구할 수는 없지만, 두 점 모두 극솟점이라고 할 수 있다.

미적분 교과에서는 대부분 미분가능한 함수를 다루기 때문에 극대와 극소를 미분과 관련지어 생각하기 쉽다. 그러나 함수의 증가와 감소, 극대와 극소는 미분가능성과 관계없이 정의할 수 있는 개념이다. 미분은 이러한 성질을 조사하는 유용한 도구일 뿐, 극대와 극소가 존재하기 위한 필수 조건은 아니다.

페르마의 정리와 극값의 판정

극값의 정의에는 미분이 필요하지 않지만, 다루는 대상이 '미분가능한 함수'라면 매우 우아한 정리가 성립한다. 이것이 바로 페르마의 정리(Fermat's Theorem on Stationary Points)이다.

함수 $f(x)$가 $x = a$에서 극값을 갖고 이 점에서 미분가능하면 $f'(a) = 0$이다.

이 성질은 미분계수의 극한 정의와 국소적 대소 관계를 맞물려 쉽게 이해할 수 있다. 함수가 $x = a$에서 극대라면, $a$의 충분히 가까운 근방에서 $f(a+h) - f(a) \le 0$이 성립한다. 이때 미분계수의 우극한과 좌극한을 비교해 보면 다음과 같다.

$$\lim_{h \to 0^+} \frac{f(a+h) - f(a)}{h} \le 0, \quad \lim_{h \to 0^-} \frac{f(a+h) - f(a)}{h} \ge 0$$

함수 $f(x)$가 $x = a$에서 미분가능하므로 좌미분계수와 우미분계수는 반드시 같아야 하며, 이를 동시에 만족하는 극한값은 오직 $0$뿐이다. 마찬가지로 극소일 때도 역시 $f'(a) = 0$임을 쉽게 알 수 있다.

다만 이 정리의 역은 성립하지 않는다. 이를테면 함수 $f(x) = x^3$은 $f'(0) = 0$이지만 $x = 0$ 주변에서 함숫값이 계속 커지기만 하므로 극값을 갖지 않는다.

도함수가 $0$이 되는 자리는 극값이 될 수 있는 유력한 후보를 추리는 첫 단추일 뿐이다. 그 점의 양옆에서 도함수의 부호가 실제로 바뀌는지를 앞서 살펴본 평균값 정리의 증감 논리로 꼼꼼하게 따져보아야 비로소 온전한 극값을 찾아낼 수 있다.

참고

최댓값(global maximum), 최솟값(global minimum), 극댓값(local maximum), 극솟값(local minimum)은 아래와 같이 구별할 수 있다.