함수의 연속
수학이야기/미적분Ⅰ 2026. 8. 25. 13:08일상에서 사용하는 ‘연속’이라는 말의 뜻은 직관적으로 쉽게 이해할 수 있다. 무언가가 중간에 끊어지지 않고 계속 이어진다는 뜻이다. 함수에서도 연속은 이와 비슷한 의미를 가진다. 쉽게 말하면 함수의 그래프를 좌표평면에 그렸을 때 그래프가 중간에 끊어지지 않고 자연스럽게 이어지면 연속이라고 생각할 수 있다.
[미적분Ⅰ]에서 주로 다루는 다항함수와 같은 함수는 그래프의 모양만 보아도 연속임을 쉽게 짐작할 수 있다. 실제로 다항함수는 모든 실수에서 연속이다. 하지만 ‘그래프가 끊어지지 않는다’는 설명은 연속을 이해하는 데 도움을 주는 직관적인 설명일 뿐, 연속을 정확하게 정의하기에는 충분하지 않다.
함수에 따라서는 그래프를 직접 그리기 어렵거나 그래프만 보고 특정한 점에서 연속인지 판단하기 어려운 경우도 있다. 따라서 그래프의 모양에 의존하지 않고 함수가 연속인지 정확하게 판단할 수 있는 기준이 필요하다.
그 기준을 마련해 주는 것이 바로 함수의 극한이다. 함수의 극한을 이용하면 ‘그래프가 끊어지지 않고 이어진다’는 직관적인 생각을 수학적으로 정확하게 표현할 수 있다. 이제 극한을 이용하여 함수의 연속이 무엇을 뜻하는지 알아보자.
함수의 연속의 의미를 극한을 이용하여 알아보자.
함수
$$f(x)= \begin{cases} x-1 & (x>1)\\ x & (x\leq 1) \end{cases} $$
의 그래프는 그림과 같이 ($x=1$)에서 끊어져 있다.

이때 $f(1)=1$이지만 $\displaystyle{ \lim_{x\to 1}f(x)}$가 존재하지 않는다.
또 함수
$$g(x)= \begin{cases} x & (x\neq 1)\\ 2 & (x=1) \end{cases} $$
의 그래프는 오른쪽 그림과 같이 ($x=1$)에서 끊어져 있다.

이때 $g(1)=2$이지만 $\displaystyle{\lim_{x\to 1}g(x)=1}$이므로 $$\displaystyle{ \lim_{x\to 1}g(x)\neq g(1)}$$이다.
참고: 두 함수의 그래프는 모두 $x=1$에서 끊어졌지만 좀 다른 끊어짐이다. 두 번째 함수는 함숫값 $f(1)$만 다시 정해주면 쉽게 이을 수 있다. 이것을 회복가능한 끊어짐이라고 부르자.
일반적으로 함수 $f(x)$와 실수 $a$에 대하여
(i) 함수 $f(x)$가 $x=a$에서 정의되고
(ii) 극한값 $\displaystyle{\lim_{x\to a}f(x)}$가 존재하며
(iii) $\displaystyle{\lim_{x\to a}f(x)=f(a)}$
일 때, $f(x)$는 $x=a$에서 연속이라고 한다.
한편 함수 $f(x)$가 $x=a$에서 연속이 아닐 때, 함수 $f(x)$는 $x=a$에서 불연속이라고 한다.
즉, 함수 $f(x)$가 위의 세 조건 중 어느 하나라도 만족하지 않으면 함수 $f(x)$는 $x=a$에서 불연속이다.
다음 함수의 그래프는 $x=0$에 가까워질수록 매우 복잡한 모습을 보인다.
$$f(x)=\sin\frac{1}{x}$$
우선 이 함수는 $x=0$에서 함숫값이 정의되지 않으므로 $x=0$에서 연속일 수 없다.
그렇다면 $x=0$에서 함숫값을 따로 정해 주면 어떻게 될까? 다음 함수를 생각해 보자.
$$f(x)=
\begin{cases}
\sin\dfrac{1}{x} & (x\neq0)\\
0 & (x=0)
\end{cases}$$
이제 $f(0)=0$이므로 $x=0$에서 함숫값은 정의되어 있다. 하지만 함숫값을 정의했다고 해서 반드시 연속이 되는 것은 아니다. 연속이 되려면
$$\lim_{x\to0}f(x)=f(0)$$
이어야 한다.
$x\to0$일 때 $\dfrac{1}{x}$의 절댓값은 한없이 커진다. 따라서 $\sin\dfrac{1}{x}$의 값은 $-1$과 $1$ 사이에서 점점 더 빠르게 진동한다. $x$가 아무리 $0$에 가까워져도 함숫값이 하나의 값에 가까워지지 않는다.

따라서
$$\lim_{x\to0}\;\;\sin\dfrac{1}{x}$$
는 존재하지 않으며, 주어진 함수는 $x=0$에서 불연속이다.
고등학교 과정에서 이와 같은 함수를 자세히 다룰 필요는 없지만, 함수가 한 점에서 불연속이 되는 모습이 단순히 그래프에 ‘구멍이 생기거나’ ‘뚝 끊어지는’ 경우만 있는 것은 아니라는 사실을 보여 주는 흥미로운 예이다.
참고: 중요한 점은 극한값 또는 함숫값이 정의되어 있다고 해서 그 점에서 반드시 연속인 것은 아니라는 사실이다. 연속이 되려면 그 점에서 함숫값이 정의되어 있어야 할 뿐만 아니라 극한값도 존재하고, 그 극한값과 함숫값이 서로 같아야 한다. 그래서 복잡하지만 연속성을 확인하는 3가지 조건을 제시하고 있는 것이다.
두 실수 $a$, $b$ $(a<b)$에 대하여 집합 $\{x\mid a<x<b\}$, $\{x\mid a\leq x\leq b\}$, $\{x\mid a<x\leq b\}$, $\{x\mid a\leq x<b\}$를 구간이라 하고, 기호로 각각 $(a,b)$, $[a,b]$, $(a,b]$, $[a,b)$와 같이 나타낸다.
이때 $(a,b)$를 열린구간, $[a,b]$를 닫힌구간이라 하고, $(a,b]$와 $[a,b)$를 반열린구간 또는 반닫힌구간이라고 한다.
또 실수 $a$에 대하여 집합 $\{x\mid x>a\}$, $\{x\mid x\geq a\}$, $\{x\mid x<a\}$, $\{x\mid x\leq a\}$도 구간이라 하고, 기호로 각각 $(a,\infty)$, $[a,\infty)$, $(-\infty,a)$, $(-\infty,a]$와 같이 나타낸다.
특히 실수 전체의 집합은 기호로 $(-\infty,\infty)$와 같이 나타낸다.
함수 $f(x)$가 어떤 열린구간에 속하는 모든 실수 $x$에서 연속일 때, $f(x)$는 그 구간에서 연속이라고 한다.
또 닫힌구간 $[a,b]$에서 정의된 함수 $f(x)$가
(i) 열린구간 $(a,b)$에서 연속이고
(ii) $\displaystyle\lim_{x\to a+}f(x)=f(a)$, $\displaystyle\lim_{x\to b-}f(x)=f(b)$
일 때, $f(x)$는 닫힌구간 $[a,b]$에서 연속이라고 한다.
일반적으로 어떤 구간에서 연속인 함수를 그 구간에서 연속함수라고 한다.
두 함수 $f(x)$, $g(x)$가 $x=a$에서 연속이면
$\displaystyle\lim_{x\to a}f(x)=f(a)$, $\displaystyle\lim_{x\to a}g(x)=g(a)$
이므로 함수의 극한에 대한 성질에 따라 다음이 성립한다.
$\displaystyle\lim_{x\to a}kf(x)=k\lim_{x\to a}f(x)=kf(a)$ (단, $k$는 실수)
$\displaystyle\lim_{x\to a}{f(x)+g(x)}=\lim_{x\to a}f(x)+\lim_{x\to a}g(x)=f(a)+g(a)$
$\displaystyle\lim_{x\to a}{f(x)-g(x)}=\lim_{x\to a}f(x)-\lim_{x\to a}g(x)=f(a)-g(a)$
$\displaystyle\lim_{x\to a}f(x)g(x)=\lim_{x\to a}f(x)\times\lim_{x\to a}g(x)=f(a)g(a)$
$\displaystyle\lim_{x\to a}\frac{f(x)}{g(x)}=\frac{\displaystyle\lim_{x\to a}f(x)}{\displaystyle\lim_{x\to a}g(x)}=\frac{f(a)}{g(a)}$ (단, $g(a)\neq0$)
따라서 함수 $kf(x)$, $f(x)+g(x)$, $f(x)-g(x)$, $f(x)g(x)$, $\displaystyle\frac{f(x)}{g(x)}$도 $x=a$에서 연속이다.
이상을 정리하면 다음과 같다.
두 함수 $f(x)$, $g(x)$가 $x=a$에서 연속이면 다음 함수도 $x=a$에서 연속이다.
① $kf(x)$ (단, $k$는 실수)
② $f(x)+g(x)$, $f(x)-g(x)$
③ $f(x)g(x)$
④ $\displaystyle\frac{f(x)}{g(x)}$ (단, $g(a)\neq 0$)
상수함수와 함수 $y=x$는 모든 실수 $x$에서 연속이므로 연속함수의 성질 ①, ②, ③에 따라 다항함수
$$f(x)=a_nx^n+a_{n-1}x^{n-1}+\cdots+a_1x+a_0\quad (a_0,a_1,\ldots,a_n\text{은 실수})\tag{1}$$
은 모든 실수 $x$에서 연속이다.
또 두 다항함수 $f(x)$, $g(x)$에 대하여 유리함수 $\displaystyle\frac{f(x)}{g(x)}$는 연속함수의 성질 ④에 따라 $g(x)\neq 0$인 모든 실수 $x$에서 연속이다.
함수를 서로 사칙연산하거나 합성하여 새로운 함수를 만들고, 복잡한 함수를 여러 개의 간단한 함수로 분해하여 그 성질을 파악하는 것은 매우 중요하다. 따라서 간단한 함수들의 연속성을 알고 있다면, 이들을 사칙연산하거나 합성하여 만든 함수의 연속성도 쉽게 판단할 수 있다. 연속함수의 성질을 보면 ①, ②, ③은 별다른 조건이 없지만 연속함수의 성질을 살펴보면 ①, ②, ③에는 별다른 조건이 없지만, ④에는 $g(a)\neq0$이라는 조건이 붙어 있다. 나눌 때는 늘 조심해야 한다.
두 함수 $y=|x|$와 $y=x$는 모두 실수 전체에서 연속이다. 그렇다면 연속인 두 함수로 만든 새로운 함수도 언제나 연속일까?
두 함수를 나누어 만든 다음 함수를 생각해 보자.
$$y=\frac{|x|}{x}$$
수학에서는 $0$으로 나누는 것이 정의되지 않으므로 이 함수는 $x=0$에서 함수값을 갖지 않는다. 실제로 식을 정리하면
$$
\frac{|x|}{x}=
\begin{cases}
-1 & (x<0)\\
1 & (x>0)
\end{cases}
$$
이다. 따라서 $x$가 $0$보다 작은 쪽에서 다가갈 때 함수값은 $-1$에 가까워지고, $0$보다 큰 쪽에서 다가갈 때는 $1$에 가까워진다. 즉,
$$\lim_{x\to0-}\frac{|x|}{x}=-1,\qquad
\lim_{x\to0+}\frac{|x|}{x}=1$$
이므로 $x=0$에서 극한값도 존재하지 않는다. 그래프를 그려 보면 $x=0$을 경계로 함수의 그래프가 서로 다른 높이에서 끊어져 있음을 확인할 수 있다.
이처럼 각각 연속인 함수라도 나눗셈으로 새로운 함수를 만들 때는 분모가 $0$이 되는 점에서 문제가 생길 수 있다. 따라서 두 연속함수 $f(x)$, $g(x)$에 대하여 $\displaystyle\frac{f(x)}{g(x)}$가 연속이라고 말하려면 반드시 $g(x)\neq0$이라는 조건이 필요하다.
그렇다면 함수가 한 점에서 ‘끊어지지 않는다’는 것을 그래프의 모양이 아니라 수학적으로는 어떻게 표현할 수 있을까? 이를 정확하게 설명해 주는 것이 함수의 극한을 이용한 연속의 정의이다.