[FTC의 엄밀한 증명] ch8. 열린 집합과 닫힌 집합

  이전 읽을거리 : [FTC의 엄밀한 증명] ch7. 무한급수

  다음 읽을거리 : [FTC의 엄밀한 증명] ch9. 연결집합

 

 

  본 포스팅은 'Stephen Abbott, 해석학 첫걸음(2판)'을 공부하며 작성하였습니다.

 

 

9. 열린 집합과 닫힌 집합

 

  열린 집합과 닫힌 집합의 개념은 함수에 대한 성질을 탐구할 때 매우 중요한 성질이다. 미리 밝히자면, 열린 구간은 열린 집합의 한 종류이며 닫힌 구간은 닫힌 집합의 한 종류이다. 이러한 사실을 기준으로 열린 집합과 닫힌 집합의 정의를 잘 이해해보자.

 

 

9.1. 열린 집합

 

  근방의 정의를 다시 확인하자.

 

정의)  $a\in \mathbb{R}$ 와 $ϵ>0$ 에 대해, 다음과 같이 정의된 집합 $B_{ϵ}(a)$ 를 $a$ 의 $ϵ$-근방($ϵ$-neighborhood)이라고 한다.
$$B_{ϵ}(a):=\{x\in \mathbb{R}:|x-a|<ϵ\}$$

 

  그 정의에 따라 $B_{ϵ}(a)$ 는 중심이 $a$ 이고 반지름이 $ϵ$ 인 열린 구간 $(a-ϵ,a+ϵ)$ 이다. 실수의 조밀성에 따르면 $a-ϵ<x_1<a$ 를 만족하는 $x_1\in \mathbb{R}$ 이 존재하며, $x_1<x_2<a$ 를 만족하는 $x_2\in \mathbb{R}$ 도 존재한다. 귀납적으로 생각하면 $a-ϵ<x<a$ 를 만족하는 $x\in \mathbb{R}$ 이 무한하게 존재함을 알 수 있다. 이는 $a<x<a+ϵ$ 의 경우도 마찬가지이다.

 

  정리하면 $B_{ϵ}(a)$ 에는 $a$ 의 양 옆으로 무한히 많은 원소가 존재한다. 다음의 정의를 확인하자.

 

정의)  집합 $O\subset \mathbb{R}$ 를 생각하자. 임의의 $a\in O$ 에 대해 어떤 $B_{ϵ}(a)$ 가 존재하여 $B_{ϵ}(a)\subset O$ 가 성립하면 집합 $O$ 를 열린 집합(open set)이라고 한다.

 

  근방에 대한 논의를 적용하면, 열린 집합은 모든 점의 양 옆에 무한히 많은 점이 존재하는 집합이라고 할 수 있다. 열린 집합이 아닌 예시로 닫힌 구간 $[a,b]$ 가 있다. $a$ 는 이 집합의 원소인데, $a$ 의 왼쪽에 $[a,b]$ 의 원소는 존재하지 않으므로 $[a,b]$ 는 열린 집합이 아니다.

 

정리 9.1-1)  열린 구간은 열린 집합이다.

 

proof)

  열린 구간 $(a,b)$ 를 생각하자. 임의의 $x\in (a,b)$ 에 대해 $a<x<b$ 가 성립한다. $a$ 와 $b$ 중 $x$ 와 가까운 것과의 사이를 반지름으로 선택하면 된다. 다음과 같이 $ϵ>0$ 을 정의하자.

$$ϵ=\text{min}\{x-a,b-x\}$$

  $B_{ϵ}(x)$ 가 $(a,b)$ 에 자명하게 포함된다고 하고 싶지만, 하는김에 직접 보이자. 임의의 $z\in B_{ϵ}(x)$ 에 대해 $|z-x|<ϵ$ 이 성립한다. $ϵ$ 의 정의에 따라 다음이 성립한다.

$$\begin{array}{rl}|z-x|<x-a& ⟺-x+a<z-x<x-a\\ & \therefore a<z\end{array}$$

$$\begin{array}{rl}|z-x|<b-x& ⟺-b+x<z-x<b-x\\ & \therefore z<b\end{array}$$

$$\therefore a<z<b$$

  따라서 $z\in (a,b)$ 이므로, $B_{ϵ}(x)\subset (a,b)$ 가 성립한다. 그러므로 $(a,b)$ 는 열린 집합이다.   $◻$

 

 

9.2. 닫힌 집합

 

  닫힌 집합의 개념은 열린 집합보다 다소 복잡하다.

 

  닫힌 집합에서 닫힌의 의미가 무엇일까? 미리 말하지만 닫힌 구간의 닫힌과는 그 의미가 사뭇 다르다. 다음을 참고하자.

 

집합 $A$ 에 정의된 이항연산 $\ast$ 을 생각하자. 임의의 $x,y\in A$ 에 대해 $x\ast y\in A$ 이면 $\ast$ 는 $A$ 에 대해 닫혀있다고 한다.

 

  다시말해 연산이 닫혀있다는건 연산의 결과도 무조건 그 집합 안에 갇혀있다는 뜻이며, 닫힌 집합의 닫힌도 비슷한 의미이다. (필자가 번역을 맡았다면 닫힌 집합 대신 갇힌 집합이라고 했을 것이다)

 

  결론부터 말하자면 닫힌 집합은 그 집합의 원소로 이루어진 수열의 극한이 항상 그 집합의 원소인 것이다.

 

  차근차근 정의해보자.

 

정의)  $x\in \mathbb{R}$ 의 임의의 $ϵ$-근방 $B_{ϵ}(x)$ 에 대해 어떤 $a\in A$ 가 존재하여 $a\ne x$ 이며 $a\in B_{ϵ}(x)$ 이면 $x$ 를 $A\subset \mathbb{R}$ 의 극한점(limit point)이라고 한다.

 

  즉, $x$ 가 $A$ 의 극한점이면 $x$ 를 중심으로 하는 아무리 작은 구간을 잡아도 그 안에 $x$ 가 아닌 $A$ 의 원소가 포함된다. 이러한 모습을 상상하면 $x$ 가 아닌 $A$ 의 원소만으로 이루어진 수열이 $x$ 로 수렴하도록 할 수 있을 것 같다.

 

  참고로, 정의를 잘 보면 $x$ 가 $A$ 의 극한점이더라도 반드시 $x\in A$ 일 필요는 없다.

 

정리 9.2-1)  $x\in \mathbb{R}$ 가 $A\subset \mathbb{R}$ 의 극한점일 필요충분조건은 어떤 수열 $(a_n)\subset A$ 이 존재하여 $x\notin (a_n)$ 이며 $(a_n)\to x$ 인 것이다.

 

proof)

  $x$ 가 $A$ 의 극한점이라고 하자. 임의의 $n\in \mathbb{N}$ 을 생각하자. 정의에 따르면 $B_{\frac{1}{n}}(x)$ 에 대해 어떤 $a\in A$ 가 존재하여 $a\ne x$ 이며 $a\in B_{\frac{1}{n}}(x)$ 이 성립한다. 이 $a$ 를 $a_n$ 이라고 하자. 이렇게 만들어진 수열 $(a_n)\subset A$ 에 대해 $x\notin (a_n)$ 이 성립한다. 임의의 $ϵ>0$ 을 생각하자. 아르키데스 성질에 따르면 $\frac{1}{ϵ}<N$ 이도록 하는 $N\in \mathbb{N}$ 이 존재한다. 임의의 $n\in \mathbb{N}$ 에 대해 $n\ge N$ 이면 다음이 성립한다.

$$|a_n-x|<\frac{1}{n}\le \frac{1}{N}<ϵ$$

  따라서 $(a_n)\to x$ 가 성립하므로 원하는결과를 얻는다.

 

  어떤 수열 $(a_n)\subset A$ 이 존재하여 $x\notin (a_n)$ 이며 $(a_n)\to x$ 이라고 하자. $x$ 의 임의의 $ϵ$-근방 $B_{ϵ}(x)$ 를 생각하자. $(a_n)\to x$ 이므로 어떤 $N\in \mathbb{N}$ 이 존재하여 임의의 $n\in \mathbb{N}$ 에 대해 $n\ge N$ 이면 다음이 성립한다.

$$|a_n-x|<ϵ$$

  이때 $a_n\in B_{ϵ}(x)$ 이므로 원하는 결과를 얻는다.   $◻$

 

 

  극한점의 정의에 $a\ne x$ 가 있는 이유는, $A$ 의 모든 점이 무조건 극한점이 되는 상황을 피하기 위해서이다. $a=x$ 를 허용한다면 모든 항이 $a$ 인 수열 $(a,a,a,\dots )$ 을 구성하여 $A$ 의 모든 점을 $A$ 의 극한점으로 만들 수 있다. 상황을 조금 더 흥미롭게 만들기 위해 $a\ne x$ 의 조건을 추가함으로써 $A$ 의 원소 가 $A$ 의 극한점이 아닐수도 있도록 한 것이다. 다음의 정의를 확인하자.

                    

정의)  $A$ 의 극한점이 아닌 $x\in \mathbb{R}$ 에 대해 $x\in A$ 이면 $x$ 를 $A$ 의 고립점(isolated point)이라고 한다.

 

  고립점이라는 이름이 붙은 이유는 $x\in \mathbb{R}$ 가 $A$ 의 고립점이기 위한 필요충분조건을 살펴보면 된다. $x$ 가 $A$ 의 극한점이 아니며 $x\in A$ 이기 위한 필요충분조건은 다음과 같다.

 

$x\in A$ 의 어떤 $ϵ$-근방 $B_{ϵ}(x)$ 이 존재하여 임의의 $a\in A$ 에 대해 $a=x$ 이거나 $a\notin B_{ϵ}(x)$ 이다.

 

  즉, $A$ 의 고립점 $x$ 는 스스로만을 포함하도록 하는 작은 근방 $B_{ϵ}(x)$ 가 존재한다는 것이다. $B_{ϵ}(x)$ 에서 $x$ 는 $A$ 의 원소중에서 홀로 존재하므로 '고립점'이라는 명칭이 그럴 듯 하다.

 

  사실 고립점이 그렇게 중요한 개념은 아니다. 집합의 원소 중 그 집합의 극한점이 아닌 점이 있을 수도 있다는 사실만 인지하고 넘어가자. 다음의 정의를 확인하자.

 

정의)  $F\subset \mathbb{R}$ 의 임의의 극한점 $x\in \mathbb{R}$ 에 대해 $x\in F$ 가 성립하면 $F$ 를 닫힌 집합(closed set)이라고 한다.

 

※ 닫힌 집합의 정의에 따르면, 극한점을 가지지 않는 집합도 닫힌 집합이 된다. 

 

  즉, 자기 자신의 극한점을 모두 포함하는 집합이 닫힌 집합이다. 이 정의를 처음보면 어떤 집합까지 닫힌 집합인지 상상하기 어려울 것이다. 좋은 예를 들자면, 다음의 집합은 필자가 본 닫힌 집합중에 가장 순수하게 닫힌 집합의 속성만을 담고 있는 집합이다.

$$A=\{0\}\cup \{\frac{1}{n}:n\in \mathbb{N}\}$$

  설명의 편의를 위해 $A^{\prime }=\{\frac{1}{n}:n\in \mathbb{N}\}$ 라고 하자. 임의의 $\frac{1}{n}$ 에 대해 그 왼쪽에는 $\frac{1}{n+1}$ 이, 오른쪽에는 $\frac{1}{n-1}$ 이 있으며 그 사이에는 $\frac{1}{n}$ 좌우로 빈 공간이 있다. 이 빈 공간에 들어가는 $B_{ϵ}\left(\frac{1}{n}\right)$ 을 선택할 수 있으며, 이는 $\frac{1}{n}$ 이 고립점임을 의미한다. 따라서 $A^{\prime }$ 의 모든 점은 고립점이다.

 

  그렇다면 $A^{\prime }$ 의 극한점이 존재할까? 아르키메데스 성질에 따르면 임의의 $ϵ>0$ 에 대해 $\frac{1}{n}<ϵ$ 이도록 하는 $n\in \mathbb{N}$ 이 존재한다. 따라서 $0$ 을 중심으로 하는 근방은 아무리 작더라도 $A^{\prime }$ 의 원소를 포함하기 때문에 $0$ 은 $A^{\prime }$ 의 극한점이다. 그리고 잘 생각해보면 $0$ 이 아닌 다른 실수는 $A^{\prime }$ 의 극한점이 될 수 없으므로 $A=\{0\}\cup A^{\prime }$ 가 닫힌 집합이라는 것을 알 수 있다.

 

  닫힌 집합에 대한 위의 예시는 조금 당황스럽지만, 우리에게 매우 익숙한 예시도 있다. 아래의 정리를 확인하자.

 

정리 9.2-2)  닫힌 구간은 닫힌 집합이다.

 

proof)

  닫힌 구간 $[a,b]$ 를 생각하자. $[a,b]$ 의 임의의 극한점 $x$ 를 생각하자. $x\in [a,b]$ 임을 보여야 한다. 정리 9.2-1에 따르면 어떤 수열 $(x_n)\subset [a,b]$ 이 존재하여 $(x_n)\to x$ 이 성립한다. 이때 임의의 $n\in \mathbb{N}$ 에 대해 $a\le x_n\le b$ 이므로, 순서극한정리에 따라 $a\le x\le b$ 도 성립한다. 따라서 $x\in [a,b]$ 가 성립하므로 원하는 결과를 얻는다.   $◻$

 

 

  닫힌 집합이 수열의 극한에 대해 닫혀있도록 하고자 한 소기의 목적이 달성되었는지 확인하자.

 

정리 9.2-3)  집합 $F\subset \mathbb{R}$ 이 닫힌 집합일 필요충분조건은 임의의 코시수열 $(a_n)\to a$ 에 대해 $(a_n)\subset F$ 이면 $a\in F$ 인 것이다.

 

※ 코시수열이란 수렴하는 수열과 동일한 의미이다. 코시 수렴 판정법 참고.

 

proof)

  집합 $F$ 가 닫힌 집합이라고 하자. 모순을 보이기 위해 어떤 코시수열 $(a_n)\to a$ 이 존재하여 $(a_n)\subset F$ 이며 $a\notin F$ 이라고 가정하자. 이 가정에 따르면 임의의 $n\in \mathbb{N}$ 에 대해 $a_n\ne a$ 가 성립한다. $a$ 의 임의의 $ϵ$-근방 $B_{ϵ}(a)$ 를 생각하자. $(a_n)\to a$ 이므로, 어떤 $N\in \mathbb{N}$ 이 존재하여 임의의 $n\in \mathbb{N}$ 에 대해 $n\ge N$ 이면 $a_n\in B_{ϵ}(a)$ 가 성립한다. 이때 $a_n\in F$ 이므로 정의에 따르면 $a$ 는 $F$ 의 극한점이다. $F$ 는 닫힌 집합이므로 $a\in F$ 이어야 하며, 이는 가정에 모순된다. 그러므로 귀류법에 따라 원하는 결과를 얻는다.

 

  임의의 코시수열 $(a_n)\to a$ 에 대해 $(a_n)\subset F$ 이면 $a\in F$ 이라고 하자. 집합 $F$ 의 임의의 극한점 $x$ 에 대해 정리 9.2-1에 따르면 어떤 수열 $(x_n)\subset F$ 이 존재하여 $(x_n)\to x$ 이 성립한다. 이때 가정에 따라 $x\in F$ 이므로 $F$ 는 $F$ 의 극한점을 모두 포함한다. 따라서 $F$ 는 닫힌 집합이다.   $◻$

 

 

9.3. 여집합에 의한 정의

 

  한가지 중요한 사실을 짚고가자. 열린과 닫힌은 일상 용어와 달리 반의어 개념이 아니다. 열린 집합이 아니면 닫힌 집합이어야 할 것 같고, 닫힌 집합이 아니면 열린 집합이 아니어야 할 것 같지만 실상은 그렇지 않다. 오히려 대부분의 집합이 열린 집합도 아니며 닫힌 집합도 아니다. 열린 집합과 닫힌 집합의 정의를 만족하는게 까다롭다는걸 생각하면 오히려 당연한 사실이다.

 

  앞선 논의를 보면 열린 집합을 정의할 때보다 닫힌 집합을 정의하는게 다소 번거롭다는 것을 느꼈을 것이다. 그런데 혹자는 닫힌 집합을 매우 간결하게 정의하는 방법을 알고있다. 다음의 정의를 확인하자.

 

정의)  집합 $A\subset \mathbb{R}$ 의 여집합(complement) $A^c$ 는 다음과 같이 정의한다.
$$A^c:=\{x\in \mathbb{R}:x\notin A\}$$

 

  다시말해 여집합은 원래 집합에 속하지 않은 점들의 집합이다. 여집합을 활용하면 닫힌 집합을 판별하는 매우 강력한 방법을 알아낼 수 있다. 다음의 정리를 확인하자.

 

정리 9.3-2)  집합 $O$ 가 열린 집합이기 위한 필요충분조건은 $O^c$ 가 닫힌 집합인 것이다.

 

proof)

  집합 $O$ 가 열린 집합이라고 하자. $O^c$ 의 임의의 극한점 $x$ 에 대해 $x\in O^c$ 임을 보이면 된다. 모순을 보이기 위해 $O^c$ 의 어떤 극한점 $x$ 가 존재하여 $x\in O$ 가 성립한다고 가정하자. $O$ 는 열린 집합이므로 어떤 $B_{ϵ}(x)$ 가 존재하여 $B_{ϵ}(x)\subset O$ 가 성립한다. 이때 $B_{ϵ}(x)$ 는 $O^c$ 의 원소를 포함하지 않는데, 극한점의 정의에 따르면 $O^c$ 의 극한점인 $x$ 의 근방인 $B_{ϵ}(x)$ 는 $O^c$ 의 원소를 포함해야 하므로 모순. 귀류법에 따라 $O^c$ 의 임의의 극한점 $x$ 에 대해 $x\notin O$ , 즉 $x\in O^c$ 가 성립한다.

 

  $O^c$ 가 닫힌 집합이라고 하자. 임의의 $x\in O$ 를 생각하자. $x\notin O^c$ 이 성립하는데, $O^c$ 의 임의의 극한점은 $O^c$ 에 포함되므로 $x$ 는 $O^c$ 의 극한점이 아니다. 극한점의 정의에 따라 $O^c$ 의 원소를 포함하지 않는 어떤 $B_{ϵ}(x)$ 가 존재하며, 이는 $B_{ϵ}(x)\subset O$ 임을 의미한다. 정의에 따라 $O$ 는 열린 집합이다.   $◻$

 

 

  위의 정리에서 얻을 수 있는 교훈은 열린 집합의 여집합을 닫힌 집합으로 정의할 수도 있다는 것이다. 실제로 간결한 설명을 지향하는 많은 사람들은 이러한 방식으로 닫힌 집합을 정의하기도 한다.

 

 

읽어주셔서 감사합니다.

 

 

  이전 읽을거리 : [FTC의 엄밀한 증명] ch7. 무한급수

  다음 읽을거리 : [FTC의 엄밀한 증명] ch9. 연결집합