실수에서 닫힌 구간 $\left[0, 1 \right]$를 3등분해나가면서 가운데 것을 제거하는 작업을 반복하여 얻는 집합이다. 프랙털의 일종이기도 하며, 해석학 및 위상수학에서 특이한 예시를 만드는 데 사용되곤 한다.

$C_0 = \left[0, 1 \right]$라고 하자. 이때 집합열 $\left( C_n \right)$을 다음과 같은 점화식으로 정의한다.

그러면 칸토어 집합 $C$는 다음과 같은 집합이다.

위 정의에 따라 $\left( C_n \right)$은

과 같은 식으로 나아간다. 닫힌 구간 $\left[0, 1 \right]$의 원소 $r$를 3진법으로 다음과 같이 나타내었다고 하자.

단, 이러한 3진법 표현을 유일하게 만들기 위해 1다음에 0이 계속 이어지거나 2가 계속이어지는 표현은 허용하지 않기로 한다.
예를 들어 1/3의 경우

에서 $0.0222\cdots_{(3)}$만 허용한다.
2/3의 경우에는

에서 $0.2000\cdots_{(3)}$만 허용한다.
그러면 $r \in C_1$일 때 $a_1 = 0 \ \text{or} \ 2$이다.

마찬가지로 $C_2$에서 $r \in C_2$이려면 $a_1 = 0 \ \text{or} \ 2$이고, $a_2 = 0 \ \text{or} \ 2$이어야 한다.[1]

이 과정을 반복하면, 칸토어 집합 $C$는 다음과 같이 표현할 수 있다.

즉, $C$의 모든 원소들은 0과 2만 나타나는 3진법 실수와 같다.

이런 이유로 칸토어 집합을 Cantor Ternary Set이라고도 한다.

$C$의 원소의 개수는 구간 $\left[0, 1 \right]$의 원소의 개수와 같다. 0 또는 2의 값만을 가지는 수열 $\left( a_n \right)$이 있을 때, $C$의 원소들은 $\displaystyle \sum_{n=1}^{\infty} \frac{a_n}{3^n}$의 꼴로 나타내어지므로, 함수 $f: C \to \left[0, 1 \right]$를 다음과 같이 정의할 수 있다.[2]

그러면 $f$는 전사함수가 된다. 따라서 $\displaystyle \text{card}(C) \geq \text{card}(\left[0, 1 \right])$

한편 $C$는 $\left[0, 1 \right]$의 부분집합이므로 $\text{card}(C) \leq \text{card}(\left[0, 1 \right])$이고 슈뢰더-베른슈타인 정리에 의하여,

이다.


한편 $C_n$에서 구간의 끝점들을 모은 집합을 $D_n$이라 하자. 즉, $D_n$은

과 같은 식으로 정의된다. 이때 $\displaystyle D = \bigcup_{n=0}^{\infty} D_n$라 하면 $D\subset C$이다. 즉, $D$는 $\left( C_n \right)$에서 구간의 끝점들을 전부 모은 집합이며, 이 점들은 모두 $C$에 속한다. 그런데 각각의 $D_n$은 유한집합이므로 $D_n$들을 가산개 만큼 합집합한 $D$는 가산집합이다. 따라서 다음이 성립한다.

칸토어 집합을 만드는 각 단계에서 빠지는 구간의 길이는 $\frac{1}{3}$, $\frac{2}{9}$, $\frac{4}{27}$, ...이다. 이렇게 빠지는 구간의 길이를 모두 합하면,
$\displaystyle \sum_{n=1}^{\infty} \left(\frac{2}{3}\right)^{n-1}\frac{1}{3} = \frac{1}{3}\left(\frac{1}{1-\frac{2}{3}}\right)=1$ 이 된다.
따라서 칸토어 집합의 길이는 $1 - 1 = 0$으로 0이 된다. 즉, 칸토어 집합은 원소의 개수가 구간 $[0, 1]$ 혹은 실수전체와 같으면서도 길이가 0인 집합이다. 이와 같은 반직관적인 성질 때문에 반례로 자주 쓰인다.

한편, 칸토어 집합을 만드는 각 단계에서 각 구간의 1/3을 덜어내지 않고 점차 더 작은 길이를 덜어내도록 하면 칸토어 집합의 특이한 성질을 가지면서도 측도가 양수인 집합도 얼마든지 만들어낼 수 있다. 이를 뚱뚱한 칸토어 집합(fat Cantor set) 또는 스미스-볼테라-칸토어 집합(Smith-Volterra-Cantor set)이라고 하며 또다른 종류의 반례로 쓰인다.[3]

칸토어 함수(Cantor function, 혹은 devil's staircase) $c: [0, 1]\to [0, 1]$는 칸토어 집합을 이용해 정의되는 함수로, 다음과 같은 반직관적인 성질을 갖는다.

즉, 연속적으로 움직이는 함수가 거의 항상 기울기가 0인데도 불구하고, 결국 0에서 1로 증가한다.

칸토어 집합은 완전 집합이면서, 제1범주 집합인데, 이런 집합을 Cantor discontiuum이라고 한다.