귀류법 — 방법과 대표 예제

귀류법은 어떤 주장과 반대되는 내용을 가정한 뒤, 그 가정이 불가능한 결과로 이어짐을 보여서 명제를 증명하는 방법입니다. 논리가 타당하고 모순이 실제라면, 원래 주장은 참이어야 합니다.

이 방법은 부정을 가정했을 때 손에 잡히는 형태가 생길 때 특히 유용합니다. 대표적인 예가 $\sqrt{2}$가 무리수임을 보이는 증명입니다. 유리수라고 가정하면 분수 형태로 쓸 수 있고, 그 결과를 따라가며 모순을 얻을 수 있습니다.

귀류법은 어떻게 작동하나요

증명하려는 명제를 $P$라고 합시다.

귀류법에서는 먼저 $P$가 거짓이라고 가정합니다. 그런 다음 그 가정에서 출발해 다음과 같은 모순에 도달할 때까지 추론합니다.

$$1 = 0$$

또는 이미 알려진 정의와 충돌하거나, 앞선 단계와 동시에 성립할 수 없는 결론에 이르는 경우도 있습니다.

그 시점에서 $P$의 부정은 옳을 수 없으므로, $P$는 참이어야 합니다.

핵심 조건은 그 모순이 올바른 추론과 받아들여진 사실에서 나와야 한다는 점입니다. 단지 이상해 보이는 결과만으로는 충분하지 않습니다. 사용 중인 정의나 정리 아래에서 정말로 불가능해야 합니다.

언제 귀류법을 쓰나요

귀류법은 어떤 주장에 대한 반대가 딱딱한 구조를 가질 때 가장 잘 작동합니다. 이런 상황은 정수론, 불가능성 증명, 그리고 일부 존재성 문제에서 자주 나타납니다.

예를 들어 어떤 수가 무리수임을 보이고 싶다면, 유리수라고 가정하는 순간 분수 형태를 얻게 됩니다. 이런 추가 구조 덕분에 직접증명보다 모순을 더 쉽게 찾는 경우가 많습니다.

반대로 짧은 직접증명이 이미 있다면 귀류법은 덜 유용할 수 있습니다. 귀류법은 타당한 방법이지만, 논증을 분명하게 해야지 불필요하게 길게 만들어서는 안 됩니다.

예제로 보는 증명: 왜 $\sqrt{2}$는 무리수인가

귀류법의 고전적인 예는 $\sqrt{2}$가 무리수임을 보이는 것입니다.

먼저 반대를 가정합니다.

$$\sqrt{2} \text{ is rational.}$$

이것이 참이라면, $\sqrt{2}$는 다음과 같이 쓸 수 있습니다.

$$\sqrt{2} = \frac{a}{b}$$

여기서 $a$와 $b$는 정수이고, $b \neq 0$이며, 이 분수는 기약분수라고 합시다.

이제 양변을 제곱하면

$$2 = \frac{a^2}{b^2}$$

따라서

$$a^2 = 2b^2.$$

이 식은 $a^2$가 짝수임을 뜻합니다. 그러면 $a$도 짝수여야 합니다. 홀수의 제곱은 홀수이기 때문입니다. 따라서 어떤 정수 $k$에 대해

$$a = 2k$$

라고 쓸 수 있습니다.

이를 $a^2 = 2b^2$에 대입하면

$$(2k)^2 = 2b^2$$ $$4k^2 = 2b^2$$ $$2k^2 = b^2.$$

이제 $b^2$도 짝수이므로, $b$ 역시 짝수입니다.

그런데 이제 $a$와 $b$가 모두 짝수입니다. 즉 둘 다 $2$로 나누어떨어집니다. 이는 $\frac{a}{b}$가 이미 기약분수라는 가정과 모순입니다.

따라서 처음 가정은 거짓입니다. 그러므로 $\sqrt{2}$는 무리수입니다.

왜 이 모순이 결정적인가

이 모순은 단순히 “뭔가 이상하다”는 수준이 아닙니다. 아주 구체적입니다.

1. 가정에 따르면 $\sqrt{2} = \frac{a}{b}$이고, $\frac{a}{b}$는 기약분수입니다.
2. 대수적 계산을 하면 $a$와 $b$가 모두 짝수여야 합니다.
3. 어떤 분수가 기약분수이면서 동시에 분자와 분모가 모두 $2$로 나누어떨어질 수는 없습니다.

이 직접적인 충돌이 바로 모순입니다.

귀류법에서 자주 하는 실수

흔한 실수 하나는 반대를 너무 막연하게 가정하는 것입니다. 비슷해 보이는 문장이 아니라, 원래 명제의 정확한 부정을 써야 합니다.

또 다른 실수는 잘못된 대수 계산 때문에 모순에 도달하는 것입니다. 이런 경우 그 모순이 보여 주는 것은 원래 명제가 참이라는 사실이 아니라, 계산이 틀렸다는 사실뿐입니다.

세 번째 실수는 무엇과 모순되는지를 분명히 말하지 않는 것입니다. 좋은 증명은 그 충돌을 명시합니다. 짝수·홀수 성질, 정의, 최소성 조건, 또는 이미 증명된 정리와의 충돌이어야 합니다.

또 “이것은 모순이다”라는 말 뒤에 약한 추론을 숨기기 쉽습니다. 정확히 어떤 사실이 깨졌는지 짚어낼 수 없다면, 그 증명은 아마 불완전합니다.

간단한 귀류법 템플릿

초보자용 증명에서는 구조가 대개 다음과 같습니다.

1. 명제가 거짓이라고 가정합니다.
2. 그 가정을 구체적인 형태로 바꿉니다.
3. 그 결과를 한 단계씩 따라갑니다.
4. 이미 알려진 사실과 모순에 도달합니다.
5. 따라서 원래 명제가 참이라고 결론내립니다.

2번 단계가 약하면 증명 전체가 흐릿해지는 경우가 많습니다. 좋은 귀류법 증명은 부정을 아주 구체적인 형태로 바꾸는 데서 힘을 얻습니다.

비슷한 귀류법 증명을 직접 해보세요

“가장 작은 양의 유리수는 존재하지 않는다”라는 명제를 생각해 보세요. 가장 작은 양의 유리수가 있다고 가정하고 그것을 $r$이라고 한 뒤, $\frac{r}{2}$를 생각해 보세요. 비슷한 증명을 단계별로 직접 점검해 보고 싶다면 GPAI Solver에서 자신의 풀이를 써 보고, 각 주장과 목표로 하는 모순이 잘 맞는지 비교해 보세요.