고등학교 수학은 주로 '답을 구하는' 수학이었다면, 대학 수학과 논문은 '왜 그런지 보이는' 수학입니다. 증명은 이미 받아들인 사실에서 출발해 한 줄씩 이유를 대며 결론에 이르는 글입니다. 이 장에서는 증명을 읽고 쓰는 기본 틀(직접 증명, 귀류법, 귀납법, 반례)을 짧은 예로 익힙니다. 이산수학 3강에서 같은 방법을 정수 문제로 더 연습할 수 있습니다.
1.1 증명의 필요성
질문.2+4=6, 10+8=18, 100+36=136. 짝수 두 개를 더하면 항상 짝수가 나오는 것 같습니다. 몇 개를 더 확인하면 “항상”이라고 말할 수 있을까요?
답은 “몇 개를 확인해도 안 됩니다”입니다. 예를 하나 봅시다. n2+n+41에 n=0,1,2,…,39를 넣으면 40개 모두 소수가 나옵니다. 그런데 n=40이면 402+40+41=412이 되어 소수가 아닙니다. 40번 연속으로 맞아도 41번째에 틀릴 수 있습니다.
짝수는 무한히 많으므로 하나씩 확인하는 방법으로는 끝낼 수 없습니다. 모든 경우를 한 번에 다루는 논증이 필요하고, 그것이 증명(proof)입니다.
선형대수의 후반부는 거의 증명으로 이루어져 있습니다. 이 장에서는 그 증명들이 사용하는 기본 기술 다섯 가지를 익힙니다.
1.2 직접 증명
1.2.1 정의 펼치기
증명의 첫 단계는 거의 언제나 같습니다. 명제에 나오는 단어를 정의로 바꿔 쓰는 것입니다.
정의 1.1 (짝수와 홀수). 정수 n에 대해 n=2k인 정수 k가 존재하면 n을 짝수(even), n=2k+1인 정수 k가 존재하면 홀수(odd)라 합니다.
모든 정수는 짝수이거나 홀수이고, 둘 다일 수는 없습니다. 이 사실은 받아들이고 씁니다.
정리 1.2. 두 짝수의 합은 짝수입니다.
아이디어. “짝수”를 정의로 바꾸면 “2 × (정수)”가 됩니다. 두 수를 더한 다음 2로 묶을 수 있는지 봅니다.
증명.m, n이 짝수라 합시다. 정의에 의해 m=2a, n=2b인 정수 a, b가 있습니다. 그러면
m+n=2a+2b=2(a+b)
이고 a+b는 정수이므로, m+n은 짝수입니다. ■
이 증명의 구조를 일반화한 것이 직접 증명(direct proof)입니다. P⇒Q를 직접 증명하려면 P를 가정하고, 정의와 이미 아는 사실을 이용해 한 단계씩 Q에 도착합니다.
증명에서 m=2a, n=2b처럼 서로 다른 문자를 쓴 것에 주의합시다. m=2k, n=2k로 쓰면 m=n이라고 가정한 셈이 되어, 같은 짝수 두 개를 더하는 경우만 증명한 것이 됩니다. 처음 증명을 쓸 때 가장 흔한 실수입니다.
1.2.2 나누어떨어짐
정의 1.3 (약수). 정수 a=0, b에 대해 b=ak인 정수 k가 존재하면 “a가 b를 나눕니다”고 하고 a∣b로 씁니다.
예를 들어 3∣12이고 5∤12입니다. 짝수의 정의는 “2∣n”으로 바꿔 쓸 수 있습니다.
예제 1.4. “a∣b이고 a∣c이면 a∣(b+c)”를 증명합시다. b=ak, c=al인 정수 k, l이 있으므로 b+c=a(k+l)이고, k+l은 정수입니다. □
▶ 문제 1.1–1.3
1.3 대우를 이용한 증명
질문. “n2이 짝수이면 n도 짝수입니다.” 직접 증명하려고 n2=2k에서 출발하면, n=2k가 되어 더 나아가기 어렵습니다. 다른 길이 없을까요?
0장 정리 0.11에 의해 P⇒Q를 증명하는 대신 대우 ¬Q⇒¬P를 증명해도 됩니다. 위 명제의 대우는 “n이 짝수가 아니면 n2도 짝수가 아닙니다”, 즉 “n이 홀수이면 n2도 홀수입니다”입니다. 이번에는 출발점이 n=2k+1로 깔끔합니다.
정리 1.5. 정수 n에 대하여 n2이 짝수이면 n은 짝수입니다.
증명. 대우를 증명합니다. n이 홀수라 하면 n=2k+1인 정수 k가 있습니다.
n2=(2k+1)2=4k2+4k+1=2(2k2+2k)+1
이고 2k2+2k는 정수이므로 n2은 홀수입니다. ■
직관. 가정이 “정보가 적은” 형태(n2이 짝수)이고 결론이 “다루기 쉬운” 형태(n이 짝수)라면, 뒤집어서 다루기 쉬운 쪽에서 출발하는 것이 대우 증명입니다.
귀류법(proof by contradiction)은 증명하려는 명제가 거짓이라고 가정하고, 그 가정에서 모순(참이면서 거짓인 것, 예를 들어 “a는 짝수이고 동시에 홀수입니다”)을 이끌어 내는 방법입니다. 모순이 나왔다면 가정이 틀린 것이므로, 원래 명제가 참입니다.
정리 1.6.2는 무리수입니다.
증명.2가 유리수라고 가정합시다. 그러면 2=qp인 정수 p, q (q=0)가 있고, 약분을 끝까지 해서 p와 q가 둘 다 짝수인 경우는 없다고 할 수 있습니다.
양변을 제곱하면 2=q2p2, 즉 p2=2q2입니다. 따라서 p2은 짝수이고, 정리 1.5에 의해 p도 짝수입니다. p=2r로 쓰면 4r2=2q2, 즉 q2=2r2이므로 같은 이유로 q도 짝수입니다.
p와 q가 둘 다 짝수가 되었으므로, 약분을 끝냈다는 가정과 모순입니다. 따라서 2는 유리수가 아닙니다. ■
이 증명이 정리 1.5를 사용했다는 점을 봅시다. 수학은 증명된 정리를 쌓아서 다음 정리를 증명합니다. 선형대수에서도 앞 장의 정리를 계속 가져다 쓰므로, 정리를 외우기보다 무엇을 가정하고 무엇을 결론 내리는지를 정확히 기억해 두는 것이 중요합니다.
정리 1.7 (유클리드). 소수는 무한히 많습니다.
증명. 소수가 유한하다고 가정하고, 그 전부를 p1,p2,…,pn이라 합시다. N=p1p2⋯pn+1을 생각합니다. N>1이므로 N은 어떤 소수로 나누어떨어지고, 그 소수는 목록 안의 어떤 pi입니다. 그런데 pi∣p1⋯pn이고 pi∣N이므로 pi∣(N−p1⋯pn)=1입니다. 1을 나누는 소수는 없으므로 모순입니다. ■
▶ 문제 1.6–1.7
1.5 수학적 귀납법
질문.1+2+⋯+n=2n(n+1)이 모든 자연수 n에 대해 성립함을 어떻게 보일까요?
도미노를 떠올립시다. 첫 번째 것이 넘어지고, 어떤 것이 넘어지면 다음 것도 넘어진다면, 모두 넘어집니다.
정리 1.8 (수학적 귀납법). 자연수 n에 대한 명제 P(n)이 다음 두 조건을 만족하면, 모든 자연수 n에 대해 P(n)은 참입니다.
(기초 단계) P(1)이 참입니다.
(귀납 단계) 모든 k∈N에 대해 P(k)⇒P(k+1)이 참입니다.
이것은 자연수의 성질로 받아들입니다. 귀납 단계에서 하는 일은 “P(k)가 참이라고 가정하고 P(k+1)을 보이는 것”입니다. 이 가정을 귀납 가정(induction hypothesis)이라 합니다. P(k)가 참이라는 것 자체를 보이는 게 아니라, “P(k)이면 P(k+1)”이라는 연결을 보이는 것입니다.
정리 1.9. 모든 n∈N에 대하여 k=1∑nk=2n(n+1)입니다.
증명.P(n)을 위 등식이라 합시다.
기초 단계.n=1이면 좌변은 1, 우변은 21⋅2=1입니다.
귀납 단계.P(k)가 참이라고 가정합시다. 즉 ∑i=1ki=2k(k+1)입니다. 그러면
(⇒) A∩B⊆A는 항상 성립합니다(문제 0.4). x∈A이면 가정 A⊆B에서 x∈B이므로 x∈A∩B입니다. 따라서 A⊆A∩B입니다.
(⇐) x∈A이면 x∈A∩B이므로 x∈B입니다.
1.14 [도전]
다음 “증명”에는 오류가 있습니다. 어느 줄이 왜 틀렸는지 정확히 지적합니다.
주장. 모든 n∈N에 대하여, 말 n마리를 모으면 모두 같은 색입니다.
증명.n에 대한 귀납법을 씁니다. n=1이면 말이 한 마리이므로 모두 같은 색입니다. 말 k마리는 항상 같은 색이라고 가정하고, 말 k+1마리 h1,…,hk+1을 생각합시다. h1,…,hk는 k마리이므로 귀납 가정에 의해 모두 같은 색입니다. h2,…,hk+1도 k마리이므로 모두 같은 색입니다. 두 무리는 h2,…,hk를 공유하므로, k+1마리 모두 같은 색입니다.
풀이
마지막 문장 “두 무리는 h2,…,hk를 공유합니다”가 k=1일 때 틀렸습니다. k=1이면 두 무리는 {h1}과 {h2}이고 공유하는 말이 없습니다. 따라서 P(1)⇒P(2)가 증명되지 않았습니다. 귀납 단계는 모든 k≥1에 대해 성립해야 하므로, 사슬의 첫 고리가 끊어지면 전체 논증이 무너집니다. 다른 k≥2에서는 논증이 맞다는 점도 눈여겨봅시다.