14장. 정규직교 기저와 그람–슈미트

요약

정규직교 벡터와 직교행렬, 길이와 각의 보존, 정규직교 기저에서의 좌표와 사영, 그람–슈미트 과정, A = QR 분해와 QR로 푸는 최소제곱

서로 수직이고 길이가 1인 기저(정규직교 기저)를 쓰면 좌표 계산이 내적 한 번으로 끝납니다. 이 장에서는 아무 기저나 정규직교 기저로 바꾸는 그람–슈미트 과정과, 그것을 행렬로 기록한 QR 분해를 다룹니다. 수치 계산에서 오차를 줄이는 표준 도구이고, 푸리에 해석의 사인·코사인 기저도 같은 성질을 씁니다.

14.1 좋은 기저

질문. 13장의 사영 공식 $\mathbf{p} = A(A^TA)^{-1}A^T\mathbf{b}$ 에는 역행렬이 들어 있어 계산이 번거롭습니다. 기저를 잘 고르면 $A^TA$ 가 $I$ 가 되어 역행렬이 사라지지 않을까요? 그런 기저는 언제나 만들 수 있을까요?

모눈종이를 생각합시다. 표준 모눈종이는 가로선과 세로선이 직각이고 간격이 1입니다. 3장의 기울어진 모눈종이도 좌표를 주지만, 좌표를 읽으려면 연립방정식을 풀어야 했습니다. 직각이고 간격이 1인 모눈종이에서는 좌표를 내적 한 번으로 읽을 수 있습니다. 이 장의 주제는 그런 모눈종이, 즉 정규직교 기저입니다.

14.2 정규직교 벡터와 직교행렬

정의 14.1 (정규직교). 벡터 $\mathbf{q}_1, \ldots, \mathbf{q}_k$ 가 서로 수직이고 모두 길이가 1이면, 즉

\mathbf{q}_i^T\mathbf{q}_j = \begin{cases} 1 & (i = j) \\ 0 & (i \ne j) \end{cases}

이면 정규직교(orthonormal)라 합니다. 이들을 열로 하는 행렬 $Q$ 에 대해 이 조건은 $Q^TQ = I$ 입니다(문제 5.11).

정리 14.2 (정규직교 벡터는 독립입니다). 정규직교 벡터들은 일차독립입니다.

증명. $c_1\mathbf{q}_1 + \cdots + c_k\mathbf{q}_k = \mathbf{0}$ 의 양변에 $\mathbf{q}_j^T$ 를 곱하면 $\mathbf{q}_j^T\mathbf{q}_i$ 중 $i = j$ 인 항만 남아 $c_j = 0$ 입니다. ■

정의 14.3 (직교행렬). 정사각행렬 $Q$ 가 $Q^TQ = I$ 를 만족하면 직교행렬(orthogonal matrix)이라 합니다. 이때 $Q^{-1} = Q^T$ 입니다.

이름은 “직교행렬”이지만 열들이 정규직교여야 합니다. 역사적인 이름이라 어쩔 수 없습니다. 정사각행렬에서 $Q^TQ = I$ 이면 정리 9.6에 의해 $QQ^T = I$ 도 성립하므로, 행들도 정규직교입니다.

예제 14.4.

회전 $R_\theta$ : 두 열 $(\cos\theta, \sin\theta)$ , $(-\sin\theta, \cos\theta)$ 는 길이 1이고 수직입니다.
치환행렬: 열이 표준기저벡터를 섞은 것입니다(문제 9.4).
반사 $H = I - 2\mathbf{u}\mathbf{u}^T$ ( $\lVert \mathbf{u} \rVert = 1$ ): $\mathbf{u}$ 에 수직인 평면에 대한 거울 반사. $H^TH = (I - 2\mathbf{u}\mathbf{u}^T)^2 = I - 4\mathbf{u}\mathbf{u}^T + 4\mathbf{u}(\mathbf{u}^T\mathbf{u})\mathbf{u}^T = I$ . 이것을 하우스홀더 반사(Householder reflection)라 하며 30장의 수치 계산에서 핵심 도구입니다.

정리 14.5 (직교행렬은 길이와 각을 보존합니다). $Q^TQ = I$ 이면 모든 $\mathbf{x}, \mathbf{y}$ 에 대해

(Q\mathbf{x})^T(Q\mathbf{y}) = \mathbf{x}^T\mathbf{y}, \qquad \lVert Q\mathbf{x} \rVert = \lVert \mathbf{x} \rVert.

증명. $(Q\mathbf{x})^T(Q\mathbf{y}) = \mathbf{x}^TQ^TQ\mathbf{y} = \mathbf{x}^T\mathbf{y}$ . $\mathbf{y} = \mathbf{x}$ 로 놓으면 둘째 식. ■

직교행렬은 공간을 찌그러뜨리지 않고 통째로 돌리거나 뒤집는 변환입니다. 길이도 각도도 그대로입니다. 6장의 말로는 $\det Q = \pm1$ 입니다(문제 14.3). 컴퓨터 계산에서 직교행렬을 좋아하는 이유도 이것입니다. 곱해도 숫자가 커지거나 작아지지 않으므로 오차가 불어나지 않습니다.

▶ 문제 14.1–14.4

14.3 정규직교 기저에서의 사영과 좌표

$A$ 대신 정규직교인 열을 가진 $Q$ 를 쓰면 $Q^TQ = I$ 이므로 13장의 공식이 단순해집니다.

\hat{\mathbf{x}} = Q^T\mathbf{b}, \qquad \mathbf{p} = QQ^T\mathbf{b} = \sum_{i=1}^k (\mathbf{q}_i^T\mathbf{b})\,\mathbf{q}_i, \qquad P = QQ^T.

연립방정식을 풀 필요가 없습니다. 각 방향으로의 성분은 그 방향과의 내적 한 번으로 구해집니다. 사영은 각 직선 위로의 사영을 따로따로 구해 더한 것입니다. 기저가 수직이라 서로 간섭하지 않기 때문입니다.

특히 $\mathbf{q}_1, \ldots, \mathbf{q}_n$ 이 $\mathbb{R}^n$ 의 정규직교 기저이면 $P = QQ^T = I$ 이므로

\mathbf{x} = (\mathbf{q}_1^T\mathbf{x})\mathbf{q}_1 + (\mathbf{q}_2^T\mathbf{x})\mathbf{q}_2 + \cdots + (\mathbf{q}_n^T\mathbf{x})\mathbf{q}_n.

모든 벡터는 각 기저 방향으로의 사영의 합입니다. 좌표가 내적입니다.

예제 14.6. $\mathbf{q}_1 = \frac{1}{\sqrt2}(1, 1)$ , $\mathbf{q}_2 = \frac{1}{\sqrt2}(1, -1)$ 이면 $\mathbf{x} = (5, 1)$ 의 좌표는 $\mathbf{q}_1^T\mathbf{x} = \frac{6}{\sqrt2}$ , $\mathbf{q}_2^T\mathbf{x} = \frac{4}{\sqrt2}$ 입니다. 3장에서 연립방정식으로 풀었던 문제(문제 3.2)가 내적 두 번으로 끝났습니다.

직관. 이 공식은 푸리에 급수의 원형입니다. 함수를 $\sin kx$ , $\cos kx$ 의 합으로 쓰는 푸리에 급수에서 각 계수는 함수와 $\sin kx$ 의 “내적”(적분)으로 구합니다. $\sin kx$ 들이 서로 “수직”이기 때문입니다. 25장에서 함수 공간의 내적을 정의하면 이것이 정확히 같은 이야기임을 보게 됩니다.

▶ 문제 14.5–14.6

14.4 그람–슈미트 과정

질문. 독립인 벡터 $\mathbf{a}, \mathbf{b}, \mathbf{c}$ 가 주어졌습니다. 같은 공간을 span하는 정규직교 벡터를 어떻게 만들까요?

$원점에서 나가는 a = A와 b를 그렸습니다. b에서 A 방향 직선에 수선을 내린 발까지가 p = (Aᵀb / AᵀA)A이고, b − p를 원점에서 다시 그린 벡터 B가 A와 수직입니다.$

그림 14.1. $\mathbf{b}$ 에서 $A$ 방향 성분 $\mathbf{p}$ 를 빼면 $A$ 에 수직인 $B$ 가 남습니다.

아이디어는 그림 14.1 하나로 요약됩니다. 각 벡터에서 이미 만든 방향들의 성분을 빼면 수직인 부분이 남습니다.

정의 14.7 (그람–슈미트 과정). 독립인 $\mathbf{a}_1, \ldots, \mathbf{a}_n$ 에 대해 차례로

\begin{aligned} \mathbf{A}_1 &= \mathbf{a}_1, \\ \mathbf{A}_2 &= \mathbf{a}_2 - \frac{\mathbf{A}_1^T\mathbf{a}_2}{\mathbf{A}_1^T\mathbf{A}_1}\mathbf{A}_1, \\ \mathbf{A}_3 &= \mathbf{a}_3 - \frac{\mathbf{A}_1^T\mathbf{a}_3}{\mathbf{A}_1^T\mathbf{A}_1}\mathbf{A}_1 - \frac{\mathbf{A}_2^T\mathbf{a}_3}{\mathbf{A}_2^T\mathbf{A}_2}\mathbf{A}_2, \\ &\ \ \vdots \end{aligned}

를 만들고, 마지막에 $\mathbf{q}_i = \mathbf{A}_i / \lVert \mathbf{A}_i \rVert$ 로 정규화합니다. 이 과정을 그람–슈미트 과정(Gram–Schmidt process)이라 합니다.

정리 14.8 (그람–슈미트의 결과). 위의 과정에서

$\mathbf{A}_1, \ldots, \mathbf{A}_n$ 은 서로 수직이고 모두 $\mathbf{0}$ 이 아닙니다.
각 $k$ 에 대해 $\operatorname{span}\{\mathbf{q}_1, \ldots, \mathbf{q}_k\} = \operatorname{span}\{\mathbf{a}_1, \ldots, \mathbf{a}_k\}$ .

증명. $k$ 에 대한 귀납법. $\mathbf{A}_1, \ldots, \mathbf{A}_{k-1}$ 이 서로 수직이고 $\operatorname{span}\{\mathbf{A}_1, \ldots, \mathbf{A}_{k-1}\} = \operatorname{span}\{\mathbf{a}_1, \ldots, \mathbf{a}_{k-1}\}$ 이라 합시다. $j < k$ 에 대해

\mathbf{A}_j^T\mathbf{A}_k = \mathbf{A}_j^T\mathbf{a}_k - \sum_{i < k}\frac{\mathbf{A}_i^T\mathbf{a}_k}{\mathbf{A}_i^T\mathbf{A}_i}\mathbf{A}_j^T\mathbf{A}_i = \mathbf{A}_j^T\mathbf{a}_k - \frac{\mathbf{A}_j^T\mathbf{a}_k}{\mathbf{A}_j^T\mathbf{A}_j}\mathbf{A}_j^T\mathbf{A}_j = 0.

(합에서 $i = j$ 인 항만 남습니다.) $\mathbf{A}_k$ 는 $\mathbf{a}_k$ 에서 $\operatorname{span}\{\mathbf{a}_1, \ldots, \mathbf{a}_{k-1}\}$ 의 원소를 뺀 것이므로, $\mathbf{A}_k = \mathbf{0}$ 이면 $\mathbf{a}_k$ 가 앞의 벡터들의 일차결합이 되어 독립성에 모순입니다. 또 $\mathbf{A}_k \in \operatorname{span}\{\mathbf{a}_1, \ldots, \mathbf{a}_k\}$ 이고 $\mathbf{a}_k \in \operatorname{span}\{\mathbf{A}_1, \ldots, \mathbf{A}_k\}$ 이므로 span이 같습니다. ■

예제 14.9. $\mathbf{a} = (1, -1, 0)$ , $\mathbf{b} = (2, 0, -2)$ , $\mathbf{c} = (3, -3, 3)$ .

$A = \mathbf{a} = (1, -1, 0)$ .
$A^T\mathbf{b} = 2$ , $A^TA = 2$ 이므로 $B = \mathbf{b} - A = (1, 1, -2)$ . 확인: $A^TB = 0$ .
$A^T\mathbf{c} = 6$ 이므로 $A$ 성분은 $3A$ . $B^T\mathbf{c} = 3 - 3 - 6 = -6$ , $B^TB = 6$ 이므로 $B$ 성분은 $-B$ .

C = \mathbf{c} - 3A + B = (3, -3, 3) - (3, -3, 0) + (1, 1, -2) = (1, 1, 1).

정규화하면

\mathbf{q}_1 = \tfrac{1}{\sqrt2}(1, -1, 0), \qquad \mathbf{q}_2 = \tfrac{1}{\sqrt6}(1, 1, -2), \qquad \mathbf{q}_3 = \tfrac{1}{\sqrt3}(1, 1, 1).

계산할 때의 요령: 정규화는 맨 마지막에 합니다. 중간에 $\sqrt{\ }$ 를 들고 다니면 계산이 지저분해집니다. $A_i$ 끼리만 수직이면 되므로, 중간에 $A_i$ 를 편한 상수배로 바꿔도 됩니다.

▶ 문제 14.7–14.9

14.5 A = QR

8장의 소거를 $A = LU$ 로 기록했듯이, 그람–슈미트를 행렬 분해로 기록할 수 있습니다. 정리 14.8(2)에 의해 $\mathbf{a}_k \in \operatorname{span}\{\mathbf{q}_1, \ldots, \mathbf{q}_k\}$ 이므로

\mathbf{a}_k = (\mathbf{q}_1^T\mathbf{a}_k)\mathbf{q}_1 + \cdots + (\mathbf{q}_k^T\mathbf{a}_k)\mathbf{q}_k.

$\mathbf{a}_k$ 에는 $\mathbf{q}_{k+1}$ 이후의 성분이 없습니다. 행렬로 쓰면

정리 14.10 (QR 분해). 열이 독립인 $m \times n$ 행렬 $A$ 는

A = QR, \qquad \begin{bmatrix} \mathbf{a}_1 & \cdots & \mathbf{a}_n \end{bmatrix} = \begin{bmatrix} \mathbf{q}_1 & \cdots & \mathbf{q}_n \end{bmatrix}\begin{bmatrix} \mathbf{q}_1^T\mathbf{a}_1 & \mathbf{q}_1^T\mathbf{a}_2 & \cdots & \mathbf{q}_1^T\mathbf{a}_n \\ 0 & \mathbf{q}_2^T\mathbf{a}_2 & \cdots & \mathbf{q}_2^T\mathbf{a}_n \\ \vdots & & \ddots & \vdots \\ 0 & 0 & \cdots & \mathbf{q}_n^T\mathbf{a}_n \end{bmatrix}

로 쓸 수 있습니다. $Q$ 는 정규직교인 열을 가진 $m \times n$ 행렬, $R = Q^TA$ 는 대각성분이 양수인 $n \times n$ 위삼각행렬입니다.

대각성분 $\mathbf{q}_k^T\mathbf{a}_k = \lVert \mathbf{A}_k \rVert > 0$ 입니다( $\mathbf{a}_k$ 의 $\mathbf{q}_k$ 성분은 정확히 $\mathbf{A}_k$ 의 길이).

예제 14.11. 예제 14.9의 처음 두 벡터로 $A = \begin{bmatrix} 1 & 2 \\ -1 & 0 \\ 0 & -2 \end{bmatrix}$ 를 분해합시다. $\mathbf{q}_1^T\mathbf{a}_1 = \sqrt2$ , $\mathbf{q}_1^T\mathbf{a}_2 = \frac{2}{\sqrt2} = \sqrt2$ , $\mathbf{q}_2^T\mathbf{a}_2 = \frac{2 + 0 + 4}{\sqrt6} = \sqrt6$ 이므로

\begin{bmatrix} 1 & 2 \\ -1 & 0 \\ 0 & -2 \end{bmatrix} = \begin{bmatrix} \frac{1}{\sqrt2} & \frac{1}{\sqrt6} \\ -\frac{1}{\sqrt2} & \frac{1}{\sqrt6} \\ 0 & -\frac{2}{\sqrt6} \end{bmatrix}\begin{bmatrix} \sqrt2 & \sqrt2 \\ 0 & \sqrt6 \end{bmatrix}.

14.5.1 QR로 최소제곱 풀기

정규방정식 $A^TA\hat{\mathbf{x}} = A^T\mathbf{b}$ 에 $A = QR$ 을 넣으면 $Q^TQ = I$ 이므로

R^TR\hat{\mathbf{x}} = R^TQ^T\mathbf{b} \implies R\hat{\mathbf{x}} = Q^T\mathbf{b}.

( $R^T$ 는 가역이므로 지웠습니다.) $R$ 이 위삼각이라 후진대입으로 끝납니다. $A^TA$ 를 만들지 않으므로 수치 오차에도 강합니다. 실제 프로그램이 최소제곱을 푸는 방법이 이것입니다. 30장에서 $QR$ 은 고윳값을 계산하는 QR 알고리즘의 바탕이 됩니다.

▶ 문제 14.10–14.12

쓰이는 곳. QR 분해는 최소제곱 문제를 안정적으로 풀고 고윳값을 구하는(QR 알고리즘) 표준 도구입니다. 신경망 가중치를 직교행렬로 초기화하는 방법도 이 장의 내용을 씁니다.

이 장의 요약

정규직교: $\mathbf{q}_i^T\mathbf{q}_j = \delta_{ij}$ , 즉 $Q^TQ = I$ . 정규직교 벡터는 독립입니다.
정사각인 $Q$ 가 $Q^TQ = I$ 이면 직교행렬, $Q^{-1} = Q^T$ . 길이와 각을 보존합니다(회전, 반사, 치환).
정규직교 기저에서 좌표는 내적: $\mathbf{x} = \sum (\mathbf{q}_i^T\mathbf{x})\mathbf{q}_i$ . 사영 $P = QQ^T$ .
그람–슈미트: 각 벡터에서 앞의 방향 성분을 빼고, 마지막에 정규화.
$A = QR$ , $R = Q^TA$ 는 위삼각. 최소제곱은 $R\hat{\mathbf{x}} = Q^T\mathbf{b}$ .

문제

14.1 [계산] · 확인 문제

다음 행렬의 열이 정규직교인지, 직교만 하는지(길이가 1이 아닌지), 둘 다 아닌지 판정합니다. 표에는 “정규직교”, “직교”, “둘 다 아님” 중 하나를 적습니다.

\text{(a)}\ \frac13\begin{bmatrix} 2 & 2 & -1 \\ 2 & -1 & 2 \\ -1 & 2 & 2 \end{bmatrix} \qquad \text{(b)}\ \begin{bmatrix} 1 & 1 \\ 1 & -1 \end{bmatrix} \qquad \text{(c)}\ \begin{bmatrix} 0.6 & 0.8 \\ 0.8 & -0.6 \end{bmatrix}

(a)	(b)	(c)
[?]	[?]	[?]

정답

정규직교
직교
정규직교

풀이

(a) 각 열의 길이 $\frac13\sqrt{4 + 4 + 1} = 1$ , 열끼리 내적 $\frac19(4 - 2 - 2) = 0$ 등. 정규직교(직교행렬).

(b) 수직이지만 길이가 $\sqrt2$ . 직교만 합니다. $\frac{1}{\sqrt2}$ 을 곱하면 직교행렬.

14.2 [계산]

문제 14.1(a)의 행렬 $Q$ 의 역행렬을 구합니다. (c)는 어떤 변환일까요?

풀이

$Q^{-1} = Q^T$ . (a)는 대칭이므로 $Q^{-1} = Q$ 자신. (c)는 $\det = -1$ 인 직교행렬로 반사입니다(직선 $y = \frac12x$ 에 대한 반사; $(2, 1)$ 이 고유벡터, 고윳값 1).

14.3 [증명]

직교행렬 $Q$ 에 대해 $\det Q = \pm1$ 임을 보입니다. ( $\det A^T = \det A$ 와 $\det(AB) = \det A\det B$ 를 써도 됩니다. $n \times n$ 에 대한 증명은 15장에 있습니다.)

풀이

$1 = \det I = \det(Q^TQ) = \det Q^T\det Q = (\det Q)^2$ .

14.4 [증명]

(a) 두 직교행렬의 곱은 직교행렬임을 보입니다. (b) $\lVert \mathbf{u} \rVert = 1$ 이고 $H = I - 2\mathbf{u}\mathbf{u}^T$ 이면 $H\mathbf{u} = -\mathbf{u}$ 이고, $\mathbf{v} \perp \mathbf{u}$ 이면 $H\mathbf{v} = \mathbf{v}$ 임을 보입니다. 그림으로 설명합니다.

풀이

(a) $(Q_1Q_2)^T(Q_1Q_2) = Q_2^TQ_1^TQ_1Q_2 = Q_2^TQ_2 = I$ .

(b) $H\mathbf{u} = \mathbf{u} - 2\mathbf{u}(\mathbf{u}^T\mathbf{u}) = -\mathbf{u}$ . $H\mathbf{v} = \mathbf{v} - 2\mathbf{u}(\mathbf{u}^T\mathbf{v}) = \mathbf{v}$ . 그림: $\mathbf{u}$ 에 수직인 평면(거울)은 그대로, $\mathbf{u}$ 방향은 뒤집힙니다.

14.5 [계산] · 확인 문제

문제 14.1(a)의 세 열을 $\mathbf{q}_1, \mathbf{q}_2, \mathbf{q}_3$ 이라 합시다. $\mathbf{x} = (3, 0, 3)$ 의 좌표를 내적으로 구하고, $\mathbf{x} = \sum c_i\mathbf{q}_i$ 를 확인합니다.

$c_1$	$c_2$	$c_3$
[?]	[?]	[?]

정답

1
4
1

풀이

$\mathbf{q}_1^T\mathbf{x} = \frac13(6 + 0 - 3) = 1$ , $\mathbf{q}_2^T\mathbf{x} = \frac13(6 + 0 + 6) = 4$ , $\mathbf{q}_3^T\mathbf{x} = \frac13(-3 + 0 + 6) = 1$ . $\mathbf{q}_1 + 4\mathbf{q}_2 + \mathbf{q}_3 = \frac13(9, 0, 9) = (3, 0, 3)$ .

14.6 [계산] · 확인 문제

$\mathbf{q}_1 = \frac{1}{\sqrt2}(1, -1, 0)$ , $\mathbf{q}_2 = \frac{1}{\sqrt6}(1, 1, -2)$ 가 span하는 평면 위로 $\mathbf{b} = (1, 2, 3)$ 을 사영합니다. 오차 $\mathbf{e}$ 는 어느 방향일까요?

	첫째	둘째	셋째
$\mathbf{p}$	[?]	[?]	[?]
$\mathbf{e}$	[?]	[?]	[?]

정답

풀이

$\mathbf{q}_1^T\mathbf{b} = -\frac{1}{\sqrt2}$ , 성분 $(-\frac12, \frac12, 0)$ . $\mathbf{q}_2^T\mathbf{b} = \frac{-3}{\sqrt6}$ , 성분 $(-\frac12, -\frac12, 1)$ . $\mathbf{p} = (-1, 0, 1)$ , $\mathbf{e} = (2, 2, 2)$ , $(1, 1, 1)$ 방향(평면의 법선).

14.7 [계산]

$(1, 1, 0)$ , $(1, 0, 1)$ 에 그람–슈미트를 적용해 정규직교 벡터를 만듭니다.

풀이

$A = (1, 1, 0)$ . $B = (1, 0, 1) - \frac12(1, 1, 0) = (\frac12, -\frac12, 1)$ , 2배 하여 $(1, -1, 2)$ . $\mathbf{q}_1 = \frac{1}{\sqrt2}(1, 1, 0)$ , $\mathbf{q}_2 = \frac{1}{\sqrt6}(1, -1, 2)$ .

14.8 [계산]

$\mathbb{R}^4$ 의 $(1, 1, 1, 1)$ , $(0, 1, 1, 1)$ , $(0, 0, 1, 1)$ 에 그람–슈미트를 적용합니다(정규화 전의 $A, B, C$ 까지만 구해도 됩니다). 서로 수직인지 확인합니다.

풀이

$A = (1, 1, 1, 1)$ . $B = (0, 1, 1, 1) - \frac34A = \frac14(-3, 1, 1, 1)$ , $(-3, 1, 1, 1)$ 로 바꿉니다. $C = (0, 0, 1, 1) - \frac24A - \frac{2}{12}(-3, 1, 1, 1) = (0, -\frac23, \frac13, \frac13)$ , $(0, -2, 1, 1)$ 로 바꿉니다. $A^TB = 0$ , $A^TC = 0$ , $B^TC = -2 + 1 + 1 = 0$ .

14.9 [증명]

$\mathbf{a}_3 \in \operatorname{span}\{\mathbf{a}_1, \mathbf{a}_2\}$ ( $\mathbf{a}_1, \mathbf{a}_2$ 는 독립)이면 그람–슈미트에서 $\mathbf{A}_3 = \mathbf{0}$ 이 됨을 보입니다.

풀이

$\operatorname{span}\{\mathbf{A}_1, \mathbf{A}_2\} = \operatorname{span}\{\mathbf{a}_1, \mathbf{a}_2\} \ni \mathbf{a}_3$ . $\mathbf{A}_3$ 는 $\mathbf{a}_3$ 에서 이 평면 위로의 사영(14.3절, 수직인 기저에 대한 성분의 합)을 뺀 것이고, $\mathbf{a}_3$ 이 평면 위에 있으면 사영이 자기 자신이므로 $\mathbf{A}_3 = \mathbf{0}$ .

14.10 [계산] · 확인 문제

$A = \begin{bmatrix} 1 & 1 \\ 1 & 0 \\ 0 & 1 \end{bmatrix}$ 의 $QR$ 분해를 구합니다. (문제 14.7을 씁니다.) 표에는 $R$ 의 성분을 소수 셋째 자리까지 적습니다.

	1열	2열
1행	[?]	[?]
2행	0	[?]

정답

1.414
0.707
1.225

풀이

$R = \begin{bmatrix} \mathbf{q}_1^T\mathbf{a}_1 & \mathbf{q}_1^T\mathbf{a}_2 \\ 0 & \mathbf{q}_2^T\mathbf{a}_2 \end{bmatrix} = \begin{bmatrix} \sqrt2 & \frac{1}{\sqrt2} \\ 0 & \frac{3}{\sqrt6} \end{bmatrix}$ , $Q = \begin{bmatrix} \mathbf{q}_1 & \mathbf{q}_2 \end{bmatrix}$ (문제 14.7).

14.11 [계산] · 확인 문제

문제 14.10의 $QR$ 을 써서 $A\mathbf{x} = (2, 3, 4)$ 의 최소제곱 해를 $R\hat{\mathbf{x}} = Q^T\mathbf{b}$ 로 구합니다. 문제 13.9의 답과 비교합니다.

$\hat{x}_1$	$\hat{x}_2$
[?]	[?]

정답

4/3
7/3

풀이

$Q^T\mathbf{b} = \left(\frac{5}{\sqrt2}, \frac{2 - 3 + 8}{\sqrt6}\right) = \left(\frac{5}{\sqrt2}, \frac{7}{\sqrt6}\right)$ . 둘째 식 $\frac{3}{\sqrt6}\hat{x}_2 = \frac{7}{\sqrt6}$ 에서 $\hat{x}_2 = \frac73$ . 첫째 식 $\sqrt2\hat{x}_1 + \frac{1}{\sqrt2}\hat{x}_2 = \frac{5}{\sqrt2}$ 에서 $2\hat{x}_1 + \frac73 = 5$ , $\hat{x}_1 = \frac43$ . 13.9와 같습니다.

14.12 [도전]

(a) 직교행렬의 실수 고윳값은 $\pm1$ 뿐임을 보입니다. (b) $2 \times 2$ 직교행렬은 회전 $\begin{bmatrix} \cos\theta & -\sin\theta \\ \sin\theta & \cos\theta \end{bmatrix}$ 또는 반사 $\begin{bmatrix} \cos\theta & \sin\theta \\ \sin\theta & -\cos\theta \end{bmatrix}$ 꼴뿐임을 보입니다.

풀이

(a) $Q\mathbf{v} = \lambda\mathbf{v}$ 이면 $\lVert \mathbf{v} \rVert = \lVert Q\mathbf{v} \rVert = \lvert \lambda \rvert\lVert \mathbf{v} \rVert$ , $\mathbf{v} \ne \mathbf{0}$ 이므로 $\lvert \lambda \rvert = 1$ .

(b) 첫째 열은 단위벡터이므로 $(\cos\theta, \sin\theta)$ . 둘째 열은 그것에 수직인 단위벡터이고, 평면에서 그런 벡터는 $\pm(-\sin\theta, \cos\theta)$ 둘뿐입니다. $+$ 이면 회전( $\det = 1$ ), $-$ 이면 반사( $\det = -1$ ).