19장. 선형변환의 행렬과 기저변환

요약

기저 없이 정의한 선형변환, 기저에 대한 행렬과 좌표, 합성의 행렬, 기저변환 행렬과 닮음 B = M⁻¹AM, 입력과 출력에 다른 기저, 2부의 분해들을 좋은 기저로 다시 읽기

같은 변환도 어떤 좌표(기저)로 보느냐에 따라 행렬이 달라집니다. 이 장에서는 기저를 바꿀 때 벡터의 좌표와 변환의 행렬이 어떻게 바뀌는지(닮음 변환)를 다룹니다. '좋은 기저를 고르면 문제가 쉬워진다'는 선형대수의 핵심 전략이 여기서 정리됩니다.

19.1 같은 변환, 다른 행렬

질문. 직선 $y = x$ 위로의 사영을 생각합시다. 표준기저로 쓰면 행렬은 $\begin{bmatrix} \frac12 & \frac12 \\ \frac12 & \frac12 \end{bmatrix}$ 입니다. 그런데 기저를 $(1, 1)$ 과 $(1, -1)$ 로 바꾸면, 첫째 기저벡터는 그대로 가고 둘째는 $\mathbf{0}$ 으로 가므로 행렬이 $\begin{bmatrix} 1 & 0 \\ 0 & 0 \end{bmatrix}$ 이 될 것 같습니다. 변환은 하나인데 행렬이 둘입니다. 어느 것이 “진짜”일까요?

둘 다 진짜입니다. 4장에서 행렬은 선형변환을 숫자로 기록한 것이라고 했습니다. 기록하려면 좌표계, 즉 기저가 필요합니다. 기저가 바뀌면 같은 변환의 기록도 바뀝니다. 이 장은 2부의 마무리로, 지금까지 배운 분해들( $X\Lambda X^{-1}$ , $Q\Lambda Q^T$ , $U\Sigma V^T$ )이 모두 “좋은 기저를 고르는 일”이었음을 정리합니다.

19.2 선형변환, 다시

4장의 정의를 부분공간으로 넓힙시다. $V$ , $W$ 가 각각 $\mathbb{R}^n$ , $\mathbb{R}^m$ 의 부분공간일 때, $T : V \to W$ 가

T(c\mathbf{v} + d\mathbf{w}) = cT(\mathbf{v}) + dT(\mathbf{w})

를 만족하면 선형변환입니다. 정의는 행렬 없이 쓰여 있습니다. 이것이 핵심입니다. 선형변환은 행렬보다 먼저 존재하고, 행렬은 나중에 기저를 골라서 만듭니다.

예제 19.1.

$\mathbb{R}^3$ 에서 $z$ 축을 중심으로 $\theta$ 만큼 회전.
$\mathbb{R}^2$ 에서 직선 $y = x$ 위로의 사영.
$\mathbb{R}^3$ 에서 $\mathbf{a}$ 와의 외적 $\mathbf{x} \mapsto \mathbf{a} \times \mathbf{x}$ (문제 19.2).
(†) 3차 이하 다항식 전체에서의 미분 $p(x) \mapsto p'(x)$ . 다항식은 $\mathbb{R}^n$ 의 벡터가 아니지만, 계수 $(a_0, a_1, a_2, a_3)$ 를 기록하면 $\mathbb{R}^4$ 처럼 다룰 수 있습니다. 20장에서 이런 대상들을 “벡터공간”으로 정식화합니다.

19.3 기저에 대한 행렬

정의 19.2 (기저에 대한 행렬). $T : V \to W$ 가 선형이고, $V$ 의 기저 $\mathbf{v}_1, \ldots, \mathbf{v}_n$ 과 $W$ 의 기저 $\mathbf{w}_1, \ldots, \mathbf{w}_m$ 이 주어졌다고 합시다. 각 $T(\mathbf{v}_j)$ 를 $W$ 의 기저로

T(\mathbf{v}_j) = a_{1j}\mathbf{w}_1 + a_{2j}\mathbf{w}_2 + \cdots + a_{mj}\mathbf{w}_m

라 쓸 때, $m \times n$ 행렬 $A = [a_{ij}]$ 를 이 기저들에 대한 $T$ 의 행렬(matrix of $T$ )이라 합니다.

규칙은 4장과 같습니다: 제 $j$ 열 = $T(\mathbf{v}_j)$ 의 출력 기저에 대한 좌표. 4장은 입력과 출력 모두 표준기저인 특별한 경우였습니다.

정리 19.3 (행렬은 좌표를 좌표로 보냅니다). $\mathbf{x} \in V$ 의 입력 기저에 대한 좌표를 $\mathbf{c}$ 라 하면, $T(\mathbf{x})$ 의 출력 기저에 대한 좌표는 $A\mathbf{c}$ 입니다.

증명. $\mathbf{x} = \sum_j c_j\mathbf{v}_j$ 이면 $T(\mathbf{x}) = \sum_j c_jT(\mathbf{v}_j) = \sum_j c_j\sum_i a_{ij}\mathbf{w}_i = \sum_i\left(\sum_j a_{ij}c_j\right)\mathbf{w}_i$ . 괄호 안이 $(A\mathbf{c})_i$ 입니다. ■

예제 19.4. 19.1절의 사영 $P$ 를 입력·출력 모두 기저 $\mathbf{v}_1 = (1, 1)$ , $\mathbf{v}_2 = (1, -1)$ 로 씁시다. $P(\mathbf{v}_1) = \mathbf{v}_1 = 1\mathbf{v}_1 + 0\mathbf{v}_2$ , $P(\mathbf{v}_2) = \mathbf{0}$ . 행렬은 $\begin{bmatrix} 1 & 0 \\ 0 & 0 \end{bmatrix}$ 입니다. 질문의 예상이 맞았습니다.

예제 19.5 (†, 미분). 3차 이하 다항식에서 기저 $1, x, x^2, x^3$ 을 씁시다. $D(1) = 0$ , $D(x) = 1$ , $D(x^2) = 2x$ , $D(x^3) = 3x^2$ 이므로

D = \begin{bmatrix} 0 & 1 & 0 & 0 \\ 0 & 0 & 2 & 0 \\ 0 & 0 & 0 & 3 \\ 0 & 0 & 0 & 0 \end{bmatrix}.

예를 들어 $p(x) = 5 + 4x + 3x^2 + 2x^3$ 의 좌표 $(5, 4, 3, 2)$ 에 곱하면 $(4, 6, 6, 0)$ , 즉 $p'(x) = 4 + 6x + 6x^2$ 입니다. $D^4 = O$ (네 번 미분하면 3차 이하 다항식은 0)이고, 영공간은 상수함수 $\operatorname{span}\{1\}$ 입니다. 미분이라는 연산이 위삼각 행렬 하나로 기록되었습니다.

19.3.1 곱으로서의 합성

$T : U \to V$ , $S : V \to W$ 이고 $U, V, W$ 에 각각 기저를 고정하면, $S \circ T$ 의 행렬은 ( $S$ 의 행렬)×( $T$ 의 행렬)입니다. 증명은 정리 19.3을 두 번 쓰면 됩니다. 단, 가운데 공간 $V$ 에서 $T$ 의 출력 기저와 $S$ 의 입력 기저가 같아야 합니다. 5장의 크기 규칙(안쪽 숫자가 같아야 합니다)이 여기서는 “안쪽 기저가 같아야 합니다”가 됩니다.

▶ 문제 19.1–19.4

19.4 기저변환

질문. 표준기저에서의 행렬 $A$ 를 알 때, 다른 기저에서의 행렬은 어떻게 구할까요?

$\mathbb{R}^n$ 의 새 기저 $\mathbf{m}_1, \ldots, \mathbf{m}_n$ 을 열로 갖는 행렬을 $M$ 이라 합시다. 새 기저에 대한 좌표가 $\mathbf{c}$ 인 벡터는 $\mathbf{x} = c_1\mathbf{m}_1 + \cdots + c_n\mathbf{m}_n = M\mathbf{c}$ 입니다. 따라서

\mathbf{x} = M\mathbf{c}, \qquad \mathbf{c} = M^{-1}\mathbf{x}.

$M$ 은 “새 좌표를 표준 좌표로” 바꾸고, $M^{-1}$ 은 “표준 좌표를 새 좌표로” 바꿉니다. $M$ 을 기저변환 행렬(change of basis matrix)이라 합니다.

정리 19.6 (기저변환과 닮음). $T : \mathbb{R}^n \to \mathbb{R}^n$ 의 표준기저에 대한 행렬이 $A$ 이면, 새 기저 $\mathbf{m}_1, \ldots, \mathbf{m}_n$ (입력과 출력 모두)에 대한 행렬은

B = M^{-1}AM

입니다.

증명. 새 좌표 $\mathbf{c}$ 에서 출발해 세 단계로 갑니다: $M$ 으로 표준 좌표 $\mathbf{x} = M\mathbf{c}$ 로 바꾸고, $A$ 를 적용해 $A\mathbf{x}$ 를 얻고, $M^{-1}$ 로 새 좌표로 돌아옵니다. 전체는 $M^{-1}AM\mathbf{c}$ 입니다. ■

$네 모서리에 c (새 좌표), Bc (새 좌표), x (표준 좌표), Ax (표준 좌표)를 놓은 사각형. 위쪽 화살표 B는 c에서 Bc로, 왼쪽 화살표 M은 c에서 x로, 아래쪽 화살표 A는 x에서 Ax로, 오른쪽 화살표 M⁻¹은 Ax에서 Bc로 갑니다.$

그림 19.1. 위로 바로 가든( $B$ ) 아래로 돌아가든( $M^{-1}AM$ ) 결과가 같습니다.

16장에서 $B = M^{-1}AM$ 을 “닮음”이라 불렀습니다. 이제 그 뜻이 분명합니다. 닮은 행렬은 같은 선형변환을 서로 다른 기저로 기록한 것입니다. 그래서 고윳값, 대각합, 행렬식, 랭크처럼 변환 자체의 성질은 닮음에 의해 변하지 않습니다.

예제 19.7. 19.1절의 사영: $A = \frac12\begin{bmatrix} 1 & 1 \\ 1 & 1 \end{bmatrix}$ , $M = \begin{bmatrix} 1 & 1 \\ 1 & -1 \end{bmatrix}$ , $M^{-1} = \frac12\begin{bmatrix} 1 & 1 \\ 1 & -1 \end{bmatrix}$ .

M^{-1}AM = \frac12\begin{bmatrix} 1 & 1 \\ 1 & -1 \end{bmatrix} \cdot \frac12\begin{bmatrix} 1 & 1 \\ 1 & 1 \end{bmatrix}\begin{bmatrix} 1 & 1 \\ 1 & -1 \end{bmatrix} = \frac12\begin{bmatrix} 1 & 1 \\ 1 & -1 \end{bmatrix}\begin{bmatrix} 1 & 0 \\ 1 & 0 \end{bmatrix} = \begin{bmatrix} 1 & 0 \\ 0 & 0 \end{bmatrix}.

▶ 문제 19.5–19.7

19.5 입력과 출력에 다른 기저를

$T : \mathbb{R}^n \to \mathbb{R}^m$ 에서 입력 기저 $V$ ( $n \times n$ , 열이 기저)와 출력 기저 $U$ ( $m \times m$ )를 따로 고르면, 같은 논리로 새 행렬은

B = U^{-1}AV

입니다. 입력과 출력이 다른 공간이면 기저를 따로 고르는 것이 자연스럽습니다. 같은 공간이어도 따로 고르면 더 단순한 행렬을 얻을 수 있습니다.

19.6 좋은 기저 고르기

2부의 분해들을 이 관점으로 다시 읽어 봅시다.

분해	고른 기저	그 기저에서의 행렬
$A = X\Lambda X^{-1}$	고유벡터 (입출력 같음)	대각 $\Lambda$
$S = Q\Lambda Q^T$	정규직교 고유벡터	대각 $\Lambda$ , 기저변환이 직교
$A = U\Sigma V^T$	입력 $\mathbf{v}_i$ , 출력 $\mathbf{u}_i$ (둘 다 정규직교)	대각 $\Sigma$
$A = QR$	출력에 $\mathbf{q}_i$ (그람–슈미트)	위삼각 $R$
$A = LU$	출력에 $L$ 의 열	위삼각 $U$
$A = MJM^{-1}$ (27장)	일반화 고유벡터	조르당 형식 $J$

모든 분해는 같은 질문에 대한 답입니다. 이 변환을 가장 단순하게 보이게 하는 좌표계는 무엇일까요? 기준은 상황에 따라 다릅니다. 거듭제곱을 계산하려면 고유벡터가 좋고, 수치 안정성이 중요하면 정규직교 기저가 좋고, 직사각행렬이면 SVD가 좋습니다.

직관. 선형변환은 “사물”이고, 행렬은 그 사물을 어느 각도에서 찍은 “사진”입니다. 같은 의자도 정면에서 찍으면 단순해 보이고 비스듬히 찍으면 복잡해 보입니다. 좋은 기저를 고르는 것은 사물을 가장 잘 보여 주는 각도를 찾는 것입니다.

3부에서는 행렬을 거의 쓰지 않습니다. 선형변환을 직접 다루고, 행렬은 필요할 때만 기저를 골라 꺼냅니다. 이 장은 그 전환을 위한 다리입니다.

▶ 문제 19.8–19.10

쓰이는 곳. PCA는 데이터에 가장 잘 맞는 기저로 바꾸는 것이고, 푸리에 변환은 시간 기저에서 주파수 기저로 바꾸는 것입니다. 물리에서 좌표계를 바꿀 때 벡터와 텐서가 어떻게 변하는지도 이 장의 규칙을 따릅니다.

이 장의 요약

선형변환은 기저 없이 정의됩니다. 행렬은 입력·출력 기저를 고른 뒤의 기록입니다.
제 $j$ 열 = $T(\mathbf{v}_j)$ 의 출력 기저 좌표. 행렬은 입력 좌표를 출력 좌표로 보냅니다.
기저변환: 새 기저를 열로 한 $M$ 에 대해 $\mathbf{x} = M\mathbf{c}$ , 새 행렬은 $B = M^{-1}AM$ .
닮은 행렬은 같은 변환의 다른 기록입니다. 입출력 기저를 따로 고르면 $B = U^{-1}AV$ .
대각화, 스펙트럴 정리, SVD, QR, LU는 모두 좋은 기저를 고르는 방법입니다.

문제

19.1 [계산] · 확인 문제

$90^\circ$ 회전 $R$ 의 행렬을 입력·출력 모두 기저 $\mathbf{v}_1 = (1, 1)$ , $\mathbf{v}_2 = (1, -1)$ 에 대해 구합니다.

	1열	2열
1행	[?]	[?]
2행	[?]	[?]

정답

풀이

$R\mathbf{v}_1 = (-1, 1) = 0\mathbf{v}_1 - 1\mathbf{v}_2$ , $R\mathbf{v}_2 = (1, 1) = \mathbf{v}_1$ . 행렬 $\begin{bmatrix} 0 & 1 \\ -1 & 0 \end{bmatrix}$ . (표준기저에서의 $\begin{bmatrix} 0 & -1 \\ 1 & 0 \end{bmatrix}$ 과 닮았습니다.)

19.2 [계산] · 확인 문제

$\mathbf{a} = (0, 0, 1)$ 일 때 $T(\mathbf{x}) = \mathbf{a} \times \mathbf{x}$ (외적)의 표준행렬을 구합니다. ( $\mathbf{a} \times \mathbf{x} = (a_2x_3 - a_3x_2, a_3x_1 - a_1x_3, a_1x_2 - a_2x_1)$ .) 이 변환을 그림으로 설명합니다.

	1열	2열	3열
1행	[?]	[?]	[?]
2행	[?]	[?]	[?]
3행	[?]	[?]	[?]

정답

풀이

$\mathbf{a} \times \mathbf{x} = (-x_2, x_1, 0)$ . 행렬 $\begin{bmatrix} 0 & -1 & 0 \\ 1 & 0 & 0 \\ 0 & 0 & 0 \end{bmatrix}$ . $\mathbf{x}$ 를 $xy$ 평면에 사영한 뒤 $z$ 축 둘레로 $90^\circ$ 돌립니다.

19.3 [계산]

(†) 2차 이하 다항식 공간의 기저 $1, x, x^2$ 와 1차 이하 다항식 공간의 기저 $1, x$ 를 씁시다. (a) 미분 $D$ (2차 이하 → 1차 이하)의 행렬을 구합니다. (b) 적분 $J(p)(x) = \int_0^x p(t)\,dt$ (1차 이하 → 2차 이하)의 행렬을 구합니다. (c) $DJ$ 와 $JD$ 를 계산합니다. 어느 것이 단위행렬일까요? 그 이유를 말로 설명합니다.

풀이

(a) $D(1) = 0$ , $D(x) = 1$ , $D(x^2) = 2x$ : $D = \begin{bmatrix} 0 & 1 & 0 \\ 0 & 0 & 2 \end{bmatrix}$ .

(b) $J(1) = x$ , $J(x) = \frac{x^2}{2}$ : $J = \begin{bmatrix} 0 & 0 \\ 1 & 0 \\ 0 & \frac12 \end{bmatrix}$ .

(c) $DJ = I_2$ : 적분한 뒤 미분하면 원래대로. $JD = \begin{bmatrix} 0 & 0 & 0 \\ 0 & 1 & 0 \\ 0 & 0 & 1 \end{bmatrix} \ne I_3$ : 미분하면 상수항이 사라지고, 적분(0부터)은 그것을 되살리지 못합니다.

19.4 [증명]

$T : U \to V$ , $S : V \to W$ 의 행렬이 각각 $A$ , $B$ 이고 $V$ 에서 같은 기저를 썼다면, $S \circ T$ 의 행렬은 $BA$ 임을 정리 19.3으로 보입니다.

풀이

$\mathbf{x}$ 의 $U$ 좌표 $\mathbf{c}$ → $T(\mathbf{x})$ 의 $V$ 좌표 $A\mathbf{c}$ → $S(T(\mathbf{x}))$ 의 $W$ 좌표 $B(A\mathbf{c}) = (BA)\mathbf{c}$ . 따라서 행렬은 $BA$ .

19.5 [계산] · 확인 문제

$A = \begin{bmatrix} 3 & 1 \\ 0 & 2 \end{bmatrix}$ 의 고유벡터를 새 기저로 하여 $B = M^{-1}AM$ 을 계산합니다. 고유벡터는 큰 고윳값의 것을 먼저 씁니다.

	1열	2열
1행	[?]	[?]
2행	[?]	[?]

정답

풀이

$\lambda = 3$ : $(1, 0)$ . $\lambda = 2$ : $A - 2I = \begin{bmatrix} 1 & 1 \\ 0 & 0 \end{bmatrix}$ , $(1, -1)$ . $M = \begin{bmatrix} 1 & 1 \\ 0 & -1 \end{bmatrix}$ , $M^{-1} = M$ . $B = M^{-1}AM = \operatorname{diag}(3, 2)$ .

19.6 [계산] · 확인 문제

직선 $y = 2x$ 에 대한 반사 $F$ 를 생각합시다. (a) 기저 $(1, 2)$ , $(-2, 1)$ 에서의 행렬을 그림으로 바로 씁니다. (b) 기저변환으로 표준행렬을 구합니다. 표에는 (b)를 적습니다. 위 위젯에서 “y = 2x 반사”를 고르고 기저를 직선과 그에 수직인 방향으로 맞추면 (a)를 확인할 수 있습니다.

	1열	2열
1행	[?]	[?]
2행	[?]	[?]

정답

-3/5
4/5
4/5
3/5

풀이

(a) $(1, 2)$ 는 직선 위라 그대로, $(-2, 1)$ 은 수직이라 뒤집힙니다: $\operatorname{diag}(1, -1)$ .

(b) $M = \begin{bmatrix} 1 & -2 \\ 2 & 1 \end{bmatrix}$ , $M^{-1} = \frac15\begin{bmatrix} 1 & 2 \\ -2 & 1 \end{bmatrix}$ .

A = M\operatorname{diag}(1, -1)M^{-1} = \begin{bmatrix} 1 & 2 \\ 2 & -1 \end{bmatrix} \cdot \frac15\begin{bmatrix} 1 & 2 \\ -2 & 1 \end{bmatrix} = \frac15\begin{bmatrix} -3 & 4 \\ 4 & 3 \end{bmatrix}.

19.7 [증명]

(a) $\operatorname{tr}(AB) = \operatorname{tr}(BA)$ 임을 보입니다. (b) 닮은 행렬은 대각합과 랭크가 같음을 보입니다.

풀이

(a) $\operatorname{tr}(AB) = \sum_i\sum_k a_{ik}b_{ki} = \sum_k\sum_i b_{ki}a_{ik} = \operatorname{tr}(BA)$ .

(b) $\operatorname{tr}(M^{-1}AM) = \operatorname{tr}(AMM^{-1}) = \operatorname{tr}A$ . 랭크: $M$ 이 가역이므로 $N(M^{-1}AM) = M^{-1}N(A)$ 로 차원이 같고, 랭크–영공간 정리에 의해 랭크도 같습니다.

19.8 [계산] · 확인 문제

$A = \begin{bmatrix} 1 & 2 \\ 2 & 4 \end{bmatrix}$ 를 정규직교 기저로 대각화합니다. 이것이 SVD이기도 한 이유는? 표에는 대각행렬의 대각성분을 큰 것부터 적습니다.

첫째	둘째
[?]	[?]

정답

5
0

풀이

$\lambda = 5$ : $\frac{1}{\sqrt5}(1, 2)$ . $\lambda = 0$ : $\frac{1}{\sqrt5}(2, -1)$ . $Q = \frac{1}{\sqrt5}\begin{bmatrix} 1 & 2 \\ 2 & -1 \end{bmatrix}$ , $Q^TAQ = \operatorname{diag}(5, 0)$ . $A$ 가 대칭 양반정치이므로 스펙트럴 분해가 곧 SVD입니다(문제 18.3).

19.9 [도전]

랭크가 $r$ 인 $m \times n$ 행렬 $A$ 에 대해, 입력 기저와 출력 기저를 잘 고르면 행렬이 $\begin{bmatrix} I_r & O \\ O & O \end{bmatrix}$ 가 됨을 보입니다.

힌트. 입력 기저: $A\mathbf{x}_1, \ldots, A\mathbf{x}_r$ 이 $C(A)$ 의 기저가 되도록 $\mathbf{x}_1, \ldots, \mathbf{x}_r$ 을 고르고, 그 뒤에 $N(A)$ 의 기저를 붙입니다. 출력 기저: $A\mathbf{x}_1, \ldots, A\mathbf{x}_r$ 을 $\mathbb{R}^m$ 의 기저로 확장합니다.

풀이

힌트의 기저에서 $A\mathbf{x}_j = \mathbf{w}_j$ ( $j \le r$ , $\mathbf{w}_j$ 는 출력 기저의 $j$ 번째)이므로 제 $j$ 열은 $\mathbf{e}_j$ . $\mathbf{x}_{r+1}, \ldots$ 은 영공간 원소라 열이 $\mathbf{0}$ . 입력 $r + (n - r) = n$ 개가 독립임은: $\sum c_j\mathbf{x}_j + \mathbf{z} = \mathbf{0}$ ( $\mathbf{z} \in N(A)$ )에 $A$ 를 걸면 $\sum c_jA\mathbf{x}_j = \mathbf{0}$ 에서 $c_j = 0$ , 그 다음 $\mathbf{z} = \mathbf{0}$ .

19.10 [도전]

(a) 층밀림 $S = \begin{bmatrix} 1 & 1 \\ 0 & 1 \end{bmatrix}$ 을 대각행렬로 만드는 기저(입출력 같음)는 없음을 보입니다. (b) 입력과 출력에 다른 기저를 허용하면 $S$ 의 행렬을 $I$ 로 만들 수 있음을 보입니다. (c) (b)가 가능한데도 고윳값 이론이 의미가 있는 이유는 무엇일까요?

풀이

(a) 대각행렬과 닮았다면 고유벡터가 2개 있어야 하는데, $S$ 는 고유한 방향이 하나뿐입니다(16.5절).

(b) 입력 기저 $\mathbf{e}_1, \mathbf{e}_2$ , 출력 기저 $S\mathbf{e}_1, S\mathbf{e}_2$ 로 두면 $S\mathbf{e}_j = 1 \cdot (S\mathbf{e}_j)$ 이므로 행렬은 $I$ .

(c) 입출력 기저가 다르면 모든 가역행렬이 $I$ 가 되어 아무 정보도 남지 않습니다. 같은 공간에서 같은 기저로 볼 때(거듭제곱, 반복, 동역학처럼 출력이 다시 입력이 되는 상황) 변환의 진짜 구조가 드러나며, 그것이 고윳값과 조르당 형식입니다.