Linearism › 선형대수 › LA.17

17장. 대칭행렬과 양정치 행렬

선형대수 · 2부. 계산 선형대수

심화 · 약 30분 · 연습문제 11 · 그림 2

요약

대칭행렬의 실수 고윳값과 수직인 고유벡터, 스펙트럴 정리와 스펙트럴 분해, 양정치 행렬의 다섯 가지 판정법, 숄레스키 분해, 이차형식과 주축 정리

대칭행렬(전치해도 같은 행렬)은 고윳값이 모두 실수이고, 고유벡터를 서로 수직으로 고를 수 있다는 아름다운 성질이 있습니다. 이 장에서는 이 성질(스펙트럼 정리)과, 모든 고윳값이 양수인 양정치 행렬을 다룹니다. 공분산 행렬, 최적화의 이계도함수(헤세 행렬), 물리의 관성 텐서가 모두 대칭행렬입니다.

17.1 가장 중요한 행렬

질문. ATAA^TA (최소제곱), 자료의 공분산 행렬, 용수철 계의 강성행렬, 다변수 함수의 이계도함수 행렬은 모두 대칭입니다. 대칭행렬은 고윳값과 고유벡터에서 어떤 특별한 성질을 가질까요?

16장에서 일반적인 행렬은 고윳값이 복소수일 수 있고, 고유벡터가 모자라 대각화가 안 될 수도 있었습니다. 대칭행렬에서는 이런 문제가 모두 사라집니다. 고윳값은 실수이고, 고유벡터는 언제나 충분하며, 게다가 서로 수직으로 고를 수 있습니다. 예제 16.3에서 이미 그것을 보았습니다. 이 장의 중심은 이 사실, 스펙트럴 정리입니다.

이 장에서 SS는 언제나 실수 대칭행렬(ST=SS^T = S)입니다.

17.2 실수 고윳값

정리 17.1 (대칭행렬의 고윳값은 실수입니다). 실수 대칭행렬의 고윳값은 모두 실수입니다.

증명. Sx=λxS\mathbf{x} = \lambda\mathbf{x} (λ∈C\lambda \in \mathbb{C}, x∈Cn\mathbf{x} \in \mathbb{C}^n, x≠0\mathbf{x} \ne \mathbf{0})라 합시다. 켤레를 취하면 SS가 실수이므로 Sxˉ=λˉxˉS\bar{\mathbf{x}} = \bar\lambda\bar{\mathbf{x}}. 수 xˉTSx\bar{\mathbf{x}}^TS\mathbf{x}를 두 가지로 계산합니다.

xˉT(Sx)=λ xˉTx,xˉTSx=(STxˉ)Tx=(Sxˉ)Tx=λˉ xˉTx.\bar{\mathbf{x}}^T(S\mathbf{x}) = \lambda\,\bar{\mathbf{x}}^T\mathbf{x}, \qquad \bar{\mathbf{x}}^TS\mathbf{x} = (S^T\bar{\mathbf{x}})^T\mathbf{x} = (S\bar{\mathbf{x}})^T\mathbf{x} = \bar\lambda\,\bar{\mathbf{x}}^T\mathbf{x}.

둘째 계산에서 ST=SS^T = S를 썼습니다. xˉTx=∑∣xi∣2>0\bar{\mathbf{x}}^T\mathbf{x} = \sum \lvert x_i \rvert^2 > 0이므로 λ=λˉ\lambda = \bar\lambda, 즉 λ\lambda는 실수입니다. ■

고윳값이 실수이면 S−λIS - \lambda I도 실수 행렬이므로 고유벡터도 실수로 고를 수 있습니다.

17.3 수직인 고유벡터

정리 17.2 (대칭행렬의 고유벡터는 수직입니다). 대칭행렬의 서로 다른 고윳값에 대응하는 고유벡터는 서로 수직입니다.

증명. Sx=λ1xS\mathbf{x} = \lambda_1\mathbf{x}, Sy=λ2yS\mathbf{y} = \lambda_2\mathbf{y}, λ1≠λ2\lambda_1 \ne \lambda_2라 합시다. 정리 5.13(3)과 ST=SS^T = S에 의해

λ1xTy=(Sx)Ty=xTSTy=xT(Sy)=λ2xTy.\lambda_1\mathbf{x}^T\mathbf{y} = (S\mathbf{x})^T\mathbf{y} = \mathbf{x}^TS^T\mathbf{y} = \mathbf{x}^T(S\mathbf{y}) = \lambda_2\mathbf{x}^T\mathbf{y}.

(λ1−λ2)xTy=0(\lambda_1 - \lambda_2)\mathbf{x}^T\mathbf{y} = 0이고 λ1≠λ2\lambda_1 \ne \lambda_2이므로 xTy=0\mathbf{x}^T\mathbf{y} = 0. ■

두 증명 모두 “SS를 내적의 왼쪽에서 오른쪽으로 옮길 수 있습니다”는 한 가지 성질만 썼습니다. 25–26장에서 이 성질을 가진 연산자를 자기수반이라 부르고, 같은 증명을 그대로 씁니다.

17.4 스펙트럴 정리

정리 17.3 (스펙트럴 정리). 모든 실수 대칭행렬 SS는

S=QΛQTS = Q\Lambda Q^T

로 쓸 수 있습니다. QQ는 직교행렬(열이 정규직교인 고유벡터), Λ\Lambda는 실수 고윳값의 대각행렬입니다.

고윳값이 모두 다르면 정리 17.2로 고유벡터가 수직이고, 정규화하면 끝입니다. 고윳값이 겹칠 때도 성립한다는 것이 이 정리의 핵심입니다. 중근의 고유공간 안에서는 그람–슈미트로 수직인 고유벡터를 고를 수 있는데, 문제는 고유벡터가 충분히 있는가입니다. 다음 증명은 그것을 보장합니다.

증명. nn에 대한 귀납법. n=1n = 1이면 SS는 수 하나이고 Q=[1]Q = [1]로 두면 되므로 성립합니다. 정리 17.1에 의해 SS는 실수 고윳값 λ1\lambda_1과 단위 고유벡터 q1∈Rn\mathbf{q}_1 \in \mathbb{R}^n을 갖습니다. q1\mathbf{q}_1을 정규직교 기저 q1,w2,…,wn\mathbf{q}_1, \mathbf{w}_2, \ldots, \mathbf{w}_n으로 확장하고(문제 12.10과 그람–슈미트), Q1=[q1W]Q_1 = \begin{bmatrix} \mathbf{q}_1 & W \end{bmatrix}라 합시다. 그러면

Q1TSQ1=[q1TSq1q1TSWWTSq1WTSW]=[λ10T0S′].Q_1^TSQ_1 = \begin{bmatrix} \mathbf{q}_1^TS\mathbf{q}_1 & \mathbf{q}_1^TSW \\ W^TS\mathbf{q}_1 & W^TSW \end{bmatrix} = \begin{bmatrix} \lambda_1 & \mathbf{0}^T \\ \mathbf{0} & S' \end{bmatrix}.

왼쪽 아래 WTSq1=λ1WTq1=0W^TS\mathbf{q}_1 = \lambda_1W^T\mathbf{q}_1 = \mathbf{0} (WW의 열은 q1\mathbf{q}_1에 수직), 오른쪽 위는 그 전치(SS 대칭)입니다. S′=WTSWS' = W^TSW는 (n−1)×(n−1)(n - 1) \times (n - 1) 대칭행렬이므로 귀납 가정에 의해 S′=Q′Λ′Q′TS' = Q'\Lambda'Q'^T. 그러면 Q=Q1[10T0Q′]Q = Q_1\begin{bmatrix} 1 & \mathbf{0}^T \\ \mathbf{0} & Q' \end{bmatrix}는 직교행렬(직교행렬의 곱)이고 QTSQ=diag⁡(λ1,Λ′)Q^TSQ = \operatorname{diag}(\lambda_1, \Lambda')입니다. ■

증명의 아이디어: 고유벡터 하나를 찾으면, 그것에 수직인 부분공간이 SS에 의해 그 안으로 보내집니다(WTSq1=0W^TS\mathbf{q}_1 = \mathbf{0}). 그래서 문제가 한 차원 작아집니다. 대칭이 아니면 이 단계가 실패합니다(오른쪽 위 블록이 0이 되지 않습니다). 그 경우에는 위삼각까지만 갈 수 있으며, 이것이 26장의 슈어 정리입니다.

17.4.1 스펙트럴 분해

S=QΛQTS = Q\Lambda Q^T를 열×행의 합(정리 5.5(4))으로 쓰면

S=λ1q1q1T+λ2q2q2T+⋯+λnqnqnT.S = \lambda_1\mathbf{q}_1\mathbf{q}_1^T + \lambda_2\mathbf{q}_2\mathbf{q}_2^T + \cdots + \lambda_n\mathbf{q}_n\mathbf{q}_n^T.

각 qiqiT\mathbf{q}_i\mathbf{q}_i^T는 qi\mathbf{q}_i 방향 직선 위로의 사영행렬입니다(13.4절). 따라서

모든 대칭행렬은 서로 수직인 직선 위로의 사영들에 고윳값을 곱해 더한 것입니다.

예제 17.4. S=[2112]S = \begin{bmatrix} 2 & 1 \\ 1 & 2 \end{bmatrix}: λ=3\lambda = 3, q1=12(1,1)\mathbf{q}_1 = \frac{1}{\sqrt2}(1, 1); λ=1\lambda = 1, q2=12(1,−1)\mathbf{q}_2 = \frac{1}{\sqrt2}(1, -1).

[2112]=3⋅12[1111]+1⋅12[1−1−11].\begin{bmatrix} 2 & 1 \\ 1 & 2 \end{bmatrix} = 3 \cdot \frac12\begin{bmatrix} 1 & 1 \\ 1 & 1 \end{bmatrix} + 1 \cdot \frac12\begin{bmatrix} 1 & -1 \\ -1 & 1 \end{bmatrix}.

x\mathbf{x}를 (1,1)(1, 1) 방향 성분과 (1,−1)(1, -1) 방향 성분으로 나눠, 앞의 것을 3배, 뒤의 것을 1배 한 것이 SxS\mathbf{x}입니다.

▶ 문제 17.1–17.5

17.5 양정치 행렬

정의 17.5 (양정치). 대칭행렬 SS가 모든 x≠0\mathbf{x} \ne \mathbf{0}에 대해

xTSx>0\mathbf{x}^TS\mathbf{x} > 0

이면 SS를 양정치(positive definite)라 합니다. ≥0\ge 0이면 양반정치(positive semidefinite)라 합니다.

xTSx=∑i,jsijxixj\mathbf{x}^TS\mathbf{x} = \sum_{i,j} s_{ij}x_ix_j를 x\mathbf{x}의 이차형식(quadratic form)이라 합니다. 2×22 \times 2에서는

xT[abbc]x=ax2+2bxy+cy2.\mathbf{x}^T\begin{bmatrix} a & b \\ b & c \end{bmatrix}\mathbf{x} = ax^2 + 2bxy + cy^2.

양정치란 이 식이 원점 외에서 언제나 양수, 즉 그래프가 위로 볼록한 그릇 모양이라는 뜻입니다.

정리 17.6 (양정치의 판정). 대칭행렬 SS에 대해 다음은 동치입니다.

  1. SS는 양정치입니다.
  2. 모든 고윳값이 양수입니다.
  3. (행 교환 없는) 소거의 피벗이 모두 양수입니다.
  4. 왼쪽 위 k×kk \times k 부분행렬들의 행렬식(선행 주소행렬식(leading principal minors))이 모두 양수입니다.
  5. 열이 독립인 어떤 AA에 대해 S=ATAS = A^TA입니다.

증명. (1)⇒(2): Sx=λxS\mathbf{x} = \lambda\mathbf{x}이면 0<xTSx=λ∥x∥20 < \mathbf{x}^TS\mathbf{x} = \lambda\lVert \mathbf{x} \rVert^2.

(2)⇒(1): S=QΛQTS = Q\Lambda Q^T, y=QTx\mathbf{y} = Q^T\mathbf{x}로 두면 xTSx=yTΛy=∑λiyi2\mathbf{x}^TS\mathbf{x} = \mathbf{y}^T\Lambda\mathbf{y} = \sum\lambda_iy_i^2. x≠0\mathbf{x} \ne \mathbf{0}이면 y≠0\mathbf{y} \ne \mathbf{0}이므로 양수.

(1)⇒(5): (2)에서 λi>0\lambda_i > 0이므로 A=Λ QTA = \sqrt\Lambda\,Q^T로 두면 ATA=QΛQT=SA^TA = Q\Lambda Q^T = S이고 AA는 가역입니다.

(5)⇒(1): xTATAx=∥Ax∥2≥0\mathbf{x}^TA^TA\mathbf{x} = \lVert A\mathbf{x} \rVert^2 \ge 0이고, 열이 독립이므로 x≠0\mathbf{x} \ne \mathbf{0}이면 Ax≠0A\mathbf{x} \ne \mathbf{0}이어서 양수입니다.

(3)   ⟺  \iff (4): 행 교환 없이 소거하면 왼쪽 위 k×kk \times k 부분행렬도 처음 kk개 피벗으로 소거되므로, 그 행렬식은 d1d2⋯dkd_1d_2 \cdots d_k입니다. 따라서 dk=Dk/Dk−1d_k = D_k/D_{k-1} (DkD_k는 kk번째 선행 주소행렬식, D0=1D_0 = 1). 모든 Dk>0D_k > 0   ⟺  \iff 모든 dk>0d_k > 0.

(3)   ⟺  \iff (1): 피벗이 모두 0이 아니면 S=LDLTS = LDL^T (9.6절)이고, y=LTx\mathbf{y} = L^T\mathbf{x}로 두면 xTSx=yTDy=∑diyi2\mathbf{x}^TS\mathbf{x} = \mathbf{y}^TD\mathbf{y} = \sum d_iy_i^2. LTL^T가 가역이므로 (1)   ⟺  \iff 모든 di>0d_i > 0. 반대로 (1)이면 각 왼쪽 위 부분행렬도 양정치(그 부분의 x\mathbf{x}만 쓰면 됩니다)이므로 가역이고, 따라서 소거 중에 피벗 0이 나오지 않습니다. ■

예제 17.7. K=[2−10−12−10−12]K = \begin{bmatrix} 2 & -1 & 0 \\ -1 & 2 & -1 \\ 0 & -1 & 2 \end{bmatrix}.

  • 피벗: 2,32,432, \frac32, \frac43 (예제 9.5). 모두 양수.
  • 선행 주소행렬식: 2,3,42, 3, 4. 모두 양수. 피벗 =21,32,43= \frac21, \frac32, \frac43 (비율).
  • 고윳값: 2−22 - \sqrt2, 22, 2+22 + \sqrt2. 모두 양수.
  • xTKx=2x12+2x22+2x32−2x1x2−2x2x3=x12+(x1−x2)2+(x2−x3)2+x32>0\mathbf{x}^TK\mathbf{x} = 2x_1^2 + 2x_2^2 + 2x_3^2 - 2x_1x_2 - 2x_2x_3 = x_1^2 + (x_1 - x_2)^2 + (x_2 - x_3)^2 + x_3^2 > 0.

네 판정이 모두 양정치라고 답합니다.

예제 17.8. [1221]\begin{bmatrix} 1 & 2 \\ 2 & 1 \end{bmatrix}: 행렬식 −3<0-3 < 0이므로 양정치가 아닙니다. 고윳값 3,−13, -1. x=(1,−1)\mathbf{x} = (1, -1)이면 xTSx=1−4+1=−2\mathbf{x}^TS\mathbf{x} = 1 - 4 + 1 = -2. 대각성분이 모두 양수여도 양정치가 아닐 수 있습니다.

판정 (3)과 (5)를 합치면 S=LDLT=(LD)(LD)TS = LDL^T = (L\sqrt{D})(L\sqrt{D})^T입니다. 이것을 숄레스키 분해(Cholesky decomposition)라 하며, 양정치 행렬의 연립방정식을 푸는 가장 빠른 방법입니다.

▶ 문제 17.6–17.9

17.6 이차형식의 그림

xy 평면에 기울어진 타원 5x² + 8xy + 5y² = 1을 그렸습니다. 두 점선은 고유벡터 방향으로, y = x 방향(λ = 9)으로는 반지름 1/3, y = −x 방향(λ = 1)으로는 반지름 1입니다.

그림 17.1. 5x2+8xy+5y2=15x^2 + 8xy + 5y^2 = 1. S=[5445]S = \begin{bmatrix} 5 & 4 \\ 4 & 5 \end{bmatrix}의 고윳값은 9, 1이고 고유벡터는 (1,1)(1, 1), (1,−1)(1, -1)입니다. 타원의 축은 고유벡터 방향이고 반지름은 1/λ1/\sqrt\lambda입니다.

양정치 SS에 대해 xTSx=1\mathbf{x}^TS\mathbf{x} = 1은 어떤 곡선(곡면)일까요? y=QTx\mathbf{y} = Q^T\mathbf{x} (고유벡터 좌표)로 바꾸면

λ1y12+λ2y22+⋯+λnyn2=1.\lambda_1y_1^2 + \lambda_2y_2^2 + \cdots + \lambda_ny_n^2 = 1.

축이 고유벡터 방향이고 반지름이 1/λi1/\sqrt{\lambda_i}인 타원(타원면)입니다. 고윳값이 클수록 그 방향으로 짧습니다. 그 방향으로 이차형식이 빨리 커지기 때문입니다.

예제 17.9. 5x2+8xy+5y2=15x^2 + 8xy + 5y^2 = 1 (그림 17.1). xyxy항 때문에 타원이 기울어져 있습니다. S=[5445]S = \begin{bmatrix} 5 & 4 \\ 4 & 5 \end{bmatrix}의 고윳값 9, 1, 고유벡터 (1,1)(1, 1), (1,−1)(1, -1)이므로, (1,1)(1, 1) 방향 반지름 13\frac13, (1,−1)(1, -1) 방향 반지름 1입니다. 고유벡터 좌표로 바꾸는 것은 “기울어진 타원을 똑바로 세워 보는 것”이고, 그러면 xyxy항이 사라집니다. 이것을 주축 정리(principal axis theorem)라 합니다.

고윳값의 부호에 따라 모양이 바뀝니다.

  • 모두 양수: 타원(그릇 모양의 최솟값).
  • 양수와 음수가 섞임: 쌍곡선(말안장 모양).
  • 0이 있음: 평행한 직선이나 평면처럼 퇴화된 모양.
대칭행렬의 성분 a, b, c를 바꾸면 곡선 xᵀSx = 1의 모양과 축(고유벡터 방향)이 바뀝니다

이 위젯은 JavaScript가 필요합니다

직관 (†). 다변수 미적분에서 함수 f(x,y)f(x, y)의 임계점이 최솟값인지 판정할 때, 이계도함수들로 된 대칭행렬(헤세 행렬)이 양정치인지 봅니다. 그 근처에서 ff가 이차형식 12xTHx\frac12\mathbf{x}^TH\mathbf{x}처럼 생겼기 때문입니다. 미적분을 배운 뒤에 다시 봅시다.

▶ 문제 17.10–17.11

쓰이는 곳. 공분산 행렬은 대칭·양반정치이고, 손실 함수의 헤세 행렬이 양정치이면 그 점은 극소입니다. 가우스 과정과 커널 방법의 커널 행렬도 양반정치여야 합니다.

이 장의 요약

  • 실수 대칭행렬의 고윳값은 실수이고, 서로 다른 고윳값의 고유벡터는 수직입니다.
  • 스펙트럴 정리: S=QΛQT=∑iλiqiqiTS = Q\Lambda Q^T = \sum_i \lambda_i\mathbf{q}_i\mathbf{q}_i^T (수직인 사영들의 가중합).
  • 양정치   ⟺  \iff xTSx>0\mathbf{x}^TS\mathbf{x} > 0   ⟺  \iff 고윳값 >0> 0   ⟺  \iff 피벗 >0> 0   ⟺  \iff 선행 주소행렬식 >0> 0   ⟺  \iff S=ATAS = A^TA (열 독립).
  • xTSx=1\mathbf{x}^TS\mathbf{x} = 1은 고유벡터 방향을 축으로, 1/λ1/\sqrt\lambda를 반지름으로 하는 타원.

문제

17.1 [계산] · 확인 문제

S=[1221]S = \begin{bmatrix} 1 & 2 \\ 2 & 1 \end{bmatrix}을 QΛQTQ\Lambda Q^T로 분해하고, 스펙트럴 분해 λ1q1q1T+λ2q2q2T\lambda_1\mathbf{q}_1\mathbf{q}_1^T + \lambda_2\mathbf{q}_2\mathbf{q}_2^T로도 씁니다. 표에는 고윳값을 큰 것부터 적습니다.

λ1\lambda_1 λ2\lambda_2
[?] [?]
정답
3
-1
풀이

λ=3\lambda = 3: q1=12(1,1)\mathbf{q}_1 = \frac{1}{\sqrt2}(1, 1). λ=−1\lambda = -1: q2=12(1,−1)\mathbf{q}_2 = \frac{1}{\sqrt2}(1, -1). Q=12[111−1]Q = \frac{1}{\sqrt2}\begin{bmatrix} 1 & 1 \\ 1 & -1 \end{bmatrix}, Λ=diag⁡(3,−1)\Lambda = \operatorname{diag}(3, -1).

S=3⋅12[1111]−1⋅12[1−1−11].S = 3 \cdot \frac12\begin{bmatrix} 1 & 1 \\ 1 & 1 \end{bmatrix} - 1 \cdot \frac12\begin{bmatrix} 1 & -1 \\ -1 & 1 \end{bmatrix}.

17.2 [계산] · 확인 문제

S=[201020102]S = \begin{bmatrix} 2 & 0 & 1 \\ 0 & 2 & 0 \\ 1 & 0 & 2 \end{bmatrix}를 QΛQTQ\Lambda Q^T로 분해합니다. 표에는 고윳값을 큰 것부터 적습니다.

λ1\lambda_1 λ2\lambda_2 λ3\lambda_3
[?] [?] [?]
정답
3
2
1
풀이

yy 성분은 따로 2배: λ=2\lambda = 2, (0,1,0)(0, 1, 0). (x,z)(x, z) 부분은 [2112]\begin{bmatrix} 2 & 1 \\ 1 & 2 \end{bmatrix}: λ=3\lambda = 3, (1,0,1)(1, 0, 1); λ=1\lambda = 1, (1,0,−1)(1, 0, -1).

Q=[12012010120−12],Λ=diag⁡(3,2,1).Q = \begin{bmatrix} \frac{1}{\sqrt2} & 0 & \frac{1}{\sqrt2} \\ 0 & 1 & 0 \\ \frac{1}{\sqrt2} & 0 & -\frac{1}{\sqrt2} \end{bmatrix}, \qquad \Lambda = \operatorname{diag}(3, 2, 1).

17.3 [계산] · 확인 문제

S=[111111111]S = \begin{bmatrix} 1 & 1 & 1 \\ 1 & 1 & 1 \\ 1 & 1 & 1 \end{bmatrix}의 고윳값과 정규직교인 고유벡터를 구합니다. 중근의 고유공간에서는 그람–슈미트를 씁니다. 표에는 고윳값을 큰 것부터 적습니다.

λ1\lambda_1 λ2\lambda_2 λ3\lambda_3
[?] [?] [?]
정답
3
0
0
풀이

랭크 1, tr⁡=3\operatorname{tr} = 3이므로 λ=3,0,0\lambda = 3, 0, 0. λ=3\lambda = 3: 13(1,1,1)\frac{1}{\sqrt3}(1, 1, 1). λ=0\lambda = 0: 평면 x+y+z=0x + y + z = 0. 기저 (1,−1,0)(1, -1, 0), (1,0,−1)(1, 0, -1)에 그람–슈미트: (1,−1,0)(1, -1, 0), (1,0,−1)−12(1,−1,0)=12(1,1,−2)(1, 0, -1) - \frac12(1, -1, 0) = \frac12(1, 1, -2). 정규화: 12(1,−1,0)\frac{1}{\sqrt2}(1, -1, 0), 16(1,1,−2)\frac{1}{\sqrt6}(1, 1, -2).

17.4 [계산]

대칭이 아닌 A=[1102]A = \begin{bmatrix} 1 & 1 \\ 0 & 2 \end{bmatrix}의 두 고유벡터는 서로 수직일까요? 대칭성이 왜 필요한지 정리 17.2의 증명에서 찾습니다.

풀이

λ=1\lambda = 1: (1,0)(1, 0). λ=2\lambda = 2: (1,1)(1, 1). 내적 1, 수직이 아닙니다. 증명의 xTSTy=xTSy\mathbf{x}^TS^T\mathbf{y} = \mathbf{x}^TS\mathbf{y} 단계에서 ST=SS^T = S가 쓰였습니다.

17.5 [증명]

스펙트럴 정리를 써서 다음을 보입니다. (a) 대칭행렬 SS의 고윳값이 모두 1이면 S=IS = I입니다. (b) 대칭행렬 SS가 Sk=OS^k = O (어떤 k≥1k \ge 1)이면 S=OS = O입니다. (문제 5.7의 [0100]\begin{bmatrix} 0 & 1 \\ 0 & 0 \end{bmatrix}은 왜 (b)의 반례가 아닐까요?)

풀이

(a) Λ=I\Lambda = I이므로 S=QIQT=QQT=IS = QIQ^T = QQ^T = I.

(b) Sk=QΛkQT=OS^k = Q\Lambda^kQ^T = O이면 Λk=O\Lambda^k = O, 모든 λik=0\lambda_i^k = 0, λi=0\lambda_i = 0, S=OS = O. [0100]\begin{bmatrix} 0 & 1 \\ 0 & 0 \end{bmatrix}은 대칭이 아닙니다.

17.6 [계산] · 확인 문제

양정치, 양반정치, 둘 다 아님 중 무엇인지 판정합니다. 서로 다른 판정법을 하나 이상 씁니다. 표에는 “양정치”, “양반정치”, “둘 다 아님” 중 하나를 적습니다(양정치이면 “양정치”).

(a) [2112](b) [1334](c) [111122123](d) [2−1−1−12−1−1−12]\text{(a)}\ \begin{bmatrix} 2 & 1 \\ 1 & 2 \end{bmatrix} \qquad \text{(b)}\ \begin{bmatrix} 1 & 3 \\ 3 & 4 \end{bmatrix} \qquad \text{(c)}\ \begin{bmatrix} 1 & 1 & 1 \\ 1 & 2 & 2 \\ 1 & 2 & 3 \end{bmatrix} \qquad \text{(d)}\ \begin{bmatrix} 2 & -1 & -1 \\ -1 & 2 & -1 \\ -1 & -1 & 2 \end{bmatrix}
(a) (b) (c) (d)
[?] [?] [?] [?]
정답
양정치
둘 다 아님
양정치
양반정치
풀이

(a) 양정치: 피벗 2,322, \frac32; 고윳값 3, 1.

(b) 아님: det⁡=4−9=−5<0\det = 4 - 9 = -5 < 0 (고윳값 하나가 음수).

(c) 양정치: 피벗 1, 1, 1 (문제 8.3); 선행 주소행렬식 1, 1, 1.

(d) 양반정치: 피벗 2,32,02, \frac32, 0; 각 행의 합이 0이므로 (1,1,1)(1, 1, 1)이 고윳값 0의 고유벡터. 고윳값 0, 3, 3.

17.7 [계산] · 확인 문제

[1bb9]\begin{bmatrix} 1 & b \\ b & 9 \end{bmatrix}가 양정치가 되는 bb의 범위를 구합니다. 표에는 범위 p<b<qp < b < q의 양 끝을 적습니다.

pp qq
[?] [?]
정답
-3
3
풀이

선행 주소행렬식 1>01 > 0, 9−b2>09 - b^2 > 0. −3<b<3-3 < b < 3.

17.8 [계산]

S=[2−1−12]S = \begin{bmatrix} 2 & -1 \\ -1 & 2 \end{bmatrix}에 대해 xTSx\mathbf{x}^TS\mathbf{x}를 LDLTLDL^T를 이용해 제곱의 합으로 씁니다.

풀이

ℓ21=−12\ell_{21} = -\frac12, 피벗 2,322, \frac32. xTSx=2(x−12y)2+32y2\mathbf{x}^TS\mathbf{x} = 2\left(x - \frac12y\right)^2 + \frac32y^2. 전개하면 2x2−2xy+12y2+32y2=2x2−2xy+2y22x^2 - 2xy + \frac12y^2 + \frac32y^2 = 2x^2 - 2xy + 2y^2.

17.9 [증명]

SS, TT가 양정치이면 (a) S+TS + T도 양정치이고, (b) S−1S^{-1}도 양정치임을 보입니다. (c) 임의의 AA에 대해 ATAA^TA는 양반정치임을 보입니다.

풀이

(a) xT(S+T)x=xTSx+xTTx>0\mathbf{x}^T(S + T)\mathbf{x} = \mathbf{x}^TS\mathbf{x} + \mathbf{x}^TT\mathbf{x} > 0.

(b) 고윳값이 1/λi>01/\lambda_i > 0이고 S−1S^{-1}도 대칭.

(c) xTATAx=∥Ax∥2≥0\mathbf{x}^TA^TA\mathbf{x} = \lVert A\mathbf{x} \rVert^2 \ge 0.

17.10 [계산] · 확인 문제

다음 곡선의 모양(타원/쌍곡선)과 축의 방향을 구합니다. 타원이면 반지름도 구합니다. (a) 3x2+2xy+3y2=13x^2 + 2xy + 3y^2 = 1 (b) x2+4xy+y2=1x^2 + 4xy + y^2 = 1. 표에는 모양과 (a)의 두 반지름(소수 셋째 자리까지)을 적습니다.

값 답
(a)의 모양 [?]
(a)의 (1,1)(1, 1) 방향 반지름 [?]
(a)의 (1,−1)(1, -1) 방향 반지름 [?]
(b)의 모양 [?]
정답
타원
0.5
0.707
쌍곡선
풀이

(a) S=[3113]S = \begin{bmatrix} 3 & 1 \\ 1 & 3 \end{bmatrix}, λ=4\lambda = 4 (1,1)(1, 1), λ=2\lambda = 2 (1,−1)(1, -1). 타원, (1,1)(1, 1) 방향 반지름 12\frac12, (1,−1)(1, -1) 방향 반지름 12\frac{1}{\sqrt2}.

(b) S=[1221]S = \begin{bmatrix} 1 & 2 \\ 2 & 1 \end{bmatrix}, λ=3,−1\lambda = 3, -1. 쌍곡선 3y12−y22=13y_1^2 - y_2^2 = 1. 축은 (1,1)(1, 1), (1,−1)(1, -1) 방향.

17.11 [도전]

대칭행렬 SS의 가장 큰 고윳값을 λmax⁡\lambda_{\max}라 합시다. 모든 x≠0\mathbf{x} \ne \mathbf{0}에 대해

xTSxxTx≤λmax⁡\frac{\mathbf{x}^TS\mathbf{x}}{\mathbf{x}^T\mathbf{x}} \le \lambda_{\max}

이고, 등호는 x\mathbf{x}가 λmax⁡\lambda_{\max}의 고유벡터일 때 성립함을 보입니다. (좌변을 레일리 몫이라 합니다.)

풀이

y=QTx\mathbf{y} = Q^T\mathbf{x}이면 xTSx=∑λiyi2≤λmax⁡∑yi2=λmax⁡∥y∥2=λmax⁡∥x∥2\mathbf{x}^TS\mathbf{x} = \sum\lambda_iy_i^2 \le \lambda_{\max}\sum y_i^2 = \lambda_{\max}\lVert \mathbf{y} \rVert^2 = \lambda_{\max}\lVert \mathbf{x} \rVert^2. 등호는 λi<λmax⁡\lambda_i < \lambda_{\max}인 성분 yiy_i가 모두 0일 때, 즉 x\mathbf{x}가 λmax⁡\lambda_{\max}의 고유공간에 있을 때.