10. 직교행렬

직교행렬 (Orthogonal Matrix)

직교행렬의 정의

• 직교행렬(Orthogonal Matrix) 은 열벡터들이 서로 직교하고 크기가 1인(정규직교, orthonormal) $n\times n$ 정방행렬이다.
• 직교행렬 $Q$는 다음과 같이 역행렬이 전치행렬과 같은 행렬로 정의할 수도 있다.

$$Q^{T}Q=Q{Q}^T=I⟺Q^{-1}=Q^T$$

• 즉, 역행렬을 구하는 복잡한 계산 없이 전치만으로 역행렬을 얻을 수 있다는 점이 직교행렬의 큰 장점이다.

두 정의가 같은 이유

• $Q=\left[\begin{array}{cccc}{\mathbf{q}}_1& {\mathbf{q}}_2& \cdots & {\mathbf{q}}_n\end{array}\right]$ 라고 하면, $Q^{T}Q$의 $(i,j)$ 성분은 ${\mathbf{q}}_i^T{\mathbf{q}}_j$, 즉 두 열벡터의 내적이다.

$$Q^{T}Q=I⟺{\mathbf{q}}_i^T{\mathbf{q}}_j=\{\begin{array}{ll}1& (i=j)\\ 0& (i\ne j)\end{array}$$

• 따라서 $Q^{T}Q=I$는 “각 열벡터의 크기는 1이고, 서로 다른 열벡터끼리는 직교한다” 는 조건과 동치이다.
• 같은 논리가 행벡터에도 성립하므로, 행벡터들 또한 정규직교이다.

이름에 대한 주의

이름은 “직교”행렬이지만, 열벡터의 크기가 1이어야 한다(정규직교). 열벡터가 서로 직교하기만 하고 크기가 1이 아니면 직교행렬이 아니다.

---

직교행렬의 성질

직교행렬 $Q$, $Q_1$, $Q_2$에 대하여 다음이 성립한다.

1. 역행렬도 직교행렬이다.: $Q^{-1}=Q^T$ 도 직교행렬이다.
2. 곱도 직교행렬이다.: $Q_1{Q}_2$ 도 직교행렬이다.

$$(Q_1{Q}_2{)}^T(Q_1{Q}_2)=Q_2^T{Q}_1^T{Q}_1{Q}_2=Q_2^T{Q}_2=I$$

3. 행렬식은 $\pm 1$ 이다.

$$\det (Q^{T}Q)=\det (Q^T)\det (Q)=\det (Q{)}^2=\det (I)=1\Rightarrow \det (Q)=\pm 1$$

4. 길이를 보존한다.: 임의의 벡터 $\mathbf{x}$에 대하여

$$\Vert Q\mathbf{x}{\Vert }^2=(Q\mathbf{x}{)}^T(Q\mathbf{x})={\mathbf{x}}^T{Q}^{T}Q\mathbf{x}={\mathbf{x}}^T\mathbf{x}=\Vert \mathbf{x}{\Vert }^2$$

5. 내적(각도)을 보존한다.: 임의의 벡터 $\mathbf{x},\mathbf{y}$에 대하여

$$(Q\mathbf{x})\cdot (Q\mathbf{y})={\mathbf{x}}^T{Q}^{T}Q\mathbf{y}=\mathbf{x}\cdot \mathbf{y}$$

6. 고유값의 절댓값은 1이다.: $Q\mathbf{v}=\lambda \mathbf{v}$ 이면 $\Vert Q\mathbf{v}\Vert =\Vert \mathbf{v}\Vert$ 이므로 $|\lambda |=1$ 이다. (복소수 고유값까지 고려)

직교행렬의 기하학적 의미

• 직교행렬은 벡터의 길이와 사이각을 바꾸지 않는 변환, 즉 도형의 모양을 유지한 채 회전(rotation) 하거나 반사(reflection) 시키는 변환을 나타낸다.
• 행렬식의 부호로 두 경우를 구분한다.
  • $\det (Q)=+1$: 순수 회전 변환
  • $\det (Q)=-1$: 반사를 포함하는 변환

예시

2차원 회전행렬

• 원점을 중심으로 반시계 방향으로 $\theta$만큼 회전시키는 행렬은 직교행렬이다.

$$R(\theta )=\left[\begin{array}{cc}\cos \theta & -\sin \theta \\ \sin \theta & \cos \theta \end{array}\right]$$

• 두 열벡터의 크기는 ${\cos }^2\theta +{\sin }^2\theta =1$ 이고, 내적은 $-\cos \theta \sin \theta +\sin \theta \cos \theta =0$ 이므로 정규직교이다.
• $\det R(\theta )={\cos }^2\theta +{\sin }^2\theta =1$ 이므로 순수 회전이다.
• 역행렬은 반대 방향으로 $\theta$만큼 회전하는 $R(-\theta )=R(\theta {)}^T$ 이다.

반사행렬

• $x$축에 대한 반사를 나타내는 행렬은 직교행렬이며, 행렬식이 $-1$이다.

$$F=\left[\begin{array}{cc}1& 0\\ 0& -1\end{array}\right],\det F=-1$$

항등행렬과 순열행렬

• 항등행렬 $I$는 가장 단순한 직교행렬이다.
• 행(열)의 순서를 바꾸는 순열행렬(permutation matrix) 도 직교행렬이다. (5. 초등행렬의 행 교환 행렬 참고)

---

다른 개념과의 관계

• 대칭행렬의 고유값 분해: 대칭행렬 $A$의 서로 다른 고유값에 대응하는 고유벡터는 직교하므로, $A=Q\Lambda Q^T$ 와 같이 직교행렬 $Q$로 대각화할 수 있다. → 11. 고유값과 고유벡터
• 특이값 분해: 임의의 행렬 $A$를 $A=U\Sigma V^T$ 로 분해할 때, $U$와 $V$가 모두 직교행렬이다. → 12. 특이값 분해 (SVD)

---