[Linear Algebra] 무어-펜로즈 유사역행렬(Moore-Penrose pseudoinverse)

정방행렬이고, 특이행렬이 아닐 경우 즉, full rank인 정방행렬(square matrix)에서만 역행렬을 정의할 수 있다. 정방 행렬이 아닌 행렬에서는 역행렬을 정의하는 것 대신에 무어-펜로즈 유사역행렬을 다음과 같이 정의할 수 있다. 

 

$$A^{+}=\underset{a\to 0}{lim}(A^{T}A+\alpha I{)}^{-1}{A}^T$$

 

$A^{+}$는 행렬 $A$의 무어-펜로즈 유사역행렬이다. 또한, 다음과 같은 조건을 만족해야지만 유사역행렬이라고 부를 수 있다. 

 

• $A{A}^{+}A=A$

 

• $A^{+}A{A}^{+}=A^{+}$

 

• $(A{A}^{+}{)}^T=A{A}^{+}$

 

• $(A^{+}A{)}^T=A^{+}A$

 

이전 글에서 다룬 SVD로 유사역행렬을 쉽게 구할 수 있다. 우리는 SVD를 다음과 같이 정의한다. 

 

$A=UD{V}^T$

 

SVD에서 $U$와 $V$는 직교행렬(orthogonal matrix)라고 했다. 직교 행렬은 $U^{-1}=U^T$를 만족하기 때문에 다음과 같이 값을 구할 수 있다. 

 

$A{A}^{+}=UD{V}^T{A}^{+}$

 

$(V^T{)}^{-1}{D}^{+}{U}^{-1}=A^{+}$

 

$A^{+}=V{D}^{+}{U}^T$

 

이로써 행렬 $A$의 무어-펜로즈 유사역행렬인 $A^{+}$를 쉽게 구할 수 있다. 위에서 유사역행렬을 만족하기 위해선 4가지의 조건을 만족해야된다고 언급했다. 한번 확인해보자.

 

 

• $A{A}^{+}A=UD{D}^{+}{V}^T=UD{V}^T=A$

 

• $A^{+}A{A}^{+}=V{D}^{+}D{D}^{+}{U}^T=V{D}^{+}{U}^T=A^{+}$

 

• $(A{A}^{+}{)}^T=(UD{D}^{+}{U}^T{)}^T=(U\left[\begin{array}{cc}{I}_r& 0\\ 0& 0\end{array}\right]U^T{)}^T=A{A}^{+}$

 

• $(A^{+}A{)}^T=(V{D}^{+}D{V}^T{)}^T=(V\left[\begin{array}{cc}{I}_r& 0\\ 0& 0\end{array}\right]V^T{)}^T=A^{+}A$ 

 

이로써 정방행렬이 아닌 행렬에 대해서 무어-펜로즈 유사역행렬을 구해보았다.