[Linear Algebra] 선형독립과 선형종속

edwith 주재걸교수님의 강의를 참고하였다.

 

핵심키워드

$LinearIndependenceandLinearDependenceSubspace$

 

 

---

일단 우리는 $b\in Span\{a_1,a_2,a_3\}$ 라고 하자. 그러면 $b$가 Span 안에 들어오게 되며, solution을 가지게 된다. 그럴 때 이 solution은 unique한 것일까? 

1. $a_1,a_{2}and{a}_3$가 Linear Independence 라면 값은 unique하다.

2. $a_1,a_{2}and{a}_3$가 Linear Dependence 라면 solution은 매우 많은 값을 가지게 된다. 

 

무수히 많은 해를 가진다는 말은 어떤 뜻일까? 우리는 각각의 재료 vector를 가지고 내적을 통해 평행사변형과 같은 Span의 공간을 만들어 낼 수 있을 것이다. 하지만 무수히 많은 해를 가진다는 것은 그러한 평행사변형의 공간을 여러개를 만들 수 있다는 뜻이다. 우리에게 주어진 $a_1,a_2,a_3$의 vector가 선형 의존 ( Linear Dependence )하다는 뜻과 동일하다. 

 

 

 

 

우리가 vector에 대해서 선형 독립인가, 선형 의존인가에 대해서 판단할 때에는 다음과 같다.

$v_1,v_2,...,v_p\in {\mathbb{R}}^{\mathbb{n}}$ 가 주어졌다고 하자. 그리고 $v_j$가 있을 때, $v_j\notin \{v_1,...,v_{j-1}\}$ 라면 기존 span을 실질적으로 늘려주는 vector가 되고, 이 경우를 선형 독립, Linear independent라고 한다. 반대의 경우 새로운 vector $v_j$가 기존의 span $\{v_1,v_2,...,v_{j-1}\}$안에 속한다면 이 경우를 선형 의존, Linear dependent 라고 한다. 미지수의 개수보다 방정식의 개수가 적은 경우에는 weight의 column vector가 서로 의존적인 형태가 되고, 무수히 많은 해를 가질 수 밖에 없다. 그렇다면 반대의 경우에는 어떻게 될까? case by case다. 

 

 

 

아래의 사진에서 보이는 0 vector는 모든 Span에 속하는 vector가 된다. 그럴 때 모든 weight를 0으로 만들어버리면 최소한의 solution을 가질 수 있다. 이런 solution 을 trivial solution이라고 부른다. (하찮은? 해, 구하기 쉬운? 해라고 한다) 이러한 해 이외에 다른 해가 존재한다면 Linearly dependent해지고 nontrivial solution이 된다. nontrivial solution에 대해서 예를 들어보면 어떤 vector 가 $\left[\begin{array}{c}1\\ 2\end{array}\right]$ 라고 하자. 그럴 때 해당하는 x값이 3이라고 하면 $\left[\begin{array}{c}3\\ 6\end{array}\right]$ 으로 이동하게 될 것이다. 그럴 경우 다른 vector들의 조합으로 $\left[\begin{array}{c}-3\\ -6\end{array}\right]$ 의 형태로 만들어 준다면 $\left[\begin{array}{c}3\\ 6\end{array}\right]$ + $\left[\begin{array}{c}-3\\ -6\end{array}\right]$ = $\left[\begin{array}{c}0\\ 0\end{array}\right]$ 으로 다시 원점으로 되돌려주게 될 것이다. 그렇게 되면 $x_i$가 nonzero가 되고 nontrivial solutions이 된다.

 

 

 

 

 

위 값을 계산할 때 적용된 x값들을 보면 이렇게 표현할 수 있을 것이다. $3v_1+(-1)v_2+0\cdot v_3+2v_4+0\cdot v_5$ 여기서 0이 아닌 vector ( = $v_1,v_2,v_4$ ) 중에서 맨 마지막 0이 아닌 vector($v_4$)를 제외하고 나머지를 우변으로 이항시켜 보자. $0\cdot v_3+2v_4+0\cdot v_5=3v_1+(-1)\cdot v_2$ 가 된다. $v_4=\frac{3}{2}\cdot v_1-\frac{1}{2}\cdot v_2$ 로 나타낼 수 있다. 이것은 $v_4$가 $v_1$과 $v_2$의 선형 결합을 통해 만들어졌다고 할 수 있으며 이 경우에는 Linear dependent한 경우가 된다.