[Linear Algebra] 선형독립과 선형종속

edwith 주재걸교수님의 강의를 참고하였다.

 

핵심키워드

$Linear\ Independence\ and\ Linear\ Dependence\ Sub\ space $

 

 

---

일단 우리는 $b \in Span\{a_{1},a_{2},a_{3}\} $ 라고 하자. 그러면 $b$가 Span 안에 들어오게 되며, solution을 가지게 된다. 그럴 때 이 solution은 unique한 것일까? 

1. $a_{1},a_{2}\ and\ a_{3}$가 Linear Independence 라면 값은 unique하다.

2. $a_{1}, a_{2}\ and\ a_{3}$가 Linear Dependence 라면 solution은 매우 많은 값을 가지게 된다. 

 

무수히 많은 해를 가진다는 말은 어떤 뜻일까? 우리는 각각의 재료 vector를 가지고 내적을 통해 평행사변형과 같은 Span의 공간을 만들어 낼 수 있을 것이다. 하지만 무수히 많은 해를 가진다는 것은 그러한 평행사변형의 공간을 여러개를 만들 수 있다는 뜻이다. 우리에게 주어진 $a_{1},a_{2},a_{3}$의 vector가 선형 의존 ( Linear Dependence )하다는 뜻과 동일하다. 

 

 

 

 

우리가 vector에 대해서 선형 독립인가, 선형 의존인가에 대해서 판단할 때에는 다음과 같다.

$v_{1}, v_{2},...,v_{p} \in \mathbb{R^{n}}$ 가 주어졌다고 하자. 그리고 $v_{j}$가 있을 때, $v_{j} \not\in \{v_{1},...,v_{j-1}\}$ 라면 기존 span을 실질적으로 늘려주는 vector가 되고, 이 경우를 선형 독립, Linear independent라고 한다. 반대의 경우 새로운 vector $v_{j}$가 기존의 span $\{ v_{1},v_{2},...,v_{j-1}\}$안에 속한다면 이 경우를 선형 의존, Linear dependent 라고 한다. 미지수의 개수보다 방정식의 개수가 적은 경우에는 weight의 column vector가 서로 의존적인 형태가 되고, 무수히 많은 해를 가질 수 밖에 없다. 그렇다면 반대의 경우에는 어떻게 될까? case by case다. 

 

 

 

아래의 사진에서 보이는 0 vector는 모든 Span에 속하는 vector가 된다. 그럴 때 모든 weight를 0으로 만들어버리면 최소한의 solution을 가질 수 있다. 이런 solution 을 trivial solution이라고 부른다. (하찮은? 해, 구하기 쉬운? 해라고 한다) 이러한 해 이외에 다른 해가 존재한다면 Linearly dependent해지고 nontrivial solution이 된다. nontrivial solution에 대해서 예를 들어보면 어떤 vector 가 $\begin{bmatrix} 1 \\ 2 \end{bmatrix}$ 라고 하자. 그럴 때 해당하는 x값이 3이라고 하면 $\begin{bmatrix} 3 \\ 6 \end{bmatrix}$ 으로 이동하게 될 것이다. 그럴 경우 다른 vector들의 조합으로 $\begin{bmatrix} -3 \\ -6 \end{bmatrix}$ 의 형태로 만들어 준다면 $\begin{bmatrix} 3 \\ 6 \end{bmatrix}$ + $\begin{bmatrix} -3 \\ -6 \end{bmatrix}$ = $\begin{bmatrix} 0 \\ 0 \end{bmatrix}$ 으로 다시 원점으로 되돌려주게 될 것이다. 그렇게 되면 $x_{i}$가 nonzero가 되고 nontrivial solutions이 된다.

 

 

 

 

 

위 값을 계산할 때 적용된 x값들을 보면 이렇게 표현할 수 있을 것이다. $3v_{1}+(-1)v_{2}+0\cdot v_{3}+2v_{4}+0\cdot v_{5}$ 여기서 0이 아닌 vector ( = $v_{1},v_{2},v_{4}$ ) 중에서 맨 마지막 0이 아닌 vector($v_{4}$)를 제외하고 나머지를 우변으로 이항시켜 보자. $0\cdot v_{3} +2v_{4} + 0\cdot v_{5} = 3v_{1} + (-1)\cdot v_{2}$ 가 된다. $v_{4} = {3 \over 2}\cdot v_{1} - {1 \over 2}\cdot v_{2}$ 로 나타낼 수 있다. 이것은 $v_{4}$가 $v_{1}$과 $v_{2}$의 선형 결합을 통해 만들어졌다고 할 수 있으며 이 경우에는 Linear dependent한 경우가 된다.