25. 행렬의 계수(Rank)

25.1. Rank of a Matrix.
 Matrix에서 Rank란, 선형 독립인 row vector의 최댓값입니다. 먼저 다음과 같은 Matrix가 있다고 합시다.

  $\mathbf {A} = \begin {bmatrix} 1&2&2&2\\2&4&6&8\\3&6&8&10\end {bmatrix}\cdots(1)$

(1)을 Gauss Elimination 합니다. 그러면 다음과 같은 Matrix가 됩니다. 

  $\begin {bmatrix} {\color {Red}1}&{\color {Blue}2}&{\color {Red}2}&{\color {Blue}2}\\{\color {Red}0}&{\color {Blue}0}&{\color {Red}2}&{\color {Blue}4}\\{\color {Red}0}&{\color {Blue}0}&{\color {Red}0}&{\color {Blue}0}\end {bmatrix}\cdots(2)$

(2)에서 선형 독립인 row vector는 총 2개죠. 따라서 $\mathbf {A}$의 Rank는 2임을 확인 할 수 있습니다.

 Rank를 pivot의 개수로도 이해할 수 있습니다. (2)에서 붉은색으로 표시한 column을 pivot colummn, 푸른색으로 표시한 column을 free column이라고 합니다. pivot이 2개이므로, 주어진 Matrix $\mathbf{A}$의 Rank가 2 임으로 다시 확인할 수 있습니다.

 

 25.2. Dimension, Nullity

 선형 독립인 vector의 최댓값을 Dimension이라고 합니다. 즉, Dimension과 Rank의 값은 같다고 보시면 됩니다. 그렇다면 전술한 내용의 $\mathbf {A}$의 Dimension은 2라고 알 수 있죠. Dimension을 $dim(A)=2$ 라고도 쓸 수 있습니다.

 Nullity는 Null space의 Dimension입니다. Free column의 개수로 이해하셔도 됩니다. (2)에서 $\mathbf{A}$의 Free column은 2개이므로, $\mathbf{A}$의 Nullity는 2입니다.

 pivot column의 개수를 Rank, Free column의 개수를 Nullity라고 했습니다. (2)에서 봤듯, column은 pivot column인지 Free column인지 두 가지로 구분됩니다. 따라서 다음과 같은 식을 만족함을 알 수 있습니다.

 $Rank \ \mathbf {A} + Nullity\  \mathbf{A} = the\ Number\ of\ columns\ \cdots(3)$

 

 25.3. Solvability Condition on $\mathbf {b}$ in $\mathbf {Ax} = \mathbf {b}$.

 다음과 같은 Matrix가 있다고 합시다.

$\begin {bmatrix}1&2&2&2&|&b_1\\2&4&6&8&|&b_2\\3&6&8&10&|&b_3\end {bmatrix}\cdots(4)$

 (4)를 Gauss Elimination 해봅시다.

$\begin {bmatrix}1&2&2&2&|&b_1\\0&0&2&4&|&b_2-2b_1\\0&0&0&0&|&b_3-b_2-b_1\end {bmatrix}\cdots(5)$

 row 3에서 좌변의 모든 원소가 0인 것을 알 수 있습니다. $\mathbf {Ax} = \mathbf {b}$의 해가 존재하려면, 여기서 $b_3-b_2-b_1=0$을 만족해야 합니다. 즉, $\mathbf {A}$에서 zero row가 생긴다면, 그 row에 해당하는 $\mathbf {b}$의 row의 식 또한 0이어야 해가 존재하는 셈입니다.

 그렇다면 $\mathbf {x}$는 어떻게 구할까요? Complete solution은 null space solution과 particular solution의 합으로 나타낼 수 있습니다. 식으로 쓰면 다음과 같습니다.

 $\mathbf {x}_{complete} = \mathbf {x}_{null\ space} + \mathbf {x}_{particular}\cdots(6)$

 앞서 배웠던 non-homogeneous ODE의 해를 구하는 것과 유사합니다. 각각의 해를 구하는 법에 대해 알아봅시다.

 $\mathbf {x}_{null\ space}$는 말 그대로 Null space의 해를 구하면 됩니다. 즉 $\mathbf{Ax} = 0$를 만족시키는 해가 $\mathbf{x}_{null\ space}$입니다. $\mathbf {x}_{particular}$는 모든 free variable을 0으로 하고 구한 해입니다. 이해를 위해 (5)를 이용한 예제를 통해 풀어봅시다.

 먼저 (5)에서 해가 존재하려면 $b_3-b_2-b_1=0$을 만족해야 합니다. $b_1 = 3$, $b_2 = 7$, $b_3 = 10$이라 하면 (5)는 (6)과 같아집니다.

 $\begin {bmatrix}1&2&2&2&|&3\\0&0&2&4&|&1\\0&0&0&0&|&0\end {bmatrix}\cdots(7)$

 $\mathbf {x}_{null\ space}$를 구해봅시다. (7)의 $\mathbf {b}=\mathbf {0}$인 Matrix는 다음과 같습니다.

 $\begin {bmatrix}1&2&2&2&|&0\\0&0&2&4&|&0\\0&0&0&0&|&0\end {bmatrix}\cdots(8)$

 $x_3 = 0$, $x_4 = 0$라 하면, (8)을 만족시키는 basis는 $\begin {bmatrix}-2\\1\\0\\0\end{bmatrix}$가 됩니다.

 Rank가 2인 matrix이므로 다른 basis도 구해봅시다. 이번엔 $x_4 = 1$이라 두고 풀면 $x_3 = -2$, $x_2=0$, $x_1=2$이 되고, Matrix로 나타내면 $\begin{bmatrix} 2\\0\\-1\\1\end {bmatrix}$가 되겠습니다. 이제 이 basis의 선형 결합이 $\mathbf {x}_{null\ space}$가 되겠습니다.

$\mathbf{x}_{null\ space} = c_1\begin {bmatrix}-2\\1\\0\\0\end {bmatrix}+c_2\begin {bmatrix} 2\\0\\-1\\1\end {bmatrix}\cdots(9)$

 이번엔 $\mathbf {x}_{particular}$를 구해봅시다. $\mathbf {x}_{particular}$는 Free variable을 0일 때의 해를 구하면 됩니다. (7)에서 column 2,4가 Free column이므로 Free variable은 $x_2$,$x_4$가 됩니다. Free variable을 $0$으로 한 Matrix는 다음과 같습니다.

 $\begin {bmatrix}1&0&2&0&|&3\\0&0&2&0&|&1\\0&0&0&0&|&0\end {bmatrix}\cdots(10)$

(10)의 Matrix를 풀면 $x_1 = -2$, $x_3 = \frac {3}{2}$입니다. 따라서 $\mathbf {x}_{particular}$은 다음과 같습니다.

$\mathbf {x}_{particular}=\begin {bmatrix}-2\\0\\\frac {3}{2}\\0\end {bmatrix}\cdots(11)$

(9)와 (11)의 합으로 $\mathbf {x}_{complete}$를 구할 수 있습니다.

 $\mathbf {x}_{complete} = c_1\begin {bmatrix}-2\\1\\0\\0\end {bmatrix}+c_2\begin {bmatrix} 2\\0\\-1\\1\end {bmatrix} + \begin {bmatrix}-2\\0\\\frac {3}{2}\\0\end {bmatrix}\cdots(12)$

 여기서 중요한 사실은 $\mathbf {x}_{particular}$의 basis에 상수를 곱하지 않습니다. 왜냐하면 $\mathbf {b}=0$가 아니라 특정한 값으로 제시되어 있기 때문에, 이를 만족하는 해는 유일하기 때문입니다.

 

 25.4. Information for Solution.

 크기가 $m \times n$이고, Rank가 $r(r\leq m, r\leq n)$인 matrix $\mathbf {A}$에 대하여, 각 경우에 대해 Solution의 종류를 판단해 봅시다.

 

 1) $r = n < m$인 경우.

  주어진 경우는 column의 수와 rank의 수가 같기 때문에 Free column이 0입니다. 주어진 경우를 만족하는 matrix를 예시를 들어봅시다. $\begin {bmatrix} a_{11}&a_{12}&a_{13}&|&b_1\\0&a_{22}&a_{23}&|&b_2\\0&0&a_{33}&|&b_3\\0&0&0&|&b_4 \end {bmatrix}$를 생각해봅시다. 일단 $b_4 \neq 0$라면 해가 존재하지 않습니다. $b_4 = 0$인 경우를 생각해 봅시다. 먼저 $\mathbf {x}_{null\ space}$를 구합니다. $\mathbf{b} = 0$이라 하고 basis를 구하면 오로지 zero vector로만 구해집니다. 즉, $r = n < m$인 경우는 $\mathbf{x}_{null\ space}$은 항상 zero vector입니다. 이는 조건을 만족하는 임의의 크기 $m \times n$를 가지는 Matrix에도 성립합니다. $\mathbf{x}_{null\ space}$가 zero vector이기 때문에, $\mathbf{x} = \mathbf {x}_{particular}$라고 결론 지을 수 있겠습니다. $\mathbf {x}_{particular}$는 유일한 해를 가지기 때문에, 이 경우 $\mathbf {x}$는 해가 존재하지 않거나 유일한 해를 가집니다.

 

 2) $r = m < n$인 경우.

  주어진 경우를 만족하는 matrix $\begin {bmatrix} a_{11}&a_{12}&a_{13}&a_{14}&|&b_1\\0&a_{22}&a_{23}&a_{24}&|&b_2\\0&0&a_{33}&a_{34}&|&b_3\end {bmatrix}$ 로 예시를 들어 생각해 봅시다. $\mathbf {x}_{null\ space}$를 구하기 위해 $\mathbf {b} = 0$라고 합시다. row 3을 통해 $x_3$와 $x_4$를, row 2에서 $x_2$를, row 1에서 $x_1$을 구할 수 있기 때문에 basis를 반드시 찾을 수 있습니다. 이는 조건을 만족하는 임의의 크기 $m \times n$ matrix $\mathbf {A}$에서도 성립하므로, $\mathbf {Ax} = \mathbf {b}$에서 모든 $\mathbf {b}$에 대하여 반드시 해를 구할 수 있습니다. 이때 basis의 개수는 Rank와 같기 때문에 $m$과 같은 수만큼 basis가 구해집니다.  $\mathbf {x}_{null\ space}$는 basis들의 선형 결합으로 나타나고 이는 zero vector가 아니기 때문에, 주어진 경우는 항상 무한한 해를 가집니다.

 

 3) $r = m = n$인 경우.

 이 경우는 1)에서 $b_4 = 0$인 경우와 같습니다. 1)에서 $b_4=0$일 때 내렸던 결론처럼, 이 경우에는 유일한 해를 가집니다.

 

 4) $r < m, r < n$인 경우.

  쉽게 생각해서 2)의 matrix $\mathbf {A}$에서 zero row vector를 추가합시다. Matrix를 다음처럼 쓸 수 있겠습니다.

$\begin {bmatrix} a_{11}&a_{12}&a_{13}&a_{14}&|&b_1\\0&a_{22}&a_{23}&a_{24}&|&b_2\\0&0&a_{33}&a_{34}&|&b_3\\0&0&0&0&|&b_4\end {bmatrix}\cdots(13)$

 (13)에서 $b_4 \neq 0$라면, 주어진 조건을 만족하는 $\mathbf {x}$는 존재하지 않음을 쉽게 알 수 있습니다. 만일 $b_4 = 0$라면, 이는 2)와 같은 경우입니다. 2)의 결론대로, $b_4 = 0$일 경우 항상 무한한 해를 가집니다. 두 가지 결론을 종합해 보면 4)의 경우에는 해가 존재하지 않거나 무한한 해를 가집니다.

 

이번 포스팅은 여기서 마치겠습니다. 다음 포스팅에서 Determinant에 대하여 다룰 예정입니다.