오늘은 이전 게시물에서 다루었던 부분공간들을 발견할 수 있는, 그리고 이후 문제 해결에서 도움이 되는 가우스-조던 소거법과, rref(기약 행사다리꼴)에 대해서 알아보도록 하겠습니다. Gauss-Jordan Elimination(가우스-조던 소거법) 이전 게시물에서 가우스 소거법(Gaussian Elimination)을 다룬 적이 있습니다. 이번에는 가우스 소거법이 아니라 한층 더 나아간, 가우스-조던 소거법에 대해서 다뤄볼 것입니다. 우리는 이전에 가우스 소거법을 이용하여 주어진 행렬 ((A))를 ref, row echelon form의 형태로 만들어주었습니다. https://jaehoonstudy.tistory.com/12 Solving ((A))((x)) ((=)) ((b)) (When ((n)) ..
오늘은 선형대수의 4개의 주요 부분공간에 대해서 다뤄보려고 합니다. 간단히 다루고, 다음 게시물에서 이를 찾아내는 방법에 대해서 가우스-조던 소거법과 함께 다뤄보도록 하겠습니다. 4 Fundamental Subspaces 우리는 이전에 부분공간이 무엇인지에 대해 다뤘었습니다. 이번에는 선형대수학에서 중요한 부분공간 4개를 다뤄보려고 하는데, 그것은 각각 Column space, Row space, Null space, Left nullspace 입니다. 이들을 정의와 함께 보시죠. 이렇게가 각각 공간들의 정의입니다. Column space는 ((A))((x)) 를 했을 때 나오는 모든 벡터들이 이루는 공간이며, Row space는 행렬의 행을 가지고 행((y))를 했을 때 나오는 모든 벡터들이 이루는 공..
오늘은 Vector space와 그 subspace에 대해 알아보도록 하겠습니다. Vector Space의 정의 Vector space는 그 공간의 원소(벡터)들을 서로 더하고 늘리거나 줄일 수 있는 비어있지 않은 공간입니다. 벡터 공간의 벡터들과 스칼라들은 다음 10가지 공리를 따라야합니다. ((u)), ((v)), ((w))는 벡터이고, ((c)), ((d))는 스칼라입니다. ((u)) ((+)) ((v)) 가 공간 ((V)) 안에 존재한다. ((u)) ((+)) ((v)) = ((v)) ((+)) ((u)) (((u)) ((+)) ((v))) ((+)) ((w)) = ((u)) ((+)) (((v)) ((+)) ((w))) ((u)) ((+)) ((-u)) ((=)) ((0)) 을 만족시키는 영벡터..
오늘은 positive definite matrix와 Hessian, 그리고 Convexity에 대해 간단히 다뤄보도록 하겠습니다. Definition(정의) 우선 정의부터 알아야겠죠, Positive definite matrix는 다음과 같은 정의를 따르는 어떤 행렬입니다. ((x^{T}))((A))((x)) ((>)) ((0)), ((x)) ((\neq)) ((0)) 이게 무슨 정의인가 싶습니다. 한 눈에 들어오지도 않고요. 하나하나 뜯어서 살펴보겠습니다. 우리가 내적을 쓸 때, 예를 들어서 ((a))와 ((b))를 내적할 때, 표기는 다음과 같다는 것을 다룬 적이 있습니다. ((a^{T}))((b)) = ((\left | a \right |))((\left | b \right |))((cos\the..
오늘은 matrix의 transpose와 symmetric matrix에 대해 간단히 살펴보도록 하겠습니다. Transpose 만드는 법 이전 게시물에서 transpose에 대해 간단히 다룬 적이 있는데, 바로 행렬 안 성분들의 index를 반대로 바꿔주면 되었습니다. 이렇게 인덱스를 ((ij))에서 ((ji))로 바꿔주면 ((A)) transpose를 구할 수 있습니다. Transpose 관련 성질들 그렇다면 합과 곱에 대한 법칙도 알아볼까요? 여기서 특이한 점은 ((AB))의 transpose를 하면 순서가 바뀐다는 것입니다. 이것을 응용하여 ((A^{T}))((A))의 transpose도 구할 수 있습니다. Symmetric Matrix Symmetrix Matrix(대칭행렬)은 ((S^{T})) ..
오늘은 지난 게시물에 이어서 ((A))((x)) ((=)) ((b))를 풀어야하는 상황에서 ((A))가 ((n)) x ((n)) 정방행렬일 때 이를 푸는 과정에 대해서 마저 다뤄보겠습니다. Part 1에서는 문제에 대한 접근 전략을 소개해드렸습니다. 바로 ((A))((x)) = ((b))의 ((A))를 더 계산하기 쉬운 ((U))꼴로 바꿀 것이라는 접근 전략입니다. 이를 LU factorization이라고 합니다. Upper triangular matrix인 ((U))꼴과 문제 에 대한 접근 전략을 다시 한 번 더 보시려면 아래의 part 1 게시물을 참고하시면 되겠습니다. https://jaehoonstudy.tistory.com/11 Solving ((A))((x)) ((=)) ((b)) (When ..
오늘은 ((A))((x)) = ((b))를 풀어야하는 상황에서 ((A))가 ((n)) x ((n)) 꼴의 정방행렬일 때 이를 푸는 방법에 대해서 다뤄볼 예정입니다. 두 개의 파트로 나누어서 다뤄볼 것인데, part 1에서는 문제에 대한 접근 전략을, part 2에서는 이를 이용해 문제를 해결하는 과정을 다뤄볼 것입니다. Solving ((A))((x)) = ((b)) (When A is n x n)) Triangular Matrix Triangular matrix, 즉 삼각행렬은 행렬의 주 대각선 성분 위쪽 또는 아래쪽의 성분들이 모두 0인 행렬을 말합니다. 위쪽이 모두 0이면 아래쪽에만 숫자들이 있으니 Lower triangular matrix, 아래쪽이 모두 0이면 위쪽에만 숫자들이 있으니 Upper..
오늘은 inverse matrix에 대해 다뤄보려고 합니다. Matrix는 Linear transformation이고, 일종의 함수입니다. input이 들어오면 이렇게저렇게 뭔가를 바꿔서 output이 나오기 때문입니다. 그렇다면 어떤 함수의 역함수도 있을 수 있을 것입니다. 그것이 행렬의 개념으로 들어온게 바로 역행렬입니다. 결국 직관적으로 이해하자면 행렬은 변환이었으니, '역변환' 정도가 되지 않을까 싶습니다. Inverse의 역할 선형대수학의 목적은 선형방정식들을 잘 표현하고, 그들의 해를 구하는 것입니다. 어떤 Matrix의 inverse를 알 수 있다면, 우리는 그 선형방정식들의 해를 구할 수 있습니다. ((A))((x)) = ((b)) 형태의 식이 있을 때, 이것이 의미하는 바는 A의 colu..
오늘은 determinant에 대해서 알아보도록 하겠습니다. determinant는 행렬의 특성을 나타내는 어떤 값입니다. 먼저 위키피디아의 정의를 한 번 보겠습니다. 선형대수학에서 행렬식(determinant)은 정사각 행렬에 스칼라를 대응시키는 함수의 하나이다. 실수 정사각 행렬의 행렬식의 절댓값은 그 행렬이 나타내는 선형변환이 초부피를 확대시키는 배수를 나타내며, 행렬식의 부호는 방향 보존 여부를 뜻한다. 정의에 따라 determinant는 오직 ((n)) x ((n))행렬, 즉 정사각 행렬에서만 정의됩니다. 이 정의가 무슨 뜻인지에 대해서 오늘 이해를 한 번 해보도록 하겠습니다. 정사각 행렬에 스칼라를 대응시키는 함수 determinant는 하나의 숫자(스칼라)값입니다. 그렇다면 이 값을 어떻게 ..
오늘은 CR factorization, 즉, Column-Row factorization에 대해서 다뤄볼 예정입니다. CR Factorization은 무엇인가? CR factorization은 Column-Row factorization의 약자입니다. 이 CR factorization으로 우리는 Matrix의 Rank를 알 수 있습니다. 또한, 이전에 언급했던 모든 행렬의 Column rank와 row rank가 같은지에 대한 증명이기도 합니다. 왜 CR factorization이냐 하면, 일단 factorization이 분해라는 뜻입니다. 그러니까 직역하면 CR 분해입니다. 지금부터 행렬 A를 행렬 C와 행렬 R 간의 곱으로 분해해 볼 것입니다. CR factorization 하는 방법 현재 A라는 행..
