[기초 수학 및 통계]-3. 역행렬과 선형변환

1. 역행렬

-역행렬을 알아야 되는 이유

 

머신러닝 및 딥러닝 연산을 쉽게 표현 및 수행하기 위해 벡터와 행렬 표기법, 전치와 내적 등의 각종 행렬 연산을 정의했었음

XW=Y 이런 식이 나왔었는데, 만약 여기서 W(가중치벡터)를 구하고 싶다!하면 지금 상태로는 할 수 없음

X(인풋데이터)가 남아있기 때문이다

 

수학 시간에 배웠던 방정식을 생각해보면 2x=4 라는 식에서 x를 구하고 싶을 때,

보통 양 변에 1/2를 곱해서 x=2를 도출한다

 

행렬에서도 같은 방식으로 원하는 값을 찾는데, 위의 1/2에 대응되는 행렬이 바로 역행렬

그리고 주어진 행렬의 역행렬이 존재하는지를 결정하는 데 활요하는 값이 행렬식

 

 

2. 단위행렬

대각선의 원소가 모두 1이고 나머지는 모두 0인 행렬

단위행렬=단위 벡터들의 집합

어떤 행렬을 곱해도 곱한 행렬이 반환된다->곱의 항등원 1과 비슷함

 

3행 3열 행렬과 단위벡터를 곱하는 과정

앞벡터는 행벡터, 뒷벡터는 열벡터니까 앞1 뒤1, 앞1 뒤2.. 이런 식으로 곱해서 새로운 행렬을 만든다

 

행렬에 단위행렬을 곱했더니 그대로 행렬이 나옴

즉, 곱의 항등원 1과 유사하며, 임의의 행렬에는 항상 단위행렬이 곱해져 있는 것과 같다고 할 수 있다

 

그리고 행렬의 곱은 변환이니까

단위행렬은 입력행렬과 동일한 출력행렬을 반환하는 변환이다

IA=A일 때 A행렬을 I라는 변환을 통해서 A행렬이 된다는 의미

따라서 임의의 행렬에는 항상 단위행렬이 곱해져 있다=단위행렬을 임의의 행렬이라는 변환을 통해서 임의의 행렬이 되는 것=임의의 행렬은 단위행렬의 변환

 

그러면 아까의 XW=Y식으로 돌아와서

XW=Y에서 W(가중치벡터)를 구하고 싶으면 X(인풋데이터행렬)를 X의 역행렬로 바꿔서 넘길 수 있음

이 때 X의 역행렬이 존재해야 저 식이 성립을 할 텐데, 역행렬이 존재하는지를 결정하는 것이 바로 행렬식

행렬식은 Det(X)라고 표기한다

역행렬의 계산은 사람이 직접 하지 않고 컴퓨터가 수행

그리고 역행렬은 선형회귀분석의 회귀계수를 추정할 때 많이 사용됨

 

 

3. 선형변환

선형: 원점이 변하지 않고 격자 간의 간격이 일정하게 유지되는 변환

 

층 밀림 변환

 

반시계 직교 변환

반시계로 회전

 

확대 변환

 

4. 고유값과 고유벡터

변환을 취해도 방향이 바뀌지 않는 벡터=벡터의 고유한 특성인 방향이 유지=고유(Eigen) 벡터

 

 

+

역행렬 계산- https://foxtrotin.tistory.com/160?category=806719

[선형대수학] 역행렬, 역행렬 변환, 존재유무-쌩초보 눈높이 설명