[기초 수학 및 통계]-1. 선형대수, 행렬, 벡터의 개념

선형

상수와 변수를 알아야 함

a가 고정이면 x는 변한다->a는 상수, x는 변수

a가 변하고 x는 고정이다->a는 변수, x는 상수

 

~에 대한 식은 변수를 기준으로 한다

a가 상수, x가 변수면 x에 대한 식

 

일반적으로 이런 식에서는 a는 상수, x는 변수를 의미함

 

 

선형성

상수*변수의 합의 형태로 표현되는 특성

위 식은 선형성을 만족한다

 

대수

데이터 사이의 관계를 일반화 하고자 함

->특정 숫자가 아니라 숫자를 대표할 어떤 문자(변수)를 대신 사용함=대수

->변수를 쓰면 어떤 X값이 들어와도 Y값을 찾을 수 있다

 

 

일반적인 대수-연립방적식

위의 1,2,3,4는 선형관계를 만족함(상수*변수의 합)

1,2,3,4를 더 일반화 시킬 수는 없을까?

 

예를 들어 위의 같은 식이 있다고 했을 때

더 간단하게 하기 위해서 벡터와 행렬로 표현하기 시작함

 

그 식을 더 간단하게 하면 이렇게 표현할 수 있다

그리고 저 식은 선형관계가 성립한다

 

선형대수: 선형관계를 중점으로 대수적인 관계 및 연산을 연구하는 과목

즉, 선형성을 가지는 식은 선형대수로 간단하게 표현할 수 있다

 

선형대수-딥러닝에 사용함(인공 신경 구조)

ex) 데이터(x)와 각각의 가중치(w)를 곱한 선형성을 같는 계산식을 선형대수 표기로 간단히 만들고, 벡터로 표시

 

 

(참고) 선형vs비선형 구분

특정 변수로 편미분했을 때, 다른 변수들이 모두 사라지면 선형모형이다

 

저 다중선형회귀모형을 편미분 했을 때 변수 a가 없어지고 x만 남았음->선형모형이다

 

 

벡터

방향과 크기를 가짐

 

표기

기준점부터 어느 방향으로 얼만큼 이동했는지 최종 좌표를 점으로 표시

문자로 표기할 때는 화살표

수식으로 표기할 때는 최종 좌표를 배열로 표시

 

선형대수에서 벡터는 일반적으로 시작점은 원점(0,0)으로 가정함

왜? 시작점이 원점이면 벡터를 좌표평면 위의 점으로 표시할 수 있음

 

[2 -2]의 첫 번째 원소 2는 x축으로 2만큼 이동한 것, 두 번째 원소 -2는 y축으로 -2만큼 이동한 것

 

 

스케일링과 스칼라

스케일링: 벡터의 크기=힘을 조절하는 작업

스칼라: 크기만 있고 방향을 가지지 않는 양(=상수)

 

벡터*스칼라 를 하면 크기를 조절할 수 있음

벡터에 곱해져서 크기를 조절하는 스칼라(상수)를 계수라고 함

 

ex) 1V(벡터)에 2(스칼라)가 곱해지면 2V로, 2배의 크기를 가진 벡터가 됨

 

 

단위벡터

각 축방향에서의 한 칸 의미, 벡터의 이동량 계산할 때 씀

 

모든 벡터는 단위벡터로 표현할 수 있다

 

행렬

2가지 관점으로 볼 수 있다

 

1) 행렬은 벡터들의 집합이다

각 열은 하나의 벡터

단위벡터의 집합은 단위행렬

 

 

2) 행렬은 변환(함수) 이다

Input벡터를 행렬에 통과시켰더니 새로운 출력벡터로 변환되었으니 함수라고 볼 수 있다

 

예) 행렬이 단위벡터를 바꾸었다

 

Input벡터 [-1 2]를 단위벡터로 하면 -1[1 0] + 2[0 1]이라고 표현할 수 있다

A행렬에다가 넣으면 -1[1 -2] + 2[3 0] = [5 2]가 된다

(상수는 변하지 않는다)

 

이 식을 일반화하면 아래와 같이 표현할 수 있다

여기서 행렬도 일반화하면 아래처럼 된다

 

즉, 벡터가 행렬로 변환되는 과정을 일반화하면 벡터와 행렬의 곱이 된다

 

 

따라서 같은 논리로 아까 위에서 했던 예시를 벡터와 행렬의 곱으로도 표현할 수 있다

다이렉트로 계산해버릴 수 있는 것임

 

 

결론

벡터: 시작점과 방향, 이동하는 양, 최종 좌표를 포함함

-벡터는 좌표평면에서는 화살표나 점, 수식으로는 배열로 표시

-배열로 표시된 벡터를 보면 방향, 이동량, 최종 좌표를 상상하기

 

행렬: 벡터들의 집합

-행렬은 항상 각각의 열(혹은 행)벡터로 구분하는 습관을 들이기

 

벡터는 스케일링을 통해서 크기 조정

벡터를 스케일링하고 합해서 새로운 벡터 만들 수 있음

 

단위벡터: 가장 기본이 되는 벡터

모든 벡터는 단위벡터로 분해해서 위치, 방향, 이동량을 파악 가능

단위벡터를 결합해서 새로운 벡터를 만들 수 있음