[Math] Linear algebra 의 데이터와 계산

선형 대수학이란?

 

벡터 공간, 벡터, 선형 변환, 행렬, 연립 선형 방정식 등을 연구하는 대수학의 한 분야

 

부연설명..

벡터 공간 : 수학적 구조로, 벡터를 다루는 공간. 더하거나 곱할 수 있음

벡터 : 방향과 크기를 가지는 양. (속도, 힘)

선형 변환 :  벡터 공간에서의 벡터들의 연산 (회전, 확대/축소)

행렬 : 직사각형 형태의 숫자 배열  (2 x 3 행렬)

연립 선형 방정식 : 여러 개의 선형 방정식을 함께 풀어서 해를 찾는 과정

대수학 : 수의 연산을 다루는 수학 분야

 

---

 

선형대수학은,

해가 있거나, 없거나, 무한히 있거나 3가지중 하나이다.

 

예를 들어 두 이동 하는 물체가 만나는 순간이라고 하면,

출발 시간은 다르지만 뒤늦게 출발한 물체가 빨라서 결국 만나는 경우 해가 하나 이다.

하지만 똑같은 속도라서 평행하여 만나지 못하는 경우는 해가 없고,

똑같은 속도인데 똑같은 시간에 출발하면 해가 무한하다.

 

 

 

회귀모듈은,

$ y = a + bx_{1} + cx_{2} + ... + mx_{m} $

[

$ y_{1} = a + bx_{1,1} + cx_{1,2} + ... + mx_{1,m} $

$ y_{2} = a + bx_{2,1} + cx_{2,2} + ... + mx_{2,m} $

...

$ y_{n} = a + bx_{n,1} + cx_{n,2} + ... + mx_{n,m} $

]

부동산 데이터이면,

$y_{i}$ 는 그 집의 (예상) 가격

a, b, c ~ m 은 특성 변수. 거리나 침실의 개수 등

x 는 그 집의 실제 값들

a 의 경우는 y 절편으로, 집 가격이 될 수 있는 최종적인 변수로 집값의 평균에 영향을 준다.

 

---

전치 (transpose)

 [1,

 2,            =  $[1, 2, -3, -4]$

-3,

-4] T

 

 

노름 벡터

• L2 Norm
  • $ ||x||_{2} = \sqrt[]{\sum_{i=1}^n xi^2} $
  • 일반적인 0,0 으로부터의 거리를 나타내는 '유클리디안 거리' 
  • $ ||x||_{2} $대신 $||x||$ 나 $|x|$ 로도 표기함

 

단위 벡터

• $||x|| = 1$ 인 벡터

 

그 외 노름

• L1 노름 : 절대값을 더한 것 과 같음 , 제곱L2 노름 : 제곱한 것을 더해줌. 저비용, 맥스 노름 , 일반화된 Lp 노름

 

---

Basic Vectors

• 스케일 될 수 있는 벡터

 

Orthogonal Vectors (직교 벡터)

• 벡터가 서로 90도로 직교
• $x ^T y = 0$ 이면 x 와 y 는 서로 직교 벡터이다 
• Orthonormal Vectors = orthogonal & unit norm

 

Matrices (행렬)

• 2차원 배열 rows x columns

# slicing 연습
X[1,:] # 1행 전체 행으로 반환
X[:,0] # 0열 전체 행으로 변환하여 반환
X[0:2,0:2] # 0 과 1 행, 0 과 1 열 포함 metrices

 

텐서

• 4차원 텐서 표기 : $ X_{(i,j,k,l)} $
• 주로 이미지에서 사용하는 4차원 텐서 예 : 이미지 배치 수, 픽셀 (높이), 픽셀 (넓이), 컬러 채널 수

 

---

 

 

텐서의 전치

• $ (X^T)_{i,j} = X_{j,i} $
• i 가 j 가 되고 j 가 i 로 되므로, 마치 행렬의 좌측 위로 부터 하단 우측 방향으로 대각선 줄을 긋고 플립된 것 같이 변한다.

 

스칼라와의 연산

• 스칼라의 값을 각 값들과 연산하면 끝
• 텐서플로, 파이토치의 경우 연산자 오버로드 하므로 같은 방법으로 연산 가능하다
• 예)  X*2 , X+2, X*3+3

 

아다마르 곱

• $A \odot X$
• 두 개의 동일한 크기를 가진 행렬 또는 벡터 간에 대응하는 원소끼리 곱한 결과