Mathematics for ai/선형대수, 벡터 Linear algebra 9

집합의 연산에 닫혀있다 - 입출력 타입이 모두 같다. ex) 덧셈, 곱셈은 자연수 입출력 공간 Space 덧셈과 스칼라 곱 연산에 대해 닫혀 있으면 그 집합은 공간이다. n- 벡터 집합은 모두 공간이다. n차원 벡터 공간 vector space 라고 부를 수 있다. 행렬 A의 열벡터들에 가능한 모든 선형 조합의 해집합(공역)을 열공간 Column Space라고 한다.col(A) 해가 있는 경우 해가 없는 경우 Consistent Linear System Inconsistent Linear System b가 col(A)상에 존재 b가 col(A) 이외 공간에 존재 최소제곱법 Least Squares Method 해가 없는 경우에 b를 col(A)상에 투영한 projwB 를 달성 가능한 최선의 목표로 구할 ..

LU 분해와 QR 분해는 nxn 정방행렬에 대한 분해만 가능, 특이값 분해는 mxn 행렬 분해 가능 특이값 분해는 직교분할, 확대축소, 차원변화가 가능하다. 특이값 분해 SVD Ax = bUDV = A(mxn) U m 차원 회전행렬 (정규직교행렬) mxm D n 차원 확대축소 (확대축소 크기에 따른 정렬형태) mxn V n 차원 회전행렬 (정규직교행렬) 회전 -> 차원확대, 차원축소 -> 회전 = A V -> D -> S = A A의 열벡터 하나를 계산하게 되는 값 강한 응집성은 값의 절댓값이 상대적으로 크다. 확대 축소가 가장 적은값은 취하지 않으면 근사치로 A'를 구성할 수 있다. 주성분 분석 Principal Component Analysis PCA 공분산 행렬 covariance matrix 에 ..

https://youtu.be/sdAuzR3Ce3s 벡터의 내적 Inner Product 두 백터 u와 ㅍ에 대한 내적은 u·v = |u||v|cosθ두 벡터 사이각 θ을 통해 값을 구한다. 좌표계(행렬)를 도입해서 포현하면 u·v = u1v1 + u2v2 + ... + unvn 벡터의 직교 Orthogonal u·v = 0 = u⊥v 두 벡터의 사이각이 90도이기 때문에 u방향으로 v를 전진하면 측정되지 않는다. 벡터의 투영 Projection 두 벡터 u a가 있을 때 벡터 u를 a위에 투영한 벡터를 projaU라고 한다. projaU = (기저 a에 대한 좌표값)a 보완벡터 Complement 벡터 u를 a위에 투영하고 남은것 u - projaU 투영벡터와 보완벡터는 직교관계이다. projaU⊥u-..

정의역 domain 공역 codomain 치역 range 정의역과 공역은 함수의 입출력, Type을 지정하여 사용한다. 선형함수는 두가지 조건을 충족한다. - f(x+y) = f(x) + f(y) - f(cx) = cf(x) 선형함수는 가중치와 덧셈 연산에 대해 가능하다. 변환 Transformation 함수의 입력이 n−벡터이고, 출력이 m−벡터인 함수를 변환(transformation) 특별히 입력과 출력이 같은 경우(n=m) 해당 변환을 연산자(operator) mnist 손글씨 인식 문제 (비선형 변환) R 28∗28 →R 10 행렬은 선형함수이며 변환이다. 따라서 행렬은 선형변환이다. 이세상의 모든 선형변환은 행렬로 표현가능, 코딩 가능하다. - 입출력이 벡터인지 확인 - 기능 function이..

좌표계 A(좌표계)x(좌표값) = I(표준좌표계)b(좌표값) 행렬 : 좌표계 벡터 : 좌표값 벡터는 크기와 방향을 가진 물리량이다. 좌표계를 도입한 후, 벡터의 시작점을 원점으로 맞추고 끝점의 위치를 벡터 v의 수학적 표현으로 정의한다, - v의 크기 : 화살표의 길이 - v의 방향 : 화살표의 방향을 벡터로 표현 단위행렬, 항등행렬이 좌표계로 적용된다. 새로운 좌표계를 만드는 것은 벡터 v에 도착하기 까지 과정을 v1, v2를 몇번이나 사용하였는지 표현하는 것 좌표계의 방향으로 좌표값 만큼의 가중치를 곱하면 b의 좌표값이 나온다. Ax = 항등행렬b 결국 좌항의 좌표계는 단위행렬이기 때문에 b값이 그대로 좌표값이 된다. (b1,b2) b의 좌표값은 열벡터를 가로로 나열해 이렇게 표현 가능해진다. 그래프..

텐서는 스칼라, 벡터, 행렬 모두에 적용된다. 숫자가 나열될 수 있는 방향이 k개라면 k텐서로 부른다. 그래프를 적용하면 더 잘 알 수 있다. 0 - 텐서 스칼라 1 - 텐서 벡터 2 - 텐서 행렬 컬러영상 중 RGB영상은 3 - 텐서이고, RGBA영상은 4 - 텐서이다. xyz 그래프를 생각하면 된다. 분할행렬 Partitioned Matrix 행렬을 분할하여 소단위로 나누어도 계산이 될 수 있다.행렬은 부분행렬 submatrix로 이루어진 직사각형 구조로 확장할 수 있다. 선형조합 Linear Combination Ax는 A의 열벡터에 대한 선형조합, 열벡터의 x값 가중치행렬은 열벡터의 리스트이다.m행 n열 mxn 벡터에서m벡터가 n개 존재한다.

행렬분해 matrix decomposition 인수분해는 다음과 같은 경우 쓰인다. - 분수의 약분 - 두 수의 최대공약수 구하기 - 두 수의 최소공배수 구하기 주어진 숫자를 인수분해 한 상태로 두면 계산에 쓰기 좋다. 행렬분해도 인수분해와 마찬가지로, 행렬을 분해된 상태로 두어 계산에 쓰기 좋게 만든다. 행렬분해 - LU 분해 LU decomposition - QR 분해 QR decomposition - 특이값 분해 SVD, Singular Value Decomposition LU분해 가우스 소거법의 전방소거법을 행렬로 코드화 한 것 L - lower triangular matrix 하삼각행렬 U - upper triangular matrix 상삼각행렬 하삼각과 상삼각을 제외한 부분이 모두 0으로 되어..

선형시스템의 해 Solutions of a Linear System 해가 하나인 경우 해가 없는 경우 해가 여러개인 경우 unique solution no solution infinitely many solutions 3x = 6 0x = 6 0x = 0 Ax = b A의 역수(inverse)가 존재하지 않는 경우, A가 특이(singular)하다고 한다. no solution, infinitely many solutions 해가 있는 경우, 선형시스템이 consistent 하다고 한다. unique solutions, infinitely many solutions 해가 없는 경우, 선형시스템이 inconsistent 하다고 한다. no solutions Gauss elimination 두가지 단계로 실..

연립 일차방정식은 선형 시스템이다. 3x + y = 2 x - 2y = 3 가우스 소거법을 사용하면 6x + 2y = 4 x -2y = 3 두 식을 더하면 7x = 7 x = 1 y = -1 선형대수(Linear Algebra)는 어떤 연립일차방정식 linear system 문제라도 정형적인 방법으로 표현하고 해결하는 방법 선형방정식 (linear equation) E1 = 3x + y + z = 4 E2 = x - 2y - z = 1 E3 = x + y + z = 2 3 X 3 linear System 3 by 3Equation 개수 X 변수의 개수미지수 x, y, z를 unknown, variable 변수라고 한다. x를 구하는 방법 Ax = b A(A 역행렬) x = b(A 역행렬) x = b(A ..