본문 바로가기
선형대수학

[선형대수학] - (Linear Algebra) 개념 정리 Part 1

by jyu_seo_ 2026. 4. 20.

인공지능을 위한 선형대수 강좌소개 : 부스트코스

 

인공지능을 위한 선형대수

부스트코스 무료 강의

www.boostcourse.org

 

본 포스트는 선형대수학의 전반적인 내용에 대해 간락히 정리한 내용이다. 대부분의 내용은 인공지능을 위한 선형대수 - 주재걸 교수님 (edwith) 영상을 참고하여 제작하였습니다. 개념정리 Part2는 주로 행렬대수학과 관련된 내용을 다룹니다.


Chapter 1 - Linear Systems

Linear Equation

Linear system

Homogeneous equation

Over-determined system

Under-determined system

 

Solving Linear System

Linear Combination

Span

From Matrix Equation to Vector Equation

Several Perspectives about Matrix Multiplication

Linear Independence

Linear Dependence

Vector space and subspace

Span and Subspace

Basis of a Subspace

Dimension of Subspace

하나의 부분공간 H를 표현할 수 있는 기저는 유일하지 않다. 하지만 여러개의 기저를 통해서 표현할 수 있는 부분공간의 차원(Dimension)은 유일하다. 부분공간의 차원은 기저벡터의 개수와 동일하다.

Column Space of Matrix

Four fundamental subspaces of a matrix

Rank of Matrix

Dimensions, orthogonality, and solvability

이 관점은 이후 projection(투영)과 least squares를 연결하는 핵심 해석을 제공한다.

 

Transformation

Linear Transformation

Transformations between Vectors

Matrix of Linear Transformation

Onto and One-To-One

Chapter 2 - Least Squares

Least Squares

Inner Product

Properties of Inner Product

Vector Norm

Unit Vector

 

Inner Product and Angle between Vectors

Orthogonal Vectors

Least Square Problem

Normal Equation

Another Derivation of Normal Equation

Orthogonal Projection Perspective

Projection matrix P

Projection matrix for under-determined system

Projection matrix and nullspace

Orthogonal and Orthonormal Sets

Orthogonal and Orthonormal Basis

Transformation: Orthogonal Projection

Orthogonal Projection Perspective

Gram-Schmidt Orthogonalization

Chapter 3 - Eigenvectors and Eigenvalues

Eigenvectors and Eigenvalues

Null Space

Orthogonal Complement

Characteristic Equation

Eigenspace

Diagonalization

Finding V and D

Eigendecomposition

Linear Transformation via Eigendecomposition

Change of Basis

Element-wise Scaling

Back to Original Basis

Linear Transformation via Ak

 

Geometric Multiplicity and Algebraic Multiplicity

Chapter 4 - Singular Value Decomposition

Singular Value Decomposition

SVD as Sum of Outer Products

Another Perspective of SVD

Computing SVD

Diagonalization of Symmetric Matrices

Spectral Theorem of Symmetric Matrices

Spectral Decomposition

Symmetric Positive Definite Matrices

Back to Computing SVD

Eigendecomposition in Machine Learning

Low Rank Approximation of a Matrix

Dimension Reducing Transformation

Chapter 5 - Derivatives of multivariable functions

Gradient

Jacobian matrix

 

Hessian matrix

Laplacian

Taylor expansion

References

인공지능을 위한 선형대수 강좌소개 : 부스트코스

 

인공지능을 위한 선형대수

부스트코스 무료 강의

www.boostcourse.org

Fundamentals of statistical signal processing | Guide books

 

Fundamentals of statistical signal processing | Guide books

Please download or close your previous search result export first before starting a new bulk export. Preview is not available. By clicking download,a status dialog will open to start the export process. The process may takea few minutes but once it finishe

dl.acm.org

다크 프로그래머 :: Gradient, Jacobian 행렬, Hessian 행렬, Laplacian

 

Gradient, Jacobian 행렬, Hessian 행렬, Laplacian

Gradient(그레디언트), Jacobian(야코비언) 행렬, Hessian(헤시안) 행렬, Laplacian(라플라시안) ... 문득 정리의 필요성을 느껴서 적어봅니다. 이들을 함께 보는 이유는? 그냥 왠지 이들은 세트로 함께 봐야

darkpgmr.tistory.com

[행렬대수학] 행렬식(Determinant) 1 - 행렬식의 개념 :: 간토끼 DataMining Lab

 

[행렬대수학] 행렬식(Determinant) 1 - 행렬식의 개념

안녕하십니까, 간토끼입니다. 이번 포스팅에서는 행렬식(Determinant)에 대해서 다뤄보겠습니다. 내용이 다소 길어 2부작으로 나누어 올리려고 합니다. 행렬식(Determinant)이란, 정방행렬(Square Matrix)

datalabbit.tistory.com

C:\working\pseudo_inverse.dvi

혁펜하임 | AI & 딥러닝 강의 - YouTube

 

혁펜하임 | AI & 딥러닝 강의

2025년 세종도서 [Easy! 딥러닝] 저자 [ 이력 ] ✅ 혁펜하임 아카데미 대표 (22.04 ~) ✅ 성균관대학교 의과대학 초빙강사 (~ 24.12) ✅ 삼성전자 책임연구원 (~ 22.03) ✅ 교육 컨텐츠 크리에이터 (19.10 ~) (

www.youtube.com