Essence of Linear Algebra · 시각적 학습 노트

선형대수의
본질
기하다.

숫자 행렬을 계산하는 기술이 아니라, 공간이 어떻게 늘어나고 회전하며 짓눌리는지를 보는 눈. 3Blue1Brown이 보여준 직관을 한 페이지에 모았다.

주제Linear Algebra 형식인터랙티브 노트 출처3B1B Essence Series
CHAPTER 01

벡터, 그건 도대체 무엇인가

같은 단어를 세 분야가 다르게 본다. 물리학자는 공간 속 화살표로, 컴퓨터 과학자는 숫자들의 정렬된 목록으로, 수학자는 덧셈과 상수배가 가능한 무엇으로 본다.

물리학자의 시선

공간 안에 놓인 화살표. 길이와 방향이 같으면 같은 벡터다. 좌표는 그저 화살표를 묘사하는 수단일 뿐.

전산학자의 시선

숫자들의 정렬된 목록. [집크기, 가격, 방수] 같은 데이터의 묶음. 순서가 의미를 가진다.

수학자의 시선

두 벡터를 더할 수 있고 숫자로 곱할 수 있는 모든 것. 형태는 일반화의 결과일 뿐.

이 노트에선 화살표와 좌표 사이를 자유롭게 오가는 관점을 쓴다. 원점에서 출발하는 화살표를 그리면, 그 끝점의 좌표가 곧 벡터의 성분이다.

32  ←→  원점에서 (3, 2)로 향하는 화살표

덧셈은 이어 걷기

벡터 v를 따라 걷고, 그 끝에서 w를 따라 다시 걸으면 결과는 v + w다. 합이 두 화살표의 대각선이 되는 평행사변형 법칙은, 사실 이 "이어 걷기"의 또 다른 모습이다.

곱셈은 늘이기와 뒤집기

숫자 2를 곱하면 길이가 두 배. 0.5를 곱하면 반토막. 음수를 곱하면 방향이 뒤집힌다. 이 "스케일링"이라는 작용 때문에, 벡터에 곱하는 숫자를 스칼라(scalar)라 부른다.

CHAPTER 02

선형 결합과 스팬, 기저

좌표 (3, 2)를 다시 보자. 이건 사실 î를 3번 늘이고 ĵ를 2번 늘여서 더한 결과다. 좌표축의 단위 벡터 두 개가 모든 좌표의 기저(basis) 역할을 한다.

32  =  3î + 2ĵ

두 벡터를 각각 늘여서 더하는 것을 선형 결합(linear combination)이라 한다. 두 스칼라 a, b를 자유롭게 바꿔가며 a·v + b·w를 만들어보면, 도달할 수 있는 모든 점이 한꺼번에 떠오른다 — 그 집합이 스팬(span)이다.

▼ 슬라이더로 a, b를 바꿔보자. 빨간 점이 선형 결합의 결과다.

1.5
1.0
SPAN 한 줄 요약

두 벡터가 다른 방향을 가리키면, 그 스팬은 평면 전체다. 두 벡터가 같은 직선 위에 있으면, 스팬은 그 직선뿐. 후자의 경우 두 벡터는 선형 종속(linearly dependent)이라고 한다.

기저(basis)란?

어떤 공간을 선형 결합으로 만들어낼 수 있는 가장 작은 벡터 집합. 2차원 평면의 기저는 î, ĵ처럼 두 개의 독립적인 벡터다. 3차원이라면 세 개. 기저가 바뀌면 같은 점도 다른 좌표로 표현된다 — 이게 나중에 좌표 변환의 핵심이 된다.

CHAPTER 03

선형 변환, 그리고 행렬

3B1B 시리즈의 심장이다. 행렬을 처음 만났을 때 외웠던 그 이상한 곱셈 규칙? 사실은 "공간이 어떻게 휘는지"를 단 네 숫자로 적어둔 메모일 뿐이다.

"행렬은 동사다. 숫자판이 아니라, 공간에 가하는 작용이다." — 3Blue1Brown

변환의 두 가지 원칙

선형(linear)이라 부르는 변환은 두 가지를 지킨다.

  1. 직선은 직선으로 간다. 휘지 않는다.
  2. 원점은 그대로다. 평행이동은 일어나지 않는다.

더 간결히 말하면, 격자(grid)의 평행선들이 변환 후에도 여전히 평행하고 등간격이어야 한다는 뜻이다.

핵심 통찰

선형성 덕분에, î와 ĵ가 어디로 가는지만 알면 모든 벡터가 어디로 가는지 알 수 있다. 왜냐하면 임의의 벡터 (x, y)xî + yĵ이고, 선형 변환은 이 결합을 그대로 보존하기 때문이다.

Txy  =  x·T(î) + y·T(ĵ)

그래서 î가 가는 곳, ĵ가 가는 곳, 이 두 좌표를 나란히 적으면 그게 바로 행렬이다.

행렬 =  ab cd   파란 열 = î가 가는 곳  ·  분홍 열 = ĵ가 가는 곳

îĵ의 끝점을 직접 끌어보자. 격자 전체가 같이 변한다.

변환 행렬 = [ 1.0   0.0 ;   0.0   1.0 ]
기억할 한 줄

행렬의 각 열은, 변환 후 기저 벡터가 도착하는 좌표다. 행렬 곱셈도 이 관점에서 보면 자연스럽게 따라온다.

CHAPTER 04

행렬 곱셈은 변환의 합성이다

행렬 A 곱하기 행렬 B는 "B를 먼저 적용하고, 그 다음에 A를 적용한" 새로운 변환이다. 그래서 행렬 곱셈은 오른쪽부터 읽는다. 함수 합성 f(g(x))처럼.

(A · B) ·xy  =  A ·( B ·xy)

곱셈 계산이 그 모양인 이유

합성 변환에서도 핵심은 같다: 새 î와 새 ĵ가 어디로 가는가를 구하면 된다. B의 첫 번째 열은 B를 적용한 후의 î. 거기에 A를 또 적용하면? 그게 합성 행렬의 첫 번째 열이다.

교환법칙이 성립하지 않는다

AB ≠ BA. 회전 후 전단과, 전단 후 회전은 다른 그림이 된다. 머리로 외울 게 아니라, "순서를 바꾸면 다른 동작이 나오는 거 당연하지"라고 느끼면 끝.

AB: B 먼저, 그 다음 A

B로 한 번 휜 공간 위에서 A의 변환이 일어난다.

BA: A 먼저, 그 다음 B

A로 한 번 휜 공간 위에서 B의 변환이 일어난다.

CHAPTER 05

행렬식, 공간이 얼마나 늘어났는가

변환은 면적을 늘리거나, 줄이거나, 뒤집는다. 행렬식(determinant)은 이 면적 변화율을 측정한 숫자다. det(A) = 3이면 모든 면적이 3배. det(A) = 0.5이면 절반.

det abcd  =  ad − bc

음수 행렬식?

공간이 뒤집혔다는 뜻이다. 종이를 뒤집어 뒷면이 위로 온 것처럼. 2D에서는 î가 시계 반대 방향이 아니라 시계 방향으로 돌게 된 경우다.

0이 나오면?

면적이 0이 됐다는 건, 2차원 공간이 선이나 점으로 짓눌렸다는 뜻. 두 기저 벡터가 같은 직선 위에 놓이게 된 것이다. 이 경우 역행렬은 존재하지 않는다 — 짓눌린 공간을 다시 펼 방법이 없으니까.

"행렬식이 0이면, 그 변환은 정보를 잃은 것이다."
CHAPTER 06

내적, 그림자의 곱

두 벡터 v, w의 내적은 w를 v 방향으로 정사영(projection)했을 때의 길이v의 길이와 곱한 값이다.

v · w = |v| · |w| · cos θ

같은 방향을 가리키면 양수(+). 수직이면 0. 반대 방향이면 음수(−). "두 벡터가 얼마나 같은 방향을 향하는가"를 재는 척도다.

왜 좌표끼리 곱해서 더하는가

[a, b] · [c, d] = ac + bd. 이 단순한 공식이 그림자 길이의 곱과 같은 값을 준다는 사실은 이중성(duality)이라는 깊은 아이디어와 연결된다 — 1차원 출력 변환과 벡터 사이의 신비한 일대일 대응.

CHAPTER 07

고유벡터와 고유값

변환이 일어나면 대부분의 벡터는 자신이 가리키던 방향에서 벗어난다. 하지만 어떤 특별한 벡터들은 자기가 놓인 직선 위에 그대로 머문다 — 단지 길이만 늘어나거나 줄어들 뿐. 이런 벡터를 고유벡터(eigenvector)라 하고, 그때의 늘어난 배수를 고유값(eigenvalue)이라 한다.

A·v = λ·v

이 한 줄이 전부다. 변환 A를 적용해도, 벡터 v는 방향을 바꾸지 않고 단지 λ배로 늘어났다.

▼ 회전+늘이기가 섞인 변환. 초록색 선이 고유벡터가 놓인 방향. 그 위의 벡터들은 방향이 변하지 않는다.

고유값 λ₁ = 2.0 고유값 λ₂ = 0.5

왜 중요한가

회전축을 찾고 싶다면? 3차원 회전 행렬의 고유벡터(고유값 1짜리)가 바로 회전축이다. 데이터의 주성분 분석(PCA)? 공분산 행렬의 고유벡터가 데이터가 가장 많이 퍼져있는 방향이다. 고유벡터는 "변환이 가장 단순해 보이는 좌표축"이다.

고유 기저로 가면

고유벡터들을 새로운 기저로 삼으면, 같은 변환이 대각 행렬로 표현된다. 행렬 곱셈이 단순한 곱셈으로 바뀐다 — 행렬의 거듭제곱이 쉬워진다. 이것이 대각화(diagonalization)의 위력.

EPILOGUE

한 장으로 압축하면

벡터는 화살표다. 행렬은 공간을 휘는 동사다. 행렬의 열은 기저가 도착하는 곳이다. 행렬식은 면적의 확대율이다. 내적은 그림자의 곱이다. 고유벡터는 변환에서 방향이 변치 않는 화살표다.

이 여섯 문장이 머릿속에 그림으로 떠오른다면, 선형대수의 본질은 잡았다. 나머지는 이 직관 위에 쌓이는 계산 기술이다.

"Once you really see what these objects are doing, the formulas are not facts to memorize — they're descriptions of what you already understand." — Grant Sanderson, 3Blue1Brown