선형변환의 행렬표현(matrix representation)은 두 벡터공간 $V$, $W$의 차원이 유한할 때, 선형변환 $T: V \to W$를 나타내는 행렬이다. 행렬표현은 정의역과 공역의 기저의 선택에 따라 달라질수 있으며, 정의역과 공역이 같은 선형변환 $T: V \to V$의 임의의 기저에 대한 행렬표현은 모두 닮음 관계이다.

유한차원 벡터공간 $V$와 기저 $\beta=\{\beta_{1},\cdots,\beta_{n}\}$이 주어져 있을 때, 임의의 $v\in V$에 대하여,

을 만족하는 스칼라 $c_{1},\cdots,c_{n}$가 유일하게 존재하는데, 아래의 열벡터

를 $v$의 좌표라고 한다.

체 $F$위의 두 유한차원 벡터공간 $V$와 $W$가 주어져 있고, 그 기저가 각각 $\beta_V$, $\beta_W$이라 하자. $\text{dim}V=n$, $\text{dim}W=m$일 때, 함수 $L:[v]_{\beta_{V}}\mapsto [ T(v) ]_{\beta_{W}}$은 $F^{n}$에서 $F^{m}$으로 가는 선형변환이다. 그러므로,

를 만족하는 $m\times n$행렬 $[T]_{\beta_{V}}^{\beta_{W}}$가 존재하며 이를 선형변환 $T$의 행렬표현이라고 한다. $T$의 정의역과 공역이 같을 때, $[T]_{\beta}$는 $[T]_{\beta}^{\beta}$를 의미하며, 표준순서기저(standard ordered basis)에 대한 행렬표현은 기저를 생략하여 $[T]$라고 쓴다.

실수체 $\mathbb{R}$ 위의 $n$차 이하의 다항식 집합 $\mathcal{P}_{n}(\mathbb{R})$에 주어진 선형변환 $D : \sum_{i=0}^{n} a_{i} x^{i} \mapsto \sum_{i=0}^{n} i a_{i} x^{i-1}$을 미분연산자라 한다. $D$의 순서기저 $\beta=\{1,x,\cdots,x^{n}\}$에 대한 행렬표현은

이다.

체 $F$위의 $n$차원 벡터공간 $V$와 $m$차원 벡터공간 $W$에 대하여, $V$에서 $W$로 가는 임의의 선형변환을 모은 집합을 $\mathfrak{L}(V,W)$이라 하자. 또한, 성분이 $F$의 원소인 $m\times n$ 행렬을 모은 집합을 $\mathfrak{M}_{m,n}(F)$이라 하자. $V$와 $W$의 기저 $\beta_{V}$와 $\beta_{W}$가 주어졌을 때, 함수 $f:T\mapsto [T]_{\beta_{V}}^{\beta_{W}}$는 $\mathfrak{L}(V,W)$에서 $\mathfrak{M}_{m,n}(F)$으로 가는 동형사상[1]이다. 즉, $\mathfrak{L}(V,W)$와 $\mathfrak{M}_{m,n}(F)$의 대수적인 구조가 같다고 볼수 있는데, 이를 선형대수학의 기본정리라고 한다.

$n$차원 벡터공간 $V$의 임의의 두 기저 $\beta=\{\beta_{1},\cdots,\beta_{n}\}$과 $\beta^{\prime}=\{\beta_{1}^{\prime},\cdots,\beta_{n}^{\prime}\}$에 대하여, 행렬 $P$를

라 정의했을 때, $P[v]_{\beta}=[v]_{\beta^{\prime}}$이 성립한다. 즉, 선형변환 $Y=PX$는 $v$의 $\beta$에 대한 좌표를 $\beta^\prime$에 대한 좌표로 바꿔주는 선형변환으로 이해할 수 있다. 이러한 행렬 $P$를 기저변환행렬, 좌표변환행렬 또는 추이행렬 등으로 부른다. 또한 기저변환행렬은 항등변환 $I$의 행렬표현 $[I]_{\beta}^{\beta^{\prime}}$이다.

두 정사각행렬 $A$, $B$에 대하여, $P^{-1}AP=B$를 만족하는 가역행렬 $P$가 존재하면 두 행렬이 닮았다고 한다. $n$차 정사각행렬 $A$에 대하여 선형변환 $L_{A}:F^{n}\to F^{n}$을

라고 하자. 그러면, $F^{n}$의 표준순서기저에 대한 좌표를 임의의 기저 $\beta$에 대한 좌표로 바꾸는 기저변환행렬 $P$가 존재하여, 임의의 $X \in F^{n}$에 대해

를 만족함을 알 수 있다. 즉, $P^{-1}[L_{A}]_{\beta}P=A$가 성립한다. 또한, 닮은 행렬이란 어떤 선형변환의 서로 다른 기저에 대한 행렬표현임을 알 수 있다. 이를 이용하여, 행렬에 정의되는 여러 대상들이 닮음불변량인 경우, 선형변환에 그대로 정의할 수 있다. 예를들어 선형변환의 대각합이란

으로 정의할 수 있다. 이렇게 정의하여도 문제되지 않는 이유는, 대각합이 닮음불변량이기 때문에, 서로 다른 기저에 대한 $T$의 행렬표현이 같은 대각합을 갖기 때문이다.