선형변환의 행렬표현(matrix representation)은 두 벡터공간 [math(V)], [math(W)]의 차원이 유한할 때, 선형변환 [math(T: V to W)]를 나타내는 행렬이다. 행렬표현은 정의역과 공역의 기저의 선택에 따라 달라질수 있으며, 정의역과 공역이 같은 선형변환 [math(T: V to V)]의 임의의 기저에 대한 행렬표현은 모두 닮음 관계이다.

유한차원 벡터공간 [math(V)]와 기저 [math(beta={beta_{1},cdots,beta_{n}})]이 주어져 있을 때, 임의의 [math(vin V)]에 대하여,

을 만족하는 스칼라 [math(c_{1},cdots,c_{n})]가 유일하게 존재하는데, 아래의 열벡터

를 [math(v)]의 좌표라고 한다.

체 [math(F)]위의 두 유한차원 벡터공간 [math(V)]와 [math(W)]가 주어져 있고, 그 기저가 각각 [math(beta_V)], [math(beta_W)]이라 하자. [math(text{dim}V=n)], [math(text{dim}W=m)]일 때, 함수 [math(L:[v]_{beta_{V}}mapsto [ T(v) ]_{beta_{W}})]은 [math(F^{n})]에서 [math(F^{m})]으로 가는 선형변환이다. 그러므로,

를 만족하는 [math(mtimes n)]행렬 [math([T]_{beta_{V}}^{beta_{W}})]가 존재하며 이를 선형변환 [math(T)]의 행렬표현이라고 한다. [math(T)]의 정의역과 공역이 같을 때, [math([T]_{beta})]는 [math([T]_{beta}^{beta})]를 의미하며, 표준순서기저(standard ordered basis)에 대한 행렬표현은 기저를 생략하여 [math([T])]라고 쓴다.

실수체 [math(mathbb{R})] 위의 [math(n)]차 이하의 다항식 집합 [math(mathcal{P}_{n}(mathbb{R}))]에 주어진 선형변환 [math(D : sum_{i=0}^{n} a_{i} x^{i} mapsto sum_{i=0}^{n} i a_{i} x^{i-1})]을 미분연산자라 한다. [math(D)]의 순서기저 [math(beta={1,x,cdots,x^{n}})]에 대한 행렬표현은

이다.

체 [math(F)]위의 [math(n)]차원 벡터공간 [math(V)]와 [math(m)]차원 벡터공간 [math(W)]에 대하여, [math(V)]에서 [math(W)]로 가는 임의의 선형변환을 모은 집합을 [math(mathfrak{L}(V,W))]이라 하자. 또한, 성분이 [math(F)]의 원소인 [math(mtimes n)] 행렬을 모은 집합을 [math(mathfrak{M}_{m,n}(F))]이라 하자. [math(V)]와 [math(W)]의 기저 [math(beta_{V})]와 [math(beta_{W})]가 주어졌을 때, 함수 [math(f:Tmapsto [T]_{beta_{V}}^{beta_{W}})]는 [math(mathfrak{L}(V,W))]에서 [math(mathfrak{M}_{m,n}(F))]으로 가는 동형사상[1]-module isomorphism이며, [math(V=W)]일 때는 추가로 곱셈도 보존되어 [math(F)]-algebra isomorphism이 된다. 여기서 선형변환의 곱셈이란, 선형변환의 합성을 뜻한다.]이다. 즉, [math(mathfrak{L}(V,W))]와 [math(mathfrak{M}_{m,n}(F))]의 대수적인 구조가 같다고 볼수 있는데, 이를 선형대수학의 기본정리라고 한다.

[math(n)]차원 벡터공간 [math(V)]의 임의의 두 기저 [math(beta={beta_{1},cdots,beta_{n}})]과 [math(beta^{prime}={beta_{1}^{prime},cdots,beta_{n}^{prime}})]에 대하여, 행렬 [math(P)]를

라 정의했을 때, [math(P[v]_{beta}=[v]_{beta^{prime}})]이 성립한다. 즉, 선형변환 [math(Y=PX)]는 [math(v)]의 [math(beta)]에 대한 좌표를 [math(beta^prime)]에 대한 좌표로 바꿔주는 선형변환으로 이해할 수 있다. 이러한 행렬 [math(P)]를 기저변환행렬, 좌표변환행렬 또는 추이행렬 등으로 부른다. 또한 기저변환행렬은 항등변환 [math(I)]의 행렬표현 [math([I]_{beta}^{beta^{prime}})]이다.

두 정사각행렬 [math(A)], [math(B)]에 대하여, [math(P^{-1}AP=B)]를 만족하는 가역행렬 [math(P)]가 존재하면 두 행렬이 닮았다고 한다. [math(n)]차 정사각행렬 [math(A)]에 대하여 선형변환 [math(L_{A}:F^{n}to F^{n})]을

라고 하자. 그러면, [math(F^{n})]의 표준순서기저에 대한 좌표를 임의의 기저 [math(beta)]에 대한 좌표로 바꾸는 기저변환행렬 [math(P)]가 존재하여, 임의의 [math(X in F^{n})]에 대해

를 만족함을 알 수 있다. 즉, [math(P^{-1}[L_{A}]_{beta}P=A)]가 성립한다. 또한, 닮은 행렬이란 어떤 선형변환의 서로 다른 기저에 대한 행렬표현임을 알 수 있다. 이를 이용하여, 행렬에 정의되는 여러 대상들이 닮음불변량인 경우, 선형변환에 그대로 정의할 수 있다. 예를들어 선형변환의 대각합이란

으로 정의할 수 있다. 이렇게 정의하여도 문제되지 않는 이유는, 대각합이 닮음불변량이기 때문에, 서로 다른 기저에 대한 [math(T)]의 행렬표현이 같은 대각합을 갖기 때문이다.