정의
$A$를 $n\times n$ 크기의 정방행렬(square matrx)라고 하자. 벡터 $\mathbf{x}(\neq \mathbf{0}) \in \mathbf{R}^n$에 대해 다음 식 $(1)$을 만족하는 스칼라 $\lambda \in \mathbf{R}$가 존재할 때 벡터 $\mathbf{x}$를 행렬 $A$의 고유벡터(eigenvector) 또는 특성벡터(characteristic vector)라고 한다.
$$A\mathbf{x}=\lambda \mathbf{x}\tag{1}$$
스칼라 $\lambda$는 행렬 $A$의 고유값(eigenvalue) 또는 특성값(characteristic value)라고 하며, 벡터 $\mathbf{x}$가 $\lambda$에 속한다(belong to)고 한다.
기하학적 의미
행렬 $A$의 고유벡터는 $n$차원 공간 $\mathbf{R}^n$에서 $\mathbf{0}$이 아닌 벡터 $\mathbf{x}$로 $A\mathbf{x}$와 평행(parallel)$하다.
대수적 의미
고유벡터 $\mathbf{x}$는 동차연립1차방정식(homogeneous system of linear equation)(식 $(2)$)의 자명하지 않은 해(nontrivial solution)이다.
$$(\lambda I - A)\mathbf{x}=\mathbf{0}\tag{2}$$
즉, 고유벡터 $\mathbf{x}$는 영공간(null space) $\mathcal{N}(\lambda I - A)$에서 $\mathbf{0}$이 아닌 벡터이다.
위의 식 $(2)$에서 고유값 $\lambda$와 고유벡터 $\mathbf{x}$의 값을 알아야 한다.
고유값 $\lambda$ 찾기
방정식 $(\lambda I - A)\mathbf{x}=\mathbf{0}$이 자명하지 않은 해 $\mathbf{x}$를 갖는다는 것과$\lambda$가 방정식 $(3)$을 만족한다는 것과 필요충분조건이라는 사실을 통해 고유값 $\lambda$를 찾아야 한다.
$$\textrm{det}(\lambda I - A) = \mathbf{0}\tag{3}$$
방정식 $(3)$의 좌변은 $\lambda$에 대한 $n$차 다항식으로 $A$의 특성다항식(characteristic polynomial)이라고 한다. 따라서 고유값은 방정식 $(3)$의 근(root)이 된다.
$A$의 고유벡터를 찾기 위해서는 먼저 방정식 $(3)$의 근 또는 $A$의 고유값을 구한 다음, 각각의 고유값 $\lambda$에 대해 동차연립 $(2)$를 풀어야 한다.