고유값, 고유벡터의 개념 및 중요성

Q. 고유값과 고유 벡터에 대해 설명해주세요. 그리고 왜 중요할까요?

 

0이 아닌 어떤 벡터 $\vec{x}$와 정방행렬(크기가 n⨯n인 행렬, square matrix) A가 있다고 가정하자.

벡터 $\vec{x}$는 선형 변환 A에 의해 본래의 크기와 방향 모두 변할 수 있다.

 

벡터 $\vec{x}$에 선형 변환 A를 취한 결과인 $A\vec{x}$가 기존 벡터 $\vec{x}$의 방향은 유지한 채로 크기만 변했을 때,

이 벡터 $\vec{x}$를 고유 벡터(eigenvector), 변한 크기를 고유값(eigenvalue)이라 정의한다.

 

다시 말해, 선형 변환 A 이후에도 방향이 변하지 않는 벡터를 고유 벡터라 하고 이때 변형된 크기 정도를 고유값이라고 한다.

 

위의 정의를 식으로 표현하면 다음과 같다.

$$Ax = \lambda x$$

여기서 $\lambda$가 고유값, $\vec{x}$가 고유벡터이다.

 

고유값과 고유벡터는 하나만 존재하거나 그 이상도 존재할 수 있으며, 존재하지 않을 수도 있다.

 

 

고유값, 고유벡터는 데이터 사이언스 분야에서 그 자체의 사용보다는 주로 고유값 분해(Eigen Decomposition), 특이값 분해(Singular Value Decomposition, SVD), 주성분 분석(Principal Component Analysis, PCA) 등의 연산의 기반으로 활용된다.

 

 

요약하자면,

행렬에 의해 선형변환된 벡터가 기존 벡터의 방향을 유지할 때, 이 벡터를 고유벡터라고 하며 선형변환에 의해 변형된 크기를 고유값이라고 한다.

고유벡터와 고유값은 차원 축소를 통해 적은 연산량으로도 충분히 유용한 정보를 보존할 수 있는 특이값 분해, 주성분 분석 등의 기반이 되는 개념으로써 중요성을 가진다.

 

 

 

References

- https://angeloyeo.github.io/2019/07/17/eigen_vector.html

- https://bkshin.tistory.com/entry/%EB%A8%B8%EC%8B%A0%EB%9F%AC%EB%8B%9D-19-%ED%96%89%EB%A0%AC

- https://losskatsu.github.io/linear-algebra/eigen/#%EC%B0%B8%EA%B3%A0%EB%A7%81%ED%81%AC