고윳값(Eigenvalue), 고유벡터(Eigenvector에 대한 설명)

출처:

https://www.youtube.com/playlist?list=PLZHQObOWTQDPD3MizzM2xVFitgF8hE_ab 

Essence of linear algebra

 

 

-----------------------------------------------------------------------------------------------------------------------------------------------------------------

 

 

 

 

고윳값에 대한 것은 아래 식을 통해 많이 접해보셨을 텐데요

 

 

 

 

 

 

 

바로 대각행렬에 람다를 곱해 determinant를 구하고,

람다값을 찾으면 그거 자체가 고윳 값이 됩니다.

 

 

 

하지만 고유벡터의 정의는 따로 존재하죠.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

선형변환을 해도 스케일링만 되고 자신의 span을 벗어나지 않는 벡터들을

우리는 고유벡터라고 부르고, 그 회전에서의 고유벡터,  자신의 span에 남아있는 벡터를 찾을 수 있다면 그것이 바로 회전축이 됩니다.

 

 

고유값은  변환 도중 늘어나고 줄어드는 정도의 배수에 불과하죠.

 

 

 

 

 

 

 

 

 

 

 

이 의미를 되짚어보며 정리를 해보자면,

결국 그 span은 변하지 않으면서 람다값으로 스케일링한 결과와 같습니다.

 

 

 

 

하지만 행렬벡터 곱셈과 스칼라 벡터 곱셈은 같지 않죠.

 

 

 

 

 

 

 

 

 

람다값, 고윳값으로 스케일링 한다는 것은

항등행렬 I에 람다를 곱하는 것과 같습니다. 

 

 

 

 

 

 

 

 

 

 

결국 람다는, 람다 * I로 쓸수 있게되고,

양면으로 넘겨주면 (A-람다*I)v  = 0이 됩니다.

 

 

 

 

determinant가 0이 되는 것을 찾는 다는 건, 

그 공간의 차원을 낮추는 변환을 찾는 것 입니다. 

결국 det(A-람다*I)=0이 되는 람다값을 계산할 수 있게 되는 것이죠.

 

 

 

 

 

 

최종 정리 식은 다음과 같습니다. 

 

 

 

 

 

 

 

정말 익숙한 식이지만

이제는 다른 관점으로 이해가 되실거라 생각합니다. 

 

 

 

여기서 고유기저, eigen basis의 의미를 짚고 넘어가도록 하겠습니다.

 

 

 

고유기저란,

기저벡터가 고유벡터가 됨을 뜻합니다.

기저벡터 i,j자체가 고유벡터로 정의되는 것이죠.

 

 

이는 대각선 외에 모두 0인 행렬, 대각선 행렬이 A일 경우 해당합니다.

 

 

 

 

 

 

 

 

다음은 고윳값을 쉽고 빠르게 구하는 방법이니, 참고하시길 바랍니다.

 

 

 

 

 

 

Q] 고윳값, 고유벡터가 중요한 이유?

 

데이터 차원축소라고 불리는 PCA(Principal component analysis)나 SVD(Singular value Decomposition)는 고윳값과 고유벡터를 기반으로 계산이 진행되기 때문에 중요한 개념이라고 생각합니다. 결국엔 두 가지 Metric 다 선형 변환 후에도 그 크기는 변하지만 여전히 직교하게 만드는 직교 벡터 집합을 구하는 것이기 때문에 고윳값과 고유벡터의 개념이 사용됩니다. 예시로 컴퓨터 비전에서 차원의 저주는 본질적인 문제였기 때문에 차원축소 알고리즘은 원본 데이터를 간단한 행렬연산을 통해 더 적은차원으로 계산해 문제를 해결할 수 있는 방법이었습니다.