AIMS Study Blog

데이터를 분석할 때, 특히 EDA를 할 때 feature 간의 상관관계를 파악하는 경우가 많이 있습니다. 이런 경우 주로 상관계수를 분석한다고 합니다. 이 상관관계수가 무엇인지, 그리고 공분산이 무엇인지 알아보겠습니다. 간단히 말하자면, 상관계수는 공분산을 단위화시킨 것입니다. 데이터마다 다른 스케일을 가지고 있기 때문에, 상관관계의 절대적인 값으로 표현하기 위해 단위화 시키는 것입니다. 따라서 우리는 공분산의 개념을 먼저 알아야 합니다. 어느정도 데이터 분석 경험이 있거나 통계 분석이 있는 분들은 공분산의 정의를 모르더라도 상관관계와 연관을 지어 어떤 역할을 하는 것인지는 추론이 가능할 것입니다. 위키피디아의 공분산의 정의는 다음과 같습니다. 공분산(共分散, 영어: covariance)은 2개의 확률변..

Q. 공분산과 상관계수는 무엇일까요? 수식과 함께 표현해주세요. 공분산이란? 공분산(Covariance)은 2개의 확률 변수의 상관 관계를 나타내는 값이다. 두 확률 변수 X, Y에 대해 공분산은 다음과 같이 계산된다. $E(X) = \mu_X , E(Y) = \mu_Y$이면 $$ Cov(X,Y)= E((X-\mu_X)(Y-\mu_Y))$$ 두 확률 변수의 관계에 따라 공분산의 값의 범위가 나뉘는데, X, Y가 독립이면 $Cov(X, Y) = 0$, 상관 없음 X가 증가할 때 Y도 같이 증가하면 $Cov(X, Y) > 0$, 양의 상관관계 X가 증가할 때 Y는 감소하면 $Cov(X, Y) < 0$, 음의 상관관계 공분산의 문제점 공분산은 두 확률 변수의 상관관계가 어떤 방향인지(양의 방향, 음의 방향, ..

Question. 공분산과 상관계수는 무엇일까요? 수식과 함께 표현해주세요 공분산 (Covariance) 공분산이란 2개의 확률변수의 상관관계의 정도를 나타내는 값이다. 공분산의 값이 양수라면, 두 확률변수는 양의 선형 관계가 있고, 공분산의 값이 음수라면 두 확률변수는 음의 선형관계가 있다. 또, 공분산은 아래와 같은 성질을 가진다. 같은 확률변수에 대한 공분산은 확률변수의 분산과 같으며, Cov(X,Y) = Cov(Y,X)로 동일하다. 또한, Cov(aX, bY)의 경우 ab Cov(X, Y)와 같다. 피어슨 상관계수에 사용되는 표본 공분산은 다음과 같다. 상관계수 (Correlation Coefficient) 상관계수는 두 변수 사이의 통계적 관계를 표현하기 위해 특정한 상관관계의 정도를 수치적으로..

공분산과 상관계수 공분산과 상관계수를 계산하는 목적 공분산과 상관계수는 두 변수 간 어떤 선형적 관계를 가지고 있는지 알아보기 위한 상관분석에서 사용되는 개념들이다. 공분산(Covariance) 공분산은 2개의 확률변수 X, Y가 있다고 가정했을 때, X에서 X의 평균을 뺀 값과, Y에서 Y의 평균을 뺀 값의 곱에 대한 기댓값을 의미한다. 수식은 다음과 같다. 이 식은 계산을 통해서 다음과 같이 나타낼 수 있다. 공분산의 값을 통해서 두 확률변수 X, Y가 서로 어떤 선형적 상관관계를 가지고 있는지에 대해서 알아볼 수 있다. 공분산이 양의 값을 가지면, X가 증가할 때 Y가 증가하는 양의 선형 관계에 있다. 공분산이 음의 값을 가지면, X가 증가할 때 Y는 감소하는 음의 선형 관계에 있다. 두 확률변수 ..

Q. 공분산과 상관계수는 무엇일까요? 수식과 함께 표현해주세요. 공분산 공분산 (Covariance)은 2개의 확률변수 X, Y가 주어질 때, 두 확률 변수가 얼마나 상관이 있는지 나타내는 값이다. 즉 두 확률 변수가 함께 변하는지를 나타낸 값이며, 공분산은 X의 편차와 Y의 편차의 곱의 평균과 같다. Cov[X,Y] > 0 : X가 증가할 때 Y도 증가한다. Cov[X,Y] < 0 : X가 증가할 때 Y는 감소한다. Cov[X,Y] = 0 : 두 변수가 독립적이라면 공분산은 0이다. 하지만 공분산이 0이라고 해서 항상 독립적이라고 볼 수는 없다. 하지만 공분산은 X와 Y의 단위의 크기에 영향을 받는다는 단점이 있다. 예를 들어, 100점 만점인 두 과목의 점수 비교와 10점 만점인 두 과목의 점수 비교..