[K-Data x 러닝스푼즈] 3-2. Latent Factor Model과 SVD

# Latent Factor Model?

간단하게 말하면 임베딩을 한다는 뜻!

다양하고 복잡한 유저와 아이템의 특성을 몇개의 벡터로 compact(작게?) 표현

-> 유저와 아이템을 같은 차원 벡터로 표현하여 나타냄

-> 같은 벡터 공간에서 유저와 아이템의 유사한 정도를 눈으로 확인할 수 있음

예시)

유저와 아이템을 같은 벡터공간에 투영

---

# 전통적 SVD란?

Matrix Factorization의 코어 아이디어가 됨!

전통적 SVD

Rating Matrix R에 대해서 

1) 유저 잠재 요인 행렬

2) 잠재 요인 대각행렬

3) 아이템 잠재 요인 행렬

이렇게 세가지의 행렬로 분해하는 것이다.

 

=> 이것은 그냥 선형대수학에서의 개념으로

 

유저와 아이템을 정해진 차원으로 임베딩하고싶다면?

# Truncated SVD?

대표값으로 사용될 k개의 특이값만 사용한다.

특이치의 Top n개를 뽑음!

R과 최대한 비슷한 R^을 구함..정보손실을 줄이면서~_~

---

* 전통적 SVD의 문제점

- 실제 데이터는 대부분 Sparse Matrix인데 SVD는 값이 꽉차있어야 계산 가능함.

- 따라서 결측된 값을 채워서 Dense Matrix(꽉차있음)을 만들어 SVD를 수행하는데

이 방법은 데이터의 양을 상당히 증가시켜 계산 비용이 높아진다.

- 정확하지 않은 Imputation(데이터 채우기)는 데이터를 왜곡시키고 예측 성능을 떨어트린다.

 

=> 따라서 SVD의 기본적인 원리를 이용하되, MF(Matrix Factorization)를 학습하기 위한 근사적인 방법이 필요하다!

 

---

# 실제 SVD와 Matrix Factorization

이런식으로 SVD를 통해 분해된 행렬은 결국 유저매트릭스와 아이템 매트릭스의 곱이 됨..!

굳이 데이터의 빈공간을 채워넣지 않아도 사용할 수 있는 방법이됨!

=> 비어있는 행렬 R을 예측

 

# 최종 Matrix Factorization 정의

Rating Matrix를 P와 Q로 분해

P-> U*k

Q-> I*k

MatrixFactorization의 결과로 나온 예측값을 추천에 활용한다!

최대한 실제와 비슷하도록(?)

 

---

오늘은 SVD 원리를 이용한 Matrix Factorization의 내용에 대하여 포스팅 해보았습니다!

내용이..수학적 원리가 들어가다보니까 두번들어도 이해가 어렵더라구요.!

 

계속 반복적으로 보면서 이해를 해보려고 합니다.

 

그럼 오늘은 끗~!~!