2022.01.14 - [๋จธ์ ๋ฌ๋ | ๋ฅ๋ฌ๋/์ถ์ฒ์์คํ
] - [K-Data x ๋ฌ๋์คํผ์ฆ] 2-1. ์ปจํ
์ธ ๊ธฐ๋ฐ ์ถ์ฒ(CB), TF-IDF [K-Data x ๋ฌ๋์คํผ์ฆ] 2-1. ์ปจํ
์ธ ๊ธฐ๋ฐ ์ถ์ฒ(CB), TF-IDF # ์ปจํ
์ธ ๊ธฐ๋ฐ ์ถ์ฒ? : CB(Content-based Recommendation) ์ ์ A๋ผ๋ ์ฌ๋์ด ๊ณผ๊ฑฐ์ ์ ํธํ ์์ดํ
์ ๋ฉํ๋ฐ์ดํฐ๋ฅผ ๊ฐ์ง๊ณ ๋น์ทํ ์์ดํ
์ ์ ์ A์๊ฒ ์ถ์ฒํ๋ค. => ์์ดํ
์ ๋ฉํ๋ฐ์ดํฐ์ ์) - ์ํ : ๋ฐฐ xod22.tistory.com CB์ ๋ํ ์ด๋ก ์ ๋ค๋ค๋ณด์๋๋ฐ ์ด๋ฒ์ ์ง์ ๋ฐ์ดํฐ๋ฅผ ํ์ฉํ์ฌ ์ปจํ
์ธ ๊ธฐ๋ฐ ์ถ์ฒ(CB)๋ฅผ ์ค์ตํด๋ณด๋ ค๊ณ ํฉ๋๋ค! CB(Content-based Recommendation) : ๋จผ์ ์ค์ต์ ์์ ๊ฐ๋จํ๊ฒ ๋ค์ CB(Content-..
2022.02.17 - [๋จธ์ ๋ฌ๋ | ๋ฅ๋ฌ๋/์ถ์ฒ์์คํ
] - [K-Data x ๋ฌ๋์คํผ์ฆ] 4-3. Multi-Armed Bandit (MAB) [K-Data x ๋ฌ๋์คํผ์ฆ] 4-3. Multi-Armed Bandit (MAB) ์ค์ ์ถ์ฒ์ ๋ง์ด ํ์ฉ๋๊ณ ์๋ ๋ฐฉ๋ฒ์ธ Mutli-Armed Bandit์ ๋ํด ๊ณต๋ถํด๋ณด๋ ค๊ณ ํฉ๋๋ค! Multi-Armed Bandit(MAB)? ๊ฐํํ์ต์ ์๋์ง๋ง ๊ฐํํ์ค๋ธ์ด ํต์ฌ ์์ด๋์ด์ธ Exploitation(์ฐฉ์ทจ) / Exploration(ํํ).. xod22.tistory.com ์ ๋ฒ ํฌ์คํ
์์ MAB์ ๊ธฐ๋ณธ์ ์ธ ์๋ฆฌ์ ๋ํด ๊ณต๋ถํด๋ณด์์ต๋๋ค! ์ด๋ฒ ๊ธ์์๋ MAB์ 4๊ฐ์ง ๋ฐฉ๋ฒ์ ๋ํด ์๊ฐํด๋ณด๋ ค๊ณ ํฉ๋๋ค!! 1. Simple Average Method (greedy ..
์ค์ ์ถ์ฒ์ ๋ง์ด ํ์ฉ๋๊ณ ์๋ ๋ฐฉ๋ฒ์ธ Mutli-Armed Bandit์ ๋ํด ๊ณต๋ถํด๋ณด๋ ค๊ณ ํฉ๋๋ค! Multi-Armed Bandit(MAB)? ๊ฐํํ์ต์ ์๋์ง๋ง ๊ฐํํ์ต์ ํต์ฌ ์์ด๋์ด์ธ Exploitation(์ฐฉ์ทจ) / Exploration(ํํ)์ ํ์ฉ * ์๋ฆฌ 1) ์นด์ง๋
ธ์ ์๋ K๊ฐ์ ์ฌ๋กฏ๋จธ์ ์ N๋ฒ ํ๋ ์ด ํ ์ ์๋ค - ํ๋ฒ์ ํ๊ฐ์ ์ฌ๋กฏ๋จธ์ ์ ๋น๊ธธ ์ ์์! 2) ๊ฐ๊ฐ์ ์ฌ๋กฏ๋จธ์ ์์ ์ป์ ์ ์๋ Reward์ ํ๋ฅ ์ ๋ชจ๋ ๋ค๋ฅด๋ค - Reward๋ 0 ๋๋ 1๋ก ๊ฐ์ 3) ์์ต์ ์ต๋ํํ๊ธฐ ์ํด์ ์ฌ๋กฏ๋จธ์ ์ ์ด๋ค ์์๋ก ๋น๊ฒจ์ผ ํ๋๊ฐ? ๋ชจ๋ ์ฌ๋กฏ๋จธ์ ์ ๋์ผํ๊ฒ ๋น๊ฒจ๋ณธ๋ค(?) -> 5๋ฒ์ฉ -> explore(ํํ) ์ผ์ ํ์๋งํผ ์ฌ๋กฏ๋จธ์ ์ ๋น๊ฒจ๋ณด๊ณ , ๋จ์ ํ์๋ ๊ทธ ์๊ฐ ๋์ ์ ์ผ ๋์ ..
Item2Vec ๋จ์ด๊ฐ ์๋ ์ถ์ฒ ์์ดํ
(Item)์ Word2Vec ๋ฐฉ๋ฒ์ ์ฌ์ฉํ์ฌ ์๋ฒ ๋ฉ! ์ ์ ๊ฐ ์๋นํ ์์ดํ
๋ฆฌ์คํธ๋ฅผ ๋ฌธ์ฅ์ผ๋ก, ์์ดํ
์ ๋จ์ด๋ก ๊ฐ์ ํ์ฌ Word2Vec์ ์ ์ฉ ์์ดํ
์ฐ๊ด ์ถ์ฒ์์ MF๋ฅผ ์ฌ์ฉํ ์์ดํ
๊ธฐ๋ฐ CF๋ณด๋ค ๋์ ์ฑ๋ฅ๊ณผ ์์ง์ ์ถ์ฒ๊ฒฐ๊ณผ๋ฅผ ์ ๊ณต! Item2Vec ์์ธ ์ ์ ํน์ ์ธ์
๋ณ๋ก ์๋นํ ์์ดํ
์งํฉ์ ์์ฑํ๋ค..! ํ์ต์ ํตํด ์์ฑ๋ ์์ดํ
๋ฒกํฐ ๊ฐ์ ์ ์ฌ๋๋ ์ฝ์ฌ์ธ ์ ์ฌ๋๋ฅผ ์ฌ์ฉํจ! Item2Vec ์์ - ์ํ๋ฆฌ์นดTV์ Live2Vec : ์ ์ ์ ์์ฒญ ์ด๋ ฅ = ๋ฌธ์ฅ, Live๋ฐฉ์ก = ๋จ์ด - Spotify์ Song2Vec : ์ ์ ์ ํ๋ ์ด๋ฆฌ์คํธ(์ฌ์ฆ,,,๋ฑ๋ฑ) = ๋ฌธ์ฅ, ๋
ธ๋ = ๋จ์ด - ํฌ๋ฆฌํ
์ค์ Meta-Prod2Vec : ์ ์ ์ ์ผํ ์ธ์
= ๋ฌธ์ฅ, ์ํ..
์๋ฒ ๋ฉ 1) Sparse Representation : one-hot encoding ex) ๋ฉด๋๊ธฐ = [0, 0, 0, 0, ..,1, 0, 0, ..., 0], ์ฐจ์์ ๊ฐ์๋ ์์ดํ
์ ์ฒด ๊ฐ์์ ๊ฐ๋ค..! ๋ฒกํฐ์ ์ฐจ์์ ํ์์ด ์ปค์ง๊ณ ๊ณต๊ฐ์ด ๋ญ๋น๋๋ค๋ ํน์ง 2) Dense Representation : ์์ดํ
์ ์ฒด ๊ฐ์๋ณด๋ค ํจ์ฌ ์์ ์ฐจ์์ผ๋ก ํํ๋จ..! ์์ดํ
์ ์๋ฏธ๋ฅผ ์ฌ๋ฌ๊ฐ์ ์ฐจ์์ ๋ถ์ฐํ์ฌ ํํํ๋ค ex) ๋ฉด๋๊ธฐ = [0.2, 1.4, -0.4, 1.2, 0.3] ์๋ ์๋ฒ ๋ฉ ๋จ์ด๋ฅผ ์ ํด์ง ์ฌ์ด์ฆ์ dense vector๋ก ๋ํ๋ด๋๊ฒ์ด๋ค.!! one-hot encoding->dense representation [0,0,1,...,0]-> 3์ฐจ์[0.2, 0.4, 0.4] ์๋ฒ ๋ฉ ์ํค๋ฉด ๋จ์ด๊ฐ์..
LDA์ ์์ฑ๊ณผ์ 1. ํ ํฝ ๊ฐ์ K๋ฅผ ์ค์ : ํ ํฝ์ ๋ชจ๋ ๋ฌธ์์ ๋ถํฌ๋์ด ์์! 2. ๋ฌธ์์ ์๋ ๋ชจ๋ ๋จ์ด๋ฅผ K๊ฐ ์ค ํ๋์ ํ ํฝ์ ๋๋ค์ผ๋ก ํ ๋น : ๋ง์ฝ ํ ๋จ์ด๊ฐ ํ ๋ฌธ์์ ๋ ๋ฒ ์ด์ ๋ฑ์ฅํ๋ค๋ฉด ๊ฐ ๋จ์ด๋ ์๋ก ๋ค๋ฅธ ํ ํฝ์ ํ ๋น๋ ์๋ ์์ 3. ๊ฐ ๋ฌธ์์ ๊ฐ๋ณ ๋จ์ด์ ๋ํด์ ๋ค์ ๊ณ์ฐ์ ๋ฐ๋ณตํ๋ค. ๋จ์ด ํ๋์ topic์ ๋ชจ๋ฅธ๋ค๊ณ ๊ฐ์ ํ๊ณ ๋ฌธ์ 1(doc1) ์ค์ A๊ฐ ๋ํ๋ ํ๋ฅ = 2/4 = 0.5 ๋ฌธ์ ์ ์ฒด์์ A๋ผ๋ topic์ ๊ณจ๋์ ๋ cat์ด ๋์ฌ ํ๋ฅ = 1/6 = 0.167 => ๋ ๊ฐ์ ๊ณฑํด์ cat์ A๊ฐ ํ ๋น๋ ํ๋ฅ ์ ๊ตฌํจ! =0.0835 ๋ฌธ์ 1(doc1) ์ค์ B๊ฐ ๋ํ๋ ํ๋ฅ = 2/4 = 0.5 ๋ฌธ์ ์ ์ฒด์์ B๋ผ๋ toopic์ ๊ณจ๋์ ๋ cat์ด ๋์ฌ ํ๋ฅ =..
์ค๋ ํฌ์คํ
์์๋ ๋น ๋ฅด๊ณ ์ค์ฉ์ ์ธ ์ถ์ฒ ๊ธฐ๋ฒ๋ค์ ๋ํด ์๊ฐํด๋ณด๋ ค๊ณ ํฉ๋๋ค! ์ ๋ช
ํ์ง ์์ง๋ง ์ค์ ๋ก ๋น์ฆ๋์ค/์๋น์ค์์ ๋ง์ด ์ฌ์ฉ๋๋ ๋ชจ๋ธ๋ค์ด๋ ์ ๊ณต๋ถํด๋์ผ์๋ฉด ๋์์ด ๋ ๊ฒ์ด๋ผ๊ณ ์๊ฐํฉ๋๋คเฌช(´‘โฝ‘๏ฝ)เฌโกโ 1. LDA 2. ์๋ฒ ๋ฉ๊ณผ Word2Vec->Item2Vec 3. Multi-Armed Bandit ์ด ์ธ๊ฐ์ง์ ๋ํด ์์ผ๋ก ์ฐจ๋ก๋๋ก ํฌ์คํ
ํด๋ณผ ๊ณํ์
๋๋ค! LDA๋ฅผ ์ด์ฉํ ์ถ์ฒ : Latent Dirichlet Allocatioin ํ ํฝ ๋ชจ๋ธ๋ง์ ๋ฌธ์์ ์งํฉ์์ ํ ํฝ์ ์ถ์ถํ๋ ํฌ๋ฅด์ธ์ค๋ก ๊ฐ์ฅ ๋ํ์ ์ธ ์๊ณ ๋ฆฌ์ฆ์ด LDA์ด๋ค! LDA๋ ์ฃผ์ด์ง ๋ฌธ์์ ๊ฐ ๋ฌธ์๊ฐ ์ด๋ค ํ ํฝ์ ๊ฐ์ง๋์ง ํ๋ฅ ๋ชจํ์ ํตํด ํํํ๋ฉฐ ํ ํฝ๋ณ ๋จ์ด์ ๋ถํฌ, ๋ฌธ์์ ํ ํฝ์ ๋ถํฌ๋ฅผ ๋๋ฆฌํด๋ ๋ถํฌ๋ก ๊ฐ์ ํ๊ณ ํ์ด๋ธ๋ค.! LDA๋ ..
MF ์๋น ์ด์ MF ํ์ต์ Pu, Qi ๊ฐ์ ๊ตฌํจ -> ํน์ ์ ์ u์๊ฒ ์ถ์ฒ์ ์ ๊ณตํ๊ธฐ ์ํด์ ํด๋น ์ ์ ๋ฒกํฐ์ ํ๋ณด ์์ดํ
๋ฒกํฐ๋ค์ ์ฐ์ฐ์ด ํ์ํจ -> ํน์ ์์ดํ
i์ ๋น์ทํ ์์ดํ
(i')๋ฅผ ์ถ์ฒํ๊ธฐ ์ํด์ ํด๋น ์์ดํ
๋ฒกํฐ์ ํ๋ณด ์์ดํ
๋ฒกํฐ์ ์ ์ฌ๋ ์ฐ์ฐ์ด ํ์ํจ -> ๋ง์ฝ ์์ดํ
๊ฐ์๊ฐ ์์ฒญ ๋ง๋ค๋ฉด.. ์ค์ฝ์ด๋ฅผ ๊ณ์ฐํ ๋ ์ค๋ ์๊ฐ๊ณผ ๋์ ์ฐ์ฐ๋์ด ํ์ํ๊ฒ๋จ Anooy : approximate nearest-neighborhood ( ANN๊ณ์ด ์๊ณ ๋ฆฌ์ฆ ) ์๋ง์ ๋ฐ์ดํฐ๊ฐ ์๋ n์ฐจ์ ๋ฒกํฐ ๊ณต๊ฐ์์ ์ฃผ์ด์ง ๋ฒกํฐ์ ๊ฐ์ฅ ์ ์ฌํ ๋ฒกํฐ๋ค์ ์ฐพ๋ ์๊ณ ๋ฆฌ์ฆ ์ฃผ์ด์ง ๋ฒกํฐ๊ฐ ์ํ ๊ณต๊ฐ์ tree search๋ก ์ฐพ๊ณ , ๊ทธ ๊ถ์ญ ์์์๋ง nearest neighbor ์ฐ์ฐ์ ํจ! Annoy ์ฌ์ฉ ์์ ์ ์ ์๊ฒ..