HTML ์ฝ์
๋ฏธ๋ฆฌ๋ณด๊ธฐํ ์ ์๋ ์์ค
๐ ๋จธ์ ๋ฌ๋ | ๋ฅ๋ฌ๋

https://dacon.io/competitions ๋ฐ์ดํฐ์ฌ์ด์ธํฐ์คํธ AI ์ปดํผํฐ์
4๋ง AIํ์ด ํ์
ํ๋ ์ธ๊ณต์ง๋ฅ ํ๋ซํผ dacon.io ๊ณต๋ถ ๋ชฉ์ ์ผ๋ก ๋ฐ์ด์ฝ๊ณผ ์บ๊ธ์ ๋ํ๋ค์ ์ฐธ๊ฐํ๋ฉด์ ์ฝ๋๋ฅผ ์ ๋ฆฌํด๋ณด๋ ค๊ณ ํฉ๋๋ค! ํงํ
.. ๋ฐ์ด์ฝ ์ฝ๋ ์ ๋ฆฌํ๋ ค๊ณ ๊นํ๋ธ..์ ์ฅ์๋ ๋ง๋ค์๋ค..! ์ด์ฌํ ํด๋ณด์.. 1์ผ 1์ปค๋ฐ์ ๋ชฉํ๋ก ํ๋ฉฐ~_~

ํฐ์คํ ๋ฆฌ์ ์ฃผํผํฐ ํ์ผ์ ๊ทธ๋๋ก ์ฌ๋ฆฌ๊ณ ์ถ์ ๋ ์ฝ๋๋ธ๋ญ์ ์ฝ์
ํ๋ ๋ฐฉ๋ฒ๋ฐ์ ์๋๋ฐ์.. ์ฝ๋๋ธ๋ญ์ ์ฝ์
ํ๋ ๊ฒฝ์ฐ์๋ ๊ฒฐ๊ณผ ๊ฐ์ ๋ฐ๋ก ์บก์ณํด์ ๋ณด์ฌ์ค์ผํ๊ธฐ ๋๋ฌธ์ ๋ฒ๊ฑฐ๋ก์์ด ๋ง์ต๋๋ค..! ๊ฒฐ๊ณผ๊ฐ๊น์ง ํ๋ฒ์ ์
๋ก๋ํ๊ณ ์ถ๋ค! ํ ๋ ์ด ๋ฐฉ๋ฒ์ ์ฌ์ฉํ์๋ฉด ๋ฉ๋๋ค ๊ทธ๋ผ ํฌ์คํ
์ ์์ํด๋ณด๊ฒ ์ต๋๋ค.! 1. github ํ์ด์ง์ .ipynb(์ฃผํผํฐํ์ผ)์ ์
๋ก๋ํ๋ค ์ ์ฅ์์์ Upload files๋ฅผ ๋๋ฌ ํ์ผ ํ๋๋ฅผ ์
๋ก๋ ํด๋ณด๊ฒ ์ต๋๋ค ์์ฑ๋์๋ค๋ฉด ํด๋ฆญํด์ค๋๋ค ํ์ด์ง์ ์ฃผ์์ฐฝ์ ๋ณต์ฌํด์ฃผ์ธ์! 2. nbviewer ์ฌ์ดํธ์ ์ ์ํด์ ๋ณต์ฌํ ์ฃผ์์ฐฝ์ ๋ถ์ฌ๋ฃ๊ธฐ! https://nbviewer.org/ nbviewer nbviewer A simple way to share Jupyter Notebooks Enter the..

Item2Vec ๋จ์ด๊ฐ ์๋ ์ถ์ฒ ์์ดํ
(Item)์ Word2Vec ๋ฐฉ๋ฒ์ ์ฌ์ฉํ์ฌ ์๋ฒ ๋ฉ! ์ ์ ๊ฐ ์๋นํ ์์ดํ
๋ฆฌ์คํธ๋ฅผ ๋ฌธ์ฅ์ผ๋ก, ์์ดํ
์ ๋จ์ด๋ก ๊ฐ์ ํ์ฌ Word2Vec์ ์ ์ฉ ์์ดํ
์ฐ๊ด ์ถ์ฒ์์ MF๋ฅผ ์ฌ์ฉํ ์์ดํ
๊ธฐ๋ฐ CF๋ณด๋ค ๋์ ์ฑ๋ฅ๊ณผ ์์ง์ ์ถ์ฒ๊ฒฐ๊ณผ๋ฅผ ์ ๊ณต! Item2Vec ์์ธ ์ ์ ํน์ ์ธ์
๋ณ๋ก ์๋นํ ์์ดํ
์งํฉ์ ์์ฑํ๋ค..! ํ์ต์ ํตํด ์์ฑ๋ ์์ดํ
๋ฒกํฐ ๊ฐ์ ์ ์ฌ๋๋ ์ฝ์ฌ์ธ ์ ์ฌ๋๋ฅผ ์ฌ์ฉํจ! Item2Vec ์์ - ์ํ๋ฆฌ์นดTV์ Live2Vec : ์ ์ ์ ์์ฒญ ์ด๋ ฅ = ๋ฌธ์ฅ, Live๋ฐฉ์ก = ๋จ์ด - Spotify์ Song2Vec : ์ ์ ์ ํ๋ ์ด๋ฆฌ์คํธ(์ฌ์ฆ,,,๋ฑ๋ฑ) = ๋ฌธ์ฅ, ๋
ธ๋ = ๋จ์ด - ํฌ๋ฆฌํ
์ค์ Meta-Prod2Vec : ์ ์ ์ ์ผํ ์ธ์
= ๋ฌธ์ฅ, ์ํ..

์๋ฒ ๋ฉ 1) Sparse Representation : one-hot encoding ex) ๋ฉด๋๊ธฐ = [0, 0, 0, 0, ..,1, 0, 0, ..., 0], ์ฐจ์์ ๊ฐ์๋ ์์ดํ
์ ์ฒด ๊ฐ์์ ๊ฐ๋ค..! ๋ฒกํฐ์ ์ฐจ์์ ํ์์ด ์ปค์ง๊ณ ๊ณต๊ฐ์ด ๋ญ๋น๋๋ค๋ ํน์ง 2) Dense Representation : ์์ดํ
์ ์ฒด ๊ฐ์๋ณด๋ค ํจ์ฌ ์์ ์ฐจ์์ผ๋ก ํํ๋จ..! ์์ดํ
์ ์๋ฏธ๋ฅผ ์ฌ๋ฌ๊ฐ์ ์ฐจ์์ ๋ถ์ฐํ์ฌ ํํํ๋ค ex) ๋ฉด๋๊ธฐ = [0.2, 1.4, -0.4, 1.2, 0.3] ์๋ ์๋ฒ ๋ฉ ๋จ์ด๋ฅผ ์ ํด์ง ์ฌ์ด์ฆ์ dense vector๋ก ๋ํ๋ด๋๊ฒ์ด๋ค.!! one-hot encoding->dense representation [0,0,1,...,0]-> 3์ฐจ์[0.2, 0.4, 0.4] ์๋ฒ ๋ฉ ์ํค๋ฉด ๋จ์ด๊ฐ์..

LDA์ ์์ฑ๊ณผ์ 1. ํ ํฝ ๊ฐ์ K๋ฅผ ์ค์ : ํ ํฝ์ ๋ชจ๋ ๋ฌธ์์ ๋ถํฌ๋์ด ์์! 2. ๋ฌธ์์ ์๋ ๋ชจ๋ ๋จ์ด๋ฅผ K๊ฐ ์ค ํ๋์ ํ ํฝ์ ๋๋ค์ผ๋ก ํ ๋น : ๋ง์ฝ ํ ๋จ์ด๊ฐ ํ ๋ฌธ์์ ๋ ๋ฒ ์ด์ ๋ฑ์ฅํ๋ค๋ฉด ๊ฐ ๋จ์ด๋ ์๋ก ๋ค๋ฅธ ํ ํฝ์ ํ ๋น๋ ์๋ ์์ 3. ๊ฐ ๋ฌธ์์ ๊ฐ๋ณ ๋จ์ด์ ๋ํด์ ๋ค์ ๊ณ์ฐ์ ๋ฐ๋ณตํ๋ค. ๋จ์ด ํ๋์ topic์ ๋ชจ๋ฅธ๋ค๊ณ ๊ฐ์ ํ๊ณ ๋ฌธ์ 1(doc1) ์ค์ A๊ฐ ๋ํ๋ ํ๋ฅ = 2/4 = 0.5 ๋ฌธ์ ์ ์ฒด์์ A๋ผ๋ topic์ ๊ณจ๋์ ๋ cat์ด ๋์ฌ ํ๋ฅ = 1/6 = 0.167 => ๋ ๊ฐ์ ๊ณฑํด์ cat์ A๊ฐ ํ ๋น๋ ํ๋ฅ ์ ๊ตฌํจ! =0.0835 ๋ฌธ์ 1(doc1) ์ค์ B๊ฐ ๋ํ๋ ํ๋ฅ = 2/4 = 0.5 ๋ฌธ์ ์ ์ฒด์์ B๋ผ๋ toopic์ ๊ณจ๋์ ๋ cat์ด ๋์ฌ ํ๋ฅ =..

์ค๋ ํฌ์คํ
์์๋ ๋น ๋ฅด๊ณ ์ค์ฉ์ ์ธ ์ถ์ฒ ๊ธฐ๋ฒ๋ค์ ๋ํด ์๊ฐํด๋ณด๋ ค๊ณ ํฉ๋๋ค! ์ ๋ช
ํ์ง ์์ง๋ง ์ค์ ๋ก ๋น์ฆ๋์ค/์๋น์ค์์ ๋ง์ด ์ฌ์ฉ๋๋ ๋ชจ๋ธ๋ค์ด๋ ์ ๊ณต๋ถํด๋์ผ์๋ฉด ๋์์ด ๋ ๊ฒ์ด๋ผ๊ณ ์๊ฐํฉ๋๋คเฌช(´‘โฝ‘๏ฝ)เฌโกโ 1. LDA 2. ์๋ฒ ๋ฉ๊ณผ Word2Vec->Item2Vec 3. Multi-Armed Bandit ์ด ์ธ๊ฐ์ง์ ๋ํด ์์ผ๋ก ์ฐจ๋ก๋๋ก ํฌ์คํ
ํด๋ณผ ๊ณํ์
๋๋ค! LDA๋ฅผ ์ด์ฉํ ์ถ์ฒ : Latent Dirichlet Allocatioin ํ ํฝ ๋ชจ๋ธ๋ง์ ๋ฌธ์์ ์งํฉ์์ ํ ํฝ์ ์ถ์ถํ๋ ํฌ๋ฅด์ธ์ค๋ก ๊ฐ์ฅ ๋ํ์ ์ธ ์๊ณ ๋ฆฌ์ฆ์ด LDA์ด๋ค! LDA๋ ์ฃผ์ด์ง ๋ฌธ์์ ๊ฐ ๋ฌธ์๊ฐ ์ด๋ค ํ ํฝ์ ๊ฐ์ง๋์ง ํ๋ฅ ๋ชจํ์ ํตํด ํํํ๋ฉฐ ํ ํฝ๋ณ ๋จ์ด์ ๋ถํฌ, ๋ฌธ์์ ํ ํฝ์ ๋ถํฌ๋ฅผ ๋๋ฆฌํด๋ ๋ถํฌ๋ก ๊ฐ์ ํ๊ณ ํ์ด๋ธ๋ค.! LDA๋ ..

MF ์๋น ์ด์ MF ํ์ต์ Pu, Qi ๊ฐ์ ๊ตฌํจ -> ํน์ ์ ์ u์๊ฒ ์ถ์ฒ์ ์ ๊ณตํ๊ธฐ ์ํด์ ํด๋น ์ ์ ๋ฒกํฐ์ ํ๋ณด ์์ดํ
๋ฒกํฐ๋ค์ ์ฐ์ฐ์ด ํ์ํจ -> ํน์ ์์ดํ
i์ ๋น์ทํ ์์ดํ
(i')๋ฅผ ์ถ์ฒํ๊ธฐ ์ํด์ ํด๋น ์์ดํ
๋ฒกํฐ์ ํ๋ณด ์์ดํ
๋ฒกํฐ์ ์ ์ฌ๋ ์ฐ์ฐ์ด ํ์ํจ -> ๋ง์ฝ ์์ดํ
๊ฐ์๊ฐ ์์ฒญ ๋ง๋ค๋ฉด.. ์ค์ฝ์ด๋ฅผ ๊ณ์ฐํ ๋ ์ค๋ ์๊ฐ๊ณผ ๋์ ์ฐ์ฐ๋์ด ํ์ํ๊ฒ๋จ Anooy : approximate nearest-neighborhood ( ANN๊ณ์ด ์๊ณ ๋ฆฌ์ฆ ) ์๋ง์ ๋ฐ์ดํฐ๊ฐ ์๋ n์ฐจ์ ๋ฒกํฐ ๊ณต๊ฐ์์ ์ฃผ์ด์ง ๋ฒกํฐ์ ๊ฐ์ฅ ์ ์ฌํ ๋ฒกํฐ๋ค์ ์ฐพ๋ ์๊ณ ๋ฆฌ์ฆ ์ฃผ์ด์ง ๋ฒกํฐ๊ฐ ์ํ ๊ณต๊ฐ์ tree search๋ก ์ฐพ๊ณ , ๊ทธ ๊ถ์ญ ์์์๋ง nearest neighbor ์ฐ์ฐ์ ํจ! Annoy ์ฌ์ฉ ์์ ์ ์ ์๊ฒ..