티스토리

Data Analyst Story

검색하기

블로그 홈

Data Analyst Story

xod22.tistory.com/m

xod22 님의 블로그입니다.

구독자: 15

방명록 방문하기

공지 Github 모두보기

주요 글 목록

[Python] 컨텐츠 기반 추천(CB) 실습 - TMDB 5000 영화 데이터 세트 2022.01.14 - [머신러닝 | 딥러닝/추천시스템] - [K-Data x 러닝스푼즈] 2-1. 컨텐츠 기반 추천(CB), TF-IDF [K-Data x 러닝스푼즈] 2-1. 컨텐츠 기반 추천(CB), TF-IDF # 컨텐츠 기반 추천? : CB(Content-based Recommendation) 유저 A라는 사람이 과거에 선호한 아이템의 메타데이터를 가지고 비슷한 아이템을 유저 A에게 추천한다. => 아이템의 메타데이터의 예) - 영화 : 배 xod22.tistory.com CB에 대한 이론은 다뤄보았는데 이번엔 직접 데이터를 활용하여 컨텐츠 기반 추천(CB)를 실습해보려고 합니다! CB(Content-based Recommendation) : 먼저 실습에 앞서 간단하게 다시 CB(Content-.. 공감수 6 댓글수 0 2022. 3. 8.
[K-Data x 러닝스푼즈] 4-3. Multi-Armed Bandit (MAB)의 여러가지 방법 2022.02.17 - [머신러닝 | 딥러닝/추천시스템] - [K-Data x 러닝스푼즈] 4-3. Multi-Armed Bandit (MAB) [K-Data x 러닝스푼즈] 4-3. Multi-Armed Bandit (MAB) 실제 추천에 많이 활용되고 있는 방법인 Mutli-Armed Bandit에 대해 공부해보려고 합니다! Multi-Armed Bandit(MAB)? 강화학습은 아니지만 강화학스브이 핵심 아이디어인 Exploitation(착취) / Exploration(탐험).. xod22.tistory.com 저번 포스팅에서 MAB의 기본적인 원리에 대해 공부해보았습니다! 이번 글에서는 MAB의 4가지 방법에 대해 소개해보려고 합니다!! 1. Simple Average Method (greedy .. 공감수 5 댓글수 0 2022. 2. 18.
[K-Data x 러닝스푼즈] 4-3. Multi-Armed Bandit (MAB) 실제 추천에 많이 활용되고 있는 방법인 Mutli-Armed Bandit에 대해 공부해보려고 합니다! Multi-Armed Bandit(MAB)? 강화학습은 아니지만 강화학습의 핵심 아이디어인 Exploitation(착취) / Exploration(탐험)을 활용 * 원리 1) 카지노에 있는 K개의 슬롯머신을 N번 플레이 할 수 있다 - 한번에 한개의 슬롯머신을 당길 수 있음! 2) 각각의 슬롯머신에서 얻을 수 있는 Reward의 확률은 모두 다르다 - Reward는 0 또는 1로 가정 3) 수익을 최대화하기 위해서 슬롯머신을 어떤 순서로 당겨야 하는가? 모든 슬롯머신을 동일하게 당겨본다(?) -> 5번씩 -> explore(탐험) 일정 횟수만큼 슬롯머신을 당겨보고, 남은 횟수는 그 시간 동안 제일 높은 .. 공감수 2 댓글수 0 2022. 2. 17.
[K-Data x 러닝스푼즈] 4-2. Item2Vec을 이용한 추천 Item2Vec 단어가 아닌 추천 아이템(Item)을 Word2Vec 방법을 사용하여 임베딩! 유저가 소비한 아이템 리스트를 문장으로, 아이템을 단어로 가정하여 Word2Vec에 적용 아이템 연관 추천에서 MF를 사용한 아이템 기반 CF보다 높은 성능과 양질의 추천결과를 제공! Item2Vec 상세 유저 혹은 세션별로 소비한 아이템 집합을 생성한다..! 학습을 통해 생성된 아이템 벡터 간의 유사도는 코사인 유사도를 사용함! Item2Vec 예시 - 아프리카TV의 Live2Vec : 유저의 시청 이력 = 문장, Live방송 = 단어 - Spotify의 Song2Vec : 유저의 플레이리스트(재즈,,,등등) = 문장, 노래 = 단어 - 크리테오의 Meta-Prod2Vec : 유저의 쇼핑 세션 = 문장, 상품.. 공감수 0 댓글수 0 2022. 2. 2.
[K-Data x 러닝스푼즈] 4-2. 임베딩과 Word2Vec 임베딩 1) Sparse Representation : one-hot encoding ex) 면도기 = [0, 0, 0, 0, ..,1, 0, 0, ..., 0], 차원의 개수는 아이템 전체 개수와 같다..! 벡터의 차원은 한없이 커지고 공간이 낭비된다는 특징 2) Dense Representation : 아이템 전체 개수보다 훨씬 작은 차원으로 표현됨..! 아이템의 의미를 여러개의 차원에 분산하여 표현한다 ex) 면도기 = [0.2, 1.4, -0.4, 1.2, 0.3] 워드 임베딩 단어를 정해진 사이즈의 dense vector로 나타내는것이다.!! one-hot encoding->dense representation [0,0,1,...,0]-> 3차원[0.2, 0.4, 0.4] 임베딩 시키면 단어간의.. 공감수 2 댓글수 0 2022. 2. 1.
[K-Data x 러닝스푼즈] 4-1. LDA의 생성과정 LDA의 생성과정 1. 토픽 개수 K를 설정 : 토픽은 모든 문서에 분포되어 있음! 2. 문서에 있는 모든 단어를 K개 중 하나에 토픽에 랜덤으로 할당 : 만약 한 단어가 한 문서에 두 번 이상 등장한다면 각 단어는 서로 다른 토픽에 할당될 수도 있음 3. 각 문서의 개별 단어에 대해서 다음 계산을 반복한다. 단어 하나의 topic을 모른다고 가정하고 문서 1(doc1) 중에 A가 나타날 확률 = 2/4 = 0.5 문서 전체에서 A라는 topic을 골랐을 때 cat이 나올 확률 = 1/6 = 0.167 => 두 값을 곱해서 cat에 A가 할당될 확률을 구함! =0.0835 문서 1(doc1) 중에 B가 나타날 확률 = 2/4 = 0.5 문서 전체에서 B라는 toopic을 골랐을 때 cat이 나올 확률 =.. 공감수 2 댓글수 0 2022. 1. 30.
[K-Data x 러닝스푼즈] 4-1. LDA를 이용한 추천 오늘 포스팅에서는 빠르고 실용적인 추천 기법들에 대해 소개해보려고 합니다! 유명하진 않지만 실제로 비즈니스/서비스에서 많이 사용되는 모델들이니 잘 공부해놓으시면 도움이 될 것이라고 생각합니다ପ(´‘▽‘｀)ଓ♡⃛ 1. LDA 2. 임베딩과 Word2Vec->Item2Vec 3. Multi-Armed Bandit 이 세가지에 대해 앞으로 차례대로 포스팅 해볼 계획입니다! LDA를 이용한 추천 : Latent Dirichlet Allocatioin 토픽 모델링은 문서의 집합에서 토픽을 추출하는 포르세스로 가장 대표적인 알고리즘이 LDA이다! LDA는 주어진 문서와 각 문서가 어떤 토픽을 가지는지 확률모형을 통해 표현하며 토픽별 단어의 분포, 문서의 토픽의 분포를 디리클레 분포로 가정하고 풀어낸다.! LDA는 .. 공감수 1 댓글수 0 2022. 1. 30.
[K-Data x 러닝스푼즈] 3-5. Annoy를 활용한 서빙 MF 서빙 이슈 MF 학습은 Pu, Qi 값을 구함 -> 특정 유저 u에게 추천을 제공하기 위해서 해당 유저벡터와 후보 아이템 벡터들의 연산이 필요함 -> 특정 아이템 i와 비슷한 아이템(i')를 추천하기 위해서 해당 아이템 벡터와 후보 아이템 벡터의 유사도 연산이 필요함 -> 만약 아이템 개수가 엄청 많다면.. 스코어를 계산할 때 오랜 시간과 높은 연산량이 필요하게됨 Anooy : approximate nearest-neighborhood ( ANN계열 알고리즘 ) 수많은 데이터가 있는 n차원 벡터 공간에서 주어진 벡터와 가장 유사한 벡터들을 찾는 알고리즘 주어진 벡터가 속한 공간을 tree search로 찾고, 그 권역 안에서만 nearest neighbor 연산을 함! Annoy 사용 예시 유저에게.. 공감수 1 댓글수 0 2022. 1. 28.
[K-Data x 러닝스푼즈]3-4. BPR Optimization with MF 이번 포스팅에서는 Implicit Feedback데이터를 활용해 MF를 학습할 수 있는 논문의 기법에 대해 소개해보려고 합니다! 베이지안 추론에 기반하고 있으며 접근이 재밌고 기발해서 유명해진 방법이라고 합니다! Introduction 1) 사용자의 클릭, 구매 등의 로그는 Implicit Feedback 데이터 2) binary(0/1)로 이루어져있음 -> 선호도를 고려하지 않고 일반적으로 유저가 아이템을 클릭/구매 할 확률을 예측하는 문제 3) 유저가 item i보다 j를 좋아한다면? 이라는 정보를 사용해 MF의 파라미터를 학습하는 방법 => 관측되지 않은 데이터에 대해서 유저가 아이템에 관심이 없는 것인지 / 유저가 실제로 관심이 있지만 아직 모르는 것인지 고려해야됨... Personalized R.. 공감수 2 댓글수 0 2022. 1. 25.
[K-Data x 러닝스푼즈] 3-3. Matrix Factorization과 최적화 기법 이번 포스팅에서는 Matrix Factorizaton과 최적화 기법을 소개하려고 합니다!_! 먼저 다시한번 Matrix Factorization 기법에 대해 정의해보겠습니다~_~ Matrix Factorization이란? R과 최대한 유사하게 R^을 추론하는 것이 목표 즉 목적함수는 explicit feedback(1~5점 평점)에서 true rating과 우리가 예측한 predicted rating의 차를 Minimize하는 것이다. Objective Fuction (목적함수) 1) 학습데이터에 있는 유저 u의 아이템 i에 대한 실제 rating 2) 유저 u의 latent vector 3) 아이템 i의 latent vector ->2),3)은 최적화 문제를 통해 업데이트 되는 파라미터 4) 람다 te.. 공감수 2 댓글수 0 2022. 1. 24.
[K-Data x 러닝스푼즈] 3-2. Latent Factor Model과 SVD # Latent Factor Model? 간단하게 말하면 임베딩을 한다는 뜻! 다양하고 복잡한 유저와 아이템의 특성을 몇개의 벡터로 compact(작게?) 표현 -> 유저와 아이템을 같은 차원 벡터로 표현하여 나타냄 -> 같은 벡터 공간에서 유저와 아이템의 유사한 정도를 눈으로 확인할 수 있음 예시) # 전통적 SVD란? Matrix Factorization의 코어 아이디어가 됨! Rating Matrix R에 대해서 1) 유저 잠재 요인 행렬 2) 잠재 요인 대각행렬 3) 아이템 잠재 요인 행렬 이렇게 세가지의 행렬로 분해하는 것이다. => 이것은 그냥 선형대수학에서의 개념으로 유저와 아이템을 정해진 차원으로 임베딩하고싶다면? # Truncated SVD? 대표값으로 사용될 k개의 특이값만 사용한다. .. 공감수 6 댓글수 0 2022. 1. 21.
[K-Data x 러닝스푼즈] 3-1. 모델 기반 협업 필터링? 지금까지 유저/아이템 간의 유사도를 구해 추천을 하는 User-based나 Item-based 같은 Neighborhood-based CF에 대해 공부를 해봤습니다! 이번 포스팅에서는 머신러닝 모델을 활용하는 Model-based CF에 대해 적어보려고 합니다! # 모델 기반 협업 필터링? -SVD(Singular Value Decomposition) -MF(Matrix Factorization) / SGD, ALS, BPR 등의 종류가 있음.. 유저/아이템 간의 유사도에 의존하는 기법들은 데이터의 sparsity(데이터의 빈공간?)에 취약하고 추천 결과를 생성할 때마다 많은 연산을 요구하게 됩니다! - Model-based CF는 머신러닝 모델을 사용하며 데이터.. 공감수 5 댓글수 0 2022. 1. 19.
[K-Data x 러닝스푼즈] 2-3. 유사도 개념 이해하기 저번 포스팅에 게시한 CF(협업필터링) 방법을 보면 https://xod22.tistory.com/12 [K-Data x 러닝스푼즈] 2-2. 협업 필터링(CF)의 원리 저번 포스팅에서는 컨텐츠 기반 추천인 CB(Content-based Recommendation)에 대해 공부해봤는데요! 이번에는 많이 쓰이는 협업필터링(CF)에 대해 적어보려고 합니다!! # 협업 필터링? : CF(Collaborative Filterin.. xod22.tistory.com 유사도 계산이 필수적인데요! 오늘은 유사도 계산을 하는 여러가지 방법에 대해 자세하게 적어보려고 합니다! 그럼 시작! # 1) Cosine Similarity : 두 벡터의 각도를 이용하여 구할 수 있는 유사도. 직관적으로 두 벡터가 가리키는 방향이 .. 공감수 8 댓글수 0 2022. 1. 16.
[K-Data x 러닝스푼즈] 2-2. 협업 필터링(CF)의 원리 저번 포스팅에서는 컨텐츠 기반 추천인 CB(Content-based Recommendation)에 대해 공부해봤는데요! 이번에는 많이 쓰이는 협업필터링(CF)에 대해 적어보려고 합니다!! # 협업 필터링? : CF(Collaborative Filtering) => 유저 A와 비슷한 성향을 갖는 유저들이 선호하는 아이템을 추천한다. => 아이템이 가진 속성을 사용하지 않으면서도 높은 성능을 보임! # 1) User-based Collaborative Filtering : 두 유저가 얼마나 유사한 아이템을 선호하는가? 유저간의 유사도를 구한뒤, 나와 유사도가 높은 유저들이 선호하는 아이템을 추천함! 예시 ) User B가 스타워즈에 매긴 평점을 예측하고 싶은 상황에서 User A,B가 각 영화에 매긴 평점을.. 공감수 8 댓글수 0 2022. 1. 15.
[K-Data x 러닝스푼즈] 2-1. 컨텐츠 기반 추천(CB), TF-IDF # 컨텐츠 기반 추천? : CB(Content-based Recommendation) 유저 A라는 사람이 과거에 선호한 아이템의 메타데이터를 가지고 비슷한 아이템을 유저 A에게 추천한다. => 아이템의 메타데이터의 예) - 영화 : 배우, 감독, 영화장르 - 음악 : 아티스트, 장르, 리듬, 무드 - 블로그 / 뉴스 : 비슷한 주제나 내용을 가진 텍스트(문장, 단어) - 사람 : 공통의 친구를 많이 가진 다른 사람 # Item Profile 추천 대상이 되는 아이템의 Profile을 만들어야한다. Profile은 아이템이 가지고 있는 특징들로 구성되있는데 이 속성들을 Vector형태로 표현한다. * 문서의 경우 Item Profile : 중요한 단어들의 집합으로 표현 단어에 대한 중요도를 나타내는 스코어.. 공감수 7 댓글수 0 2022. 1. 14.
[K-Data x 러닝스푼즈] 1-3. 추천 시스템의 평가 지표, Offline Test, Online A/B Test # Offline Test - 새로운 추천 모델을 검증하기 위해 가장 먼저 필요한 단계 - 유저로부터 수집한 데이터를 Train/Valid/Test로 나누어 모델의 성능을 평가 => 추천모델을 고도화시킬 수 있다 # Online A/B Test - 추천시스템의 변경 전후의 성능을 비교하는 것이 x - 동시에 대조군(A)와 실험군(B)의 성능을 평가 (단, 같은시간 및 같은 환경에서 평가해야함) - 실제 서비스를 통해 얻어지는 결과를 통해 최종 의사결정 => 시간별로 유의미한 차이를 꾸준히 나타내는지 # 추천 시스템 별 평가지표 1) 랭킹(Ranking) => 주로 NDCG@k / Recall@k : 유저에게 적합한 아이템 Top K개를 추천 유저의 아이템에 대한 선호도를 구할 필요 없이 소비자가 선호할 .. 공감수 6 댓글수 0 2022. 1. 13.
[K-Data x 러닝스푼즈] 1-2. 인기도 기반 추천 말그대로 인기있는 제품을 추천해주는 것이 인기도 기반 추천이다.! [1. Most Popular] : 조회수가 가장 많은 아이템을 추천 예 ) 뉴스추천(다른 유저들도 관심을 가지고 있는 핫한 이슈를 보기 위함) 예 ) 10명의 뷰(인기도), 6시간 지남 -> 10-6/4=8.5 25명의 뷰(인기도), 24시간 지남 -> 25-24/4=21 이 방식의 문제점은 pageview(인기도)가 더 빠르게 늘어난다면 1~2년이 지나도 계속해서 같은 글이 Top Rank에 보일 것임! 뉴스의 가장 중요한 속성은 최신성! 최신성을 고려하기 위해 업로드 날짜를 고려해줘야한다! # 방법1) Hacker News Formula 시간이 분모에 있어 시간이 지날수록 age가 점점 증가하므로 score가 작아진다! age를 고려.. 공감수 6 댓글수 0 2022. 1. 12.
[K-Data x 러닝스푼즈] 1-1. 추천 시스템 베이직 강사님의 소개 - 추천시스템 구현을 목표로 두고 공부를 한 것은 아님 - 머신러닝 공부 -> 업무 : 추천, 광고 - 추천시스템은 비즈니스, 서비스와 맞닿아 있음 - 성과가 바로바로 옴 / 재밌음 이 강의가 당장 적용할수 없을지라도 좋은 자료가 될 것임! [1-1] 추천시스템 기초 # 추천(Recommendation)이란? Search(검색) : 명확하게 원하는 것을 가져옴 Recommend(추천) : 검색하지 않아도 알아서 알려줌 -> push방식 # Long-Taile 추천 - Popular products : 왼쪽의 파란색 면적은 모두에게 인기있는 모두가 좋아하는 제품이다. - Long Tail : 우측의 연두색 면적으로 Long tail의 면적이 커진다면 좋은 플랫폼으로 서비스의 질이 높아진다고 .. 공감수 6 댓글수 0 2022. 1. 10.
[K-Data x 러닝스푼즈] 비즈니스 Case와 딥러닝을 활용한 추천시스템 구현 2021년 여름에 수료한 데이터청년캠퍼스에서 수료생을 대상으로 하는 심화학습 프로그램이 개설되어 1년동안 원하는 강의를 선택하여 수강할 수 있게 되었습니다! 이렇게 7가지 코스가 있고 듣고싶은 코스가 많았지만 ㅠㅠ 저는 평소에 공부해보고 싶었던 부분 중 하나인 비즈니스 Case와 딥러닝을 활용한 추천시스템 구현 코스를 선택하였습니다!! 수료 후에는 이런..멋있는 수료증도 받았답니다..ㅎ 내용 자체가 처음 접하는 부분이고 배울 점이 많다보니까 강의를 한번 더 듣고 공부하면서 이해한 내용을 블로그에 정리해보려고 합니다! 공감수 7 댓글수 0 2022. 1. 10.

문의안내

티스토리
로그인
고객센터

티스토리는 카카오에서 사랑을 담아 만듭니다.