2022.02.23 - [๋จธ์ ๋ฌ๋ | ๋ฅ๋ฌ๋/ํ
์คํธ ๋ถ์] - [ํ
์คํธ ๋ถ์] 2-(3). ํ
์คํธ ์ ์ฒ๋ฆฌ - Stemming๊ณผ Lemmatization [ํ
์คํธ ๋ถ์] 2-(3). ํ
์คํธ ์ ์ฒ๋ฆฌ - Stemming๊ณผ Lemmatization 2022.02.20 - [๋จธ์ ๋ฌ๋ | ๋ฅ๋ฌ๋/ํ
์คํธ ๋ถ์] - [ํ
์คํธ ๋ถ์] 2-(2). ํ
์คํธ ์ ์ฒ๋ฆฌ - ๋ถ์ฉ์ด ์ ๊ฑฐ ์ ๋ฒ ๋ถ์ฉ์ด ์ ๊ฑฐ ํฌ์คํ
์ ์ด์ด์ Stemming & Lemmatization์ ๋ํด ์ ์ด๋ณด๋ ค๊ณ ํฉ๋๋ค! 1. Cleansing(ํด๋ .. xod22.tistory.com ์ ๋ฒ ํฌ์คํ
์ ์ด์ด์ ํ
์คํธ ์ ์ฒ๋ฆฌ ๋ค์ ํ๋ก์ธ์ค์ธ Bag of Words(BOW)์ ๋ํด ๊ณต๋ถํด๋ณด๋ ค๊ณ ํฉ๋๋ค! Bag of Words - BOW : BOW ๋ชจ๋ธ์ ๋ฌธ์๊ฐ ๊ฐ์ง๋ ..
2022.02.20 - [๋จธ์ ๋ฌ๋ | ๋ฅ๋ฌ๋/ํ
์คํธ ๋ถ์] - [ํ
์คํธ ๋ถ์] 2-(2). ํ
์คํธ ์ ์ฒ๋ฆฌ - ๋ถ์ฉ์ด ์ ๊ฑฐ ์ ๋ฒ ๋ถ์ฉ์ด ์ ๊ฑฐ ํฌ์คํ
์ ์ด์ด์ Stemming & Lemmatization์ ๋ํด ์ ์ด๋ณด๋ ค๊ณ ํฉ๋๋ค! 1. Cleansing(ํด๋ ์ง) 2. Tokenization(ํ ํฐํ) 3. ํํฐ๋ง / stopwords(๋ถ์ฉ์ด) ์ ๊ฑฐ / ์ฒ ์ ์์ 4. Stemming & Lemmatization(์ด๊ทผ ์ถ์ถ) 4. Stemming๊ณผ Lemmatization : Stemming๊ณผ Lemmatization์ ๋จ์ด์ ์ํ์ ์ฐพ์์ฃผ๋ ์์
์ ํ๋ค! *๋์ ์ฐจ์ด๋ ์ ๊ตํจ์ ์ฐจ์ด์ ์ด์ ๋ฐ๋ฅด ์์
์ํ ์๋์ ์ฐจ์ด.. ์๋ฅผ๋ค์ด ์์ด ๋จ์ด work๋ ๊ณผ๊ฑฐํ์ผ๋ก worked, 3์ธ์นญ ๋จ์์ผ ๋๋ works, ..
์ด๋ฒ ํฌ์คํ
์์๋ ์ ๋ฒ ๊ธ์ ์ด์ด์ ํ
์คํธ ์ ์ฒ๋ฆฌ๋ฅผ ์ด์ด ์ ์ด๋ณด๋ ค๊ณ ํ๋ค! 2022.02.20 - [๋จธ์ ๋ฌ๋ | ๋ฅ๋ฌ๋/ํ
์คํธ ๋ถ์] - [ํ
์คํธ ๋ถ์] 2-(1). ํ
์คํธ ์ ์ฒ๋ฆฌ - ํด๋ ์ง, ํ ํฐํ [ํ
์คํธ ๋ถ์] 2-(1). ํ
์คํธ ์ ์ฒ๋ฆฌ - ํด๋ ์ง, ํ ํฐํ 2022.02.19 - [๋จธ์ ๋ฌ๋ | ๋ฅ๋ฌ๋/ํ
์คํธ ๋ถ์] - [ํ
์คํธ ๋ถ์] 1. ํ
์คํธ ๋ถ์์ ์ดํด [ํ
์คํธ ๋ถ์] 1. ํ
์คํธ ๋ถ์์ ์ดํด ํ๋ก์ ํธ๋ฅผ ํ๋ฉด์ ํ
์คํธ ๋ถ์์ ์ ํด๋ณผ ๊ธฐํ๊ฐ ์์๋๋ฐ ์์ ํ ์ดํด๋ฅผ xod22.tistory.com 1. Cleansing(ํด๋ ์ง) 2. Tokenization(ํ ํฐํ) 3. ํํฐ๋ง / stopwords(๋ถ์ฉ์ด) ์ ๊ฑฐ / ์ฒ ์ ์์ 4. Stemming & Lemmatization 3. StopWord..
2022.02.19 - [๋จธ์ ๋ฌ๋ | ๋ฅ๋ฌ๋/ํ
์คํธ ๋ถ์] - [ํ
์คํธ ๋ถ์] 1. ํ
์คํธ ๋ถ์์ ์ดํด [ํ
์คํธ ๋ถ์] 1. ํ
์คํธ ๋ถ์์ ์ดํด ํ๋ก์ ํธ๋ฅผ ํ๋ฉด์ ํ
์คํธ ๋ถ์์ ์ ํด๋ณผ ๊ธฐํ๊ฐ ์์๋๋ฐ ์์ ํ ์ดํด๋ฅผ ํ๊ณ ์ฌ์ฉํ ๊ฒ์ ์๋๋ผ ์ค๋ฅ๋ ๋ง์ด ์ ํด๋ณด์๊ณ ๊ทธ๋์ ๋์ฑ ์ฐจ๊ทผ์ฐจ๊ทผ ํ
์คํธ ๋ถ์์ ๋ํด ๊ณต๋ถํด๋ณด๋ ค๊ณ ํฉ๋๋ค! ํ
xod22.tistory.com ์ ๋ฒ ํฌ์คํ
์์ ํ
์คํธ ๋ถ์์ ์ดํด์ ๋ํด ๊ฐ๋จํ ์ ์ด๋ณด์๋๋ฐ์! ์ค๋์ ํ
์คํธ ๋ถ์์ ํ๋ก์ธ์ค ์ค ์ฒซ๋ฒ์งธ์ธ ํ
์คํธ ์ ์ฒ๋ฆฌ ๋ฐ ์ ๊ทํ์ ๋ํด ๊ณต๋ถํด๋ณด๋ ค๊ณ ํฉ๋๋ค! ๋ฌธ์์์ ๋จ์ด ๊ธฐ๋ฐ์ผ๋ก ํ์ฌ ํผ์ฒ๋ฅผ ๋ฝ์ ํ์ ํผ์ฒ์ ๋ฒกํฐ ๊ฐ์ ๋ถ์ฌํ๋ ์์
์ด ํ์ํ๋ค. ํ์ง๋ง ํผ์ฒ์ ๋ฒกํฐ๊ฐ์ ๋ถ์ฌํ๋ ์์
์ ํ๊ธฐ์ ! ๋ณธ ๋ฐ์ดํฐ์ ๋ํ ์ ์ฒ๋ฆฌ ์์
์ด ํ์์ ์ด๋ค..! ..
ํ๋ก์ ํธ๋ฅผ ํ๋ฉด์ ํ
์คํธ ๋ถ์์ ์ ํด๋ณผ ๊ธฐํ๊ฐ ์์๋๋ฐ ์์ ํ ์ดํด๋ฅผ ํ๊ณ ์ฌ์ฉํ ๊ฒ์ ์๋๋ผ ์ค๋ฅ๋ ๋ง์ด ์ ํด๋ณด์๊ณ ๊ทธ๋์ ๋์ฑ ์ฐจ๊ทผ์ฐจ๊ทผ ํ
์คํธ ๋ถ์์ ๋ํด ๊ณต๋ถํด๋ณด๋ ค๊ณ ํฉ๋๋ค! ํ
์คํธ ๋ถ์ NLP ์ ํ
์คํธ ๋ถ์์ ๋จธ์ ๋ฌ๋์ด ๋ฐ์ ํ ์ดํ์ ๋ถ๋ฆฌํด์ ๊ตฌ๋ถํ๋๊ฒ ํฐ ์๋ฏธ๊ฐ ์๋ค. ํ์ง๋ง ๊ตณ์ด ๊ตฌ๋ถ์ ํ์๋ฉด ๋ค์๊ณผ ๊ฐ๋ค. NLP ๋ ๊ธฐ๊ณ๊ฐ ์ธ๊ฐ์ ์ธ์ด๋ฅผ ์ดํดํ๊ณ ํด์ํ๋๋ฐ ์ค์ ์ ๋๊ณ ๊ธฐ์ ์ด ๋ฐ์ ํด์๋ค. ํ
์คํธ ๋ถ์์ ๋น์ ํ ๋ฐ์ดํฐ์์ ์๋ฏธ์๋ ์ ๋ณด๋ฅผ ์ถ์ถํ๋ ๊ฒ์ ์ข ๋ ์ค์ ์ ๋๊ณ ๊ธฐ์ ์ด ๋ฐ์ ํด์๋ค. NLP ๋ ํ
์คํธ ๋ถ์ ๊ธฐ์ ์ง๋ณด์ ๋๋ ฅ์ด๋ผ๊ณ ํ ์ ์์ผ๋ฉฐ, ๋ฐ๋ผ์ NLP ๊ฐ ๋ฐ์ ํจ์ ๋ฐ๋ผ ํ
์คํธ ๋ถ์ ๊ธฐ์ ๋ ๋ฐ์ ํด์๋ค. ๋ํ ๋จธ์ ๋ฌ๋์ NLP ์ ํ
์คํธ ๋ถ์ ๊ธฐ์ ๋ฐ์ ์ ๋๋ ฅ์ด๋ผ๊ณ ํ ์ ์์ผ๋ฉฐ,..
2022.02.17 - [๋จธ์ ๋ฌ๋ | ๋ฅ๋ฌ๋/์ถ์ฒ์์คํ
] - [K-Data x ๋ฌ๋์คํผ์ฆ] 4-3. Multi-Armed Bandit (MAB) [K-Data x ๋ฌ๋์คํผ์ฆ] 4-3. Multi-Armed Bandit (MAB) ์ค์ ์ถ์ฒ์ ๋ง์ด ํ์ฉ๋๊ณ ์๋ ๋ฐฉ๋ฒ์ธ Mutli-Armed Bandit์ ๋ํด ๊ณต๋ถํด๋ณด๋ ค๊ณ ํฉ๋๋ค! Multi-Armed Bandit(MAB)? ๊ฐํํ์ต์ ์๋์ง๋ง ๊ฐํํ์ค๋ธ์ด ํต์ฌ ์์ด๋์ด์ธ Exploitation(์ฐฉ์ทจ) / Exploration(ํํ).. xod22.tistory.com ์ ๋ฒ ํฌ์คํ
์์ MAB์ ๊ธฐ๋ณธ์ ์ธ ์๋ฆฌ์ ๋ํด ๊ณต๋ถํด๋ณด์์ต๋๋ค! ์ด๋ฒ ๊ธ์์๋ MAB์ 4๊ฐ์ง ๋ฐฉ๋ฒ์ ๋ํด ์๊ฐํด๋ณด๋ ค๊ณ ํฉ๋๋ค!! 1. Simple Average Method (greedy ..
์ค์ ์ถ์ฒ์ ๋ง์ด ํ์ฉ๋๊ณ ์๋ ๋ฐฉ๋ฒ์ธ Mutli-Armed Bandit์ ๋ํด ๊ณต๋ถํด๋ณด๋ ค๊ณ ํฉ๋๋ค! Multi-Armed Bandit(MAB)? ๊ฐํํ์ต์ ์๋์ง๋ง ๊ฐํํ์ต์ ํต์ฌ ์์ด๋์ด์ธ Exploitation(์ฐฉ์ทจ) / Exploration(ํํ)์ ํ์ฉ * ์๋ฆฌ 1) ์นด์ง๋
ธ์ ์๋ K๊ฐ์ ์ฌ๋กฏ๋จธ์ ์ N๋ฒ ํ๋ ์ด ํ ์ ์๋ค - ํ๋ฒ์ ํ๊ฐ์ ์ฌ๋กฏ๋จธ์ ์ ๋น๊ธธ ์ ์์! 2) ๊ฐ๊ฐ์ ์ฌ๋กฏ๋จธ์ ์์ ์ป์ ์ ์๋ Reward์ ํ๋ฅ ์ ๋ชจ๋ ๋ค๋ฅด๋ค - Reward๋ 0 ๋๋ 1๋ก ๊ฐ์ 3) ์์ต์ ์ต๋ํํ๊ธฐ ์ํด์ ์ฌ๋กฏ๋จธ์ ์ ์ด๋ค ์์๋ก ๋น๊ฒจ์ผ ํ๋๊ฐ? ๋ชจ๋ ์ฌ๋กฏ๋จธ์ ์ ๋์ผํ๊ฒ ๋น๊ฒจ๋ณธ๋ค(?) -> 5๋ฒ์ฉ -> explore(ํํ) ์ผ์ ํ์๋งํผ ์ฌ๋กฏ๋จธ์ ์ ๋น๊ฒจ๋ณด๊ณ , ๋จ์ ํ์๋ ๊ทธ ์๊ฐ ๋์ ์ ์ผ ๋์ ..
์๋
ํ์ธ์! ์ค๋์ ๋ฅ๋ฌ๋์ ํตํ ์ด๋ฏธ์ง ๋ถ๋ฅ์ ๋ํด ํฌ์คํ
ํด๋ณด๋ ค๊ณ ํฉ๋๋ค. keras์ cifar10๋ฐ์ดํฐ๋ฅผ ๋ก๋ํด์์ ์ด๋ฏธ์ง ๋ถ๋ฅ๋ฅผ ์ํํด๋ณด์์ต๋๋ค. ๊ทธ๋ผ ์-์~ 1. ํจํค์ง ๋ค์ด pip install --upgrade pip pip install tensorflow import numpy as np import os import tensorflow as tf from tensorflow.keras.datasets import cifar10 from tensorflow.keras.models import Sequential from tensorflow.keras.layers import Dense, Dropout, Activation from tensorflow.keras.optimizers imp..