MLE
-
์ด์ง๋ถ๋ฅ์์ Maximum Likelihood Estimation (MLE)AI\ML\DL/Deep learning theory 2023. 5. 10. 17:24
[์ด์ง ๋ถ๋ฅ๋ฌธ์ ์์ MLE ๋ฅผ ์ฌ์ฉํ๋ ์ด์ ] ๋ก์ง์คํฑ ํ๊ท ๋ชจ๋ธ์์ 0๊ณผ 1์ฌ์ด์ ํ๋ฅ ($q$) ์ ์์ธกํ์ฌ ๊ฐ์์ง์ ๊ณ ์์ด๋ฅผ ๋ถ๋ฅ๋ฅผ ํ๋ค๊ณ ํ์. ์๋ฅผ ๋ค์ด ๋ชจ๋ธ์ด ๊ฐ์์ง๋ฅผ ์์ธกํ๋๋ก ํ๋ ค๊ณ ํ๋ค๋ฉด, ๋ก์ง์คํฑ ํ๊ท ๋ชจ๋ธ์ ์ถ๋ ฅ๊ฐ์ธ ๊ฐ์์ง์ผ ํ๋ฅ $q$ ๋ฅผ ํค์ฐ๋ ๊ฒ์ด ํ์ต์ ๋ชฉ์ ์ด๋ค. ๋ฐ๋๋ก ๊ณ ์์ด๋ฅผ ์์ธกํ๋ ค๋ฉด, ๋ก์ง์คํฑ ํ๊ท ๋ชจ๋ธ์ ๊ณ ์์ด์ผ ํ๋ฅ $1-q$ ๋ฅผ ํค์ฐ๋ ค๊ณ ํ ๊ฒ์ด๋ค. ํ๋ฅ ๊ฐ q๋ ์ ๋ ฅ๊ฐ$\times $๊ฐ์ค์น์ ์๊ทธ๋ชจ์ด๋๋ฅผ ๊ฑฐ์ณ ๊ณ์ฐ๋ ๊ฐ์ด๋ฏ๋ก ๊ฐ์ค์น w์ ๋ํ ํจ์๋ก๋ ๋ณผ ์ ์๋ค. ์ด๋ ๋ชจ๋ธ์ ๊ฐ์ค์น w๋ฅผ ์ถ์ ํ๊ธฐ ์ํด์ ์ต๋์ฐ๋์ถ์ ๊ธฐ๋ฒ์ ์ฌ์ฉํ๋ค. ์ฆ, q ๋๋ 1-q๋ฅผ ์ต๋๋ก ๋ง๋๋ ๊ฐ์ค์น w๋ฅผ ์ฐพ๊ณ ์ ํ๋ ๊ฒ์ด MLE ๊ธฐ๋ฒ์ด๋ค. (๊ฐ์์ง๋ฉด $q$ , ๊ณ ์์ด๋ฉด $1-q$ ๋ฅผ ..