-
Stochastic differential equation(SDE)AI\ML\DL/Deep learning theory 2023. 12. 5. 14:52๋ฐ์ํ
ํ๋ฅ ๋ฏธ๋ถ๋ฐฉ์ ์ (Stochastic differential equation)
SDE๋ ์ผ๋ฐ ๋ฏธ๋ถ ๋ฐฉ์ ์๊ณผ ํธ๋ฏธ๋ถ ๋ฐฉ์ ์ ์ฌ์ด์ connection์ ์ ๊ณตํ๋ค. ์ผ๋ฐ ๋ฏธ๋ถ ๋ฐฉ์ ์(ODE)๊ณผ ์ ์ฌํ๋, ํ๋ฅ ์ ์์๋ฅผ ์ถ๊ฐํ์ฌ ๋ ๋ณต์กํ ์์คํ ์ ๋ชจ๋ธ๋งํ๋ ๋ฐ ์ฌ์ฉ๋๋ค.
1) ODE
์ผ๋ฐ๋ฏธ๋ถ๋ฐฉ์ ์์ ๋ณ์์ ๋ณํ๋ฅผ ์๊ฐ์ ๋ํด ์ค๋ช ํ๋ ๋ฐฉ์ ์์ด๋ค.
$$ \frac{dx}{dt}=f(x,t)$$
ODE๋ ๋์ผํ ์ด๊ธฐ๋ณ์์ ๋งค๊ฐ๋ณ์ ํ์ ํด๊ฐ ํญ์ ๋์ผํ์ฌ deterministicํ๋ค. randomness ๋ฅผ ๊ณ ๋ คํ์ง ์๊ธฐ ๋๋ฌธ์ด๋ค.
2) SDE
๋ฐ๋ฉด ํ๋ฅ ๋ฏธ๋ถ๋ฐฉ์ ์์ ODE์ ํ๋ฅ ์ฑ ๋๋ ๋ ธ์ด์ฆ๋ฅผ ํตํฉํ์ฌ ๋ถํ์ค์ฑ์ ๊ฐ์ง ์์คํ ์ ๋ชจ๋ธ๋งํ๋ค.
$$ dx=f(x,t)dt+g(x,t)\cdot dB(t)$$
์ด๋ $B(t)$๋ ํ๋ฅ ์ฑ ์์๋ฅผ ์ถ๊ฐํ๋ Brownian motion ์ ๋ํ๋ด๋ฉฐ ์ด๊ฒ ๋๋ฌธ์ ๋์ผํ ์ด๊ธฐ ์กฐ๊ฑด์์ ๋งค๋ฒ ํด๊ฐ ๋ฌ๋ผ์ง๋ค.
'AI\ML\DL > Deep learning theory' ์นดํ ๊ณ ๋ฆฌ์ ๋ค๋ฅธ ๊ธ
Receptive field (0) 2023.09.15 Insights for CNN (0) 2023.09.13 2D convolution (Conv2d) ๊ณผ์ ์ ์ดํด (0) 2023.05.28 Batch Normalization (0) 2023.05.11