๋ถ๋ฅ ์ ์ฒด๋ณด๊ธฐ
-
Transformer: Attention is all you need๋ณดํธ๊ธ 2023. 10. 23. 17:46
๋ณดํธ๋์ด ์๋ ๊ธ์ ๋๋ค.
-
ln -s ๋ช ๋ น์ดComputer Science/๊ฐ๋ฐ 2023. 10. 11. 15:06
ln (link) ๋ช ๋ น์ด, - ํ ํ์ผ์ ๋ค๋ฅธ ํ์ผ ์ด๋ฆ์ผ๋ก๋ ์ฌ์ฉํ๊ณ ์ ํ ๋ ์ฌ์ฉํ๋ ๋ช ๋ น์ด, - ๋งํฌ๋ ํ์ผ ์ค ํ ํ์ผ์ ์์ ํ๋ฉด ๋ค๋ฅธ ํ์ผ๋ค๋ ์์ ๋จ, - ํ๋๋งํฌ์ ์ฌ๋ณผ๋ฆญ๋งํฌ๊ฐ ์์, ํ๋ ๋งํฌ, - ํ๋์ ํ์ผ์ ์ฌ๋ฌ ๊ฐ์ ์ด๋ฆ์ ๋ถ์ฌํจ, - ํ์ผ์ ์์ ๋ ค๋ฉด ๋งํฌ๋ก ์์ฑ๋ ๋งํฌ ํ์ผ์ ๋ชจ๋ ์ง์์ผ ํจ, ์ฌ๋ณผ๋ฆญ ๋งํฌ, - ์๋์ฐ ์ด์์ฒด์ ์ ๋ฐ๋ก ๊ฐ๊ธฐ ์์ด์ฝ์ด๋ผ๊ณ ๋ณด๋ฉด๋จ, - ๋งํฌ๋ก ์์ฑ๋ ํ์ผ์ ๋ด์ฉ์ด ์กด์ฌํ์ง ์๊ณ ๊ฐ๊ฐ์ i-node๋ฅผ ๊ฐ์ง ๋ ๋ค๋ฅธ ํ์ผ์ด ์ด๋๋ฅผ ๊ฐ๋ฆฌํค๊ณ ์๋์ง ์๋ ค์ฃผ๋ ์ญํ , - ์๋ณธํ์ผ๋ช ์ด ๋ฐ๋๋ฉด ์ฌ์ฉํ์ง ๋ชปํจ, ์ฌ์ฉ๋ฒ, $ ln [์๋ณธ ํ์ผ๋ช ] [๋์ํ์ผ๋ช ] ์ถ์ฒ) https://m.blog.naver.com/PostView.nhn?blogId=firstrokn&log..
-
ํฐ๋ฏธ๋์์ ๊น ์ปค๋ฐํ๊ธฐComputer Science/๊ฐ๋ฐ 2023. 10. 6. 23:14
โ โซถ 1. github ๊ณ์ ์ด๊ธฐ ์ค์ ๊น์ด ์ค์น๋ ์ํ์์ ํฐ๋ฏธ๋์ ์ด๊ณ ์๋ ์ฝ๋๋ฅผ ์ ์ด ์ฌ์ฉ์ ์ด๋ฆ๊ณผ ๊นํ๋ธ ์ด๋ฉ์ผ์ ์ ์ด์ค๋ค. --global ์ต์ ์ ์ด ์ค์ ์ด ํ์ฌ ์ฌ์ฉ์์ ์ ์ญ Git ํ๊ฒฝ(๋ชจ๋ git ์ ์ฅ์)์ ์ ์ฉ๋๋๋ก ํ๋ ๊ฒ์ ์๋ฏธํ๋ค. git config -—global user.name "name" git config —-global user.email "๊นํ๋ธ ์ด๋ฉ์ผ" 2. ๋ก์ปฌ์ ์ฅ์ ์ด๋ ์ ๋ก๋ํ๊ณ ์ถ์ ์ฝ๋ ํ์ผ์ด ์๋ ๋ก์ปฌ ํด๋๋ก ์ด๋ํ๋ค. cd "๋ก์ปฌ ํด๋๋ช " 3. git init ์ด๋ํ ๋ก์ปฌ ํด๋ ์์น์์ git init ๋ช ๋ น์ด๋ฅผ ์ ๋ ฅํ์ฌ ํด๋น ์์น์์ ๊น์ ์์ํ๊ณ ์์ ์ ํ ์ ์๊ฒ ๋๋ค. ๋ช ๋ น์ด๋ฅผ ์น๋ฉด .git ์ด๋ผ๋ ์จ๊น ํด๋๊ฐ ๋ง๋ค์ด์ง๋ค. ์ด๊ณณ์ ์ฐ๋ฆฌ๊ฐ ํด๋์์..
-
Step by step object detection, STEP 1. ๋ฐ์ดํฐ์ ์ค๋นํ๊ธฐComputer Science/๊ฐ๋ฐ 2023. 10. 1. 16:51
๊ฐ์ฒด ๊ฒ์ถ ํ์ต ๋ชจ๋ธ ๊ตฌํ์ ๋จ๊ณ๋ณ๋ก ์ ๋ฆฌํ๋ ํฌ์คํธ๋ฅผ ์์ฑํด๋ณด๋ ค๊ณ ํ๋ค. ์๊ทผ ์์ํ๊ฒ ์ ๊ฒฝ์ธ๊ฒ ๋ง์์ ์ ๋ฆฌํด๋๋ฉด ๋์ค์ ํ์ฉํ๊ธฐ์ ์ข์ ๊ฒ ๊ฐ๋ค. ๋จผ์ ์ด ๊ณผ์ ์ sgrvinod ๊นํ๋ธ์ 'Deep Tutorials for PyTorch' ํํ ๋ฆฌ์ผ์ ์ฐธ๊ณ ํด์ ์งํ๋์๋ค. ๋ด๊ฐ ์ฌ์ฉํ ๊ฐ์ฒด ๊ฒ์ถ ๋ฐ์ดํฐ์ ์ AI HUB ์ '๊ฑด๊ฐ๊ด๋ฆฌ๋ฅผ ์ํ ์์ ์ด๋ฏธ์ง ๋ฐ์ดํฐ' ์ด๋ค. ์ด ๋ฐ์ดํฐ์ ์๋ ์์๊ณผ ๊ด๋ จ๋ 500์ฌ๊ฐ ์นดํ ๊ณ ๋ฆฌ๊ฐ ์กด์ฌํ๋๋ฐ, ์ปดํจํ ์ ๋ฆฌ์์ค๋ฅผ ๊ณ ๋ คํ์ฌ, ๊ณผ์ผ๊ณผ ์ฑ์ ๋๋ถ๋ฅ ์ค ์ผ๋ถ ์นดํ ๊ณ ๋ฆฌ๋ง์ ์ ์ ํ์ฌ ๊ฐ์ฒด ๊ฒ์ถ์ ์งํํ๊ธฐ๋ก ํ๋ค. ๊ทธ๋ฆฌํ์ฌ ์ ์ ๋ ์นดํ ๊ณ ๋ฆฌ๋ ๋ค์๊ณผ ๊ฐ๋ค. ๊ณผ์ผ: ๋ง๊ณ (1), ๋ฉ๋ก (2), ๋ธ๊ธฐ(3), ๋ธ๋ฃจ๋ฒ ๋ฆฌ(4), ์ฌ๊ณผ(5), ์๋ชฝ(6), ์๋(7), ์ฒ๋๋ณต์ญ์(8), ์ฒญํฌ๋(9..
-
torch.cat vs torch.stackAI\ML\DL/Pytorch 2023. 9. 29. 22:14
torch.cat ๊ณผ torch.stack ์ ์๋ก ๋ค๋ฅธ ํ ์ ๊ฒฐํฉ ๋ฐฉ๋ฒ์ด๋ค. 1) torch.cat (Concatenate) torch.cat ์ ์๋ก ๋ค๋ฅธ ํ๋ ฌ์ด์๋ ๋ ํ ์๋ฅผ ํ๋์ ํ ์๋ก ๋ง๋ค์ด์ค๋ค. ๋ฐ๋ผ์ ์ฐจ์์ ๋ณํ๊ฐ ์๊ธฐ์ง ์๋๋ค. ์๋ฅผ ๋ค์ด ๋ ๊ฐ์ 2x3 ์ง๋ฆฌ ํ๋ ฌ์ cat ํด์ฃผ๋ฉด ์์์ฃผ๋ ๋ฐฉํฅ์ ๋ฐ๋ผ 4x3 ํ๋ ฌ์ด๋ 2x6 ํ๋ ฌ์ด ๋๋ค. import torch # 2x3 ํ๋ ฌ ํ๋ a = torch.tensor([[1,2,3],[4,5,6]]) # 2x3 ํ๋ ฌ ํ๋ b = torch.tensor([[7,8,9],[10,11,12]]) # ํ๋ฐฉํฅ ์๊ธฐ c = torch.cat([a,b], dim=0) # ์ด๋ฐฉํฅ ์๊ธฐ d = torch.cat([a,b], dim=1) print(c) pri..
-
Frobenius normMathematics/Linear algebra 2023. 9. 19. 12:55
Frobenius norm ๊ณผ Trace Frobenius norm์ trace๋ก ์ ์ํ๋ ๋ฌธ์ ๊ฐ ์์ด์ ๊ฐ์ ธ์ ๋ดค๋ค. ์ฐ์ Frobenius norm ์ ๋ค์๊ณผ ๊ฐ์ด ์ ์๋๋ค. $$\left\|A \right\|_{F}=\sqrt{\textrm{Tr}(A^{T}A)}$$ (a) ๋ฅผ ๋ณด๋ฉด A๋ nxn ์ ์ ๋ฐฉํ๋ ฌ์์ ๊ฐ์ ํ๋ค. $$\left\|A \right\|_{F}=\sqrt{\textrm{Tr}(AA^{T})}=\sum_{i}^{n}\begin{bmatrix} A^{T}A\end{bmatrix}_{ii}=\sum_{i}^{n}(\sum_{j}^{n}A_{ij}^{T}A_{ji})=\sum_{i,j}^{n}A_{ij}^{2}$$ ์ ์์ ๋ฐ๋ผ์ ์์ ์ ๊ฐํด๋ณด๋ฉด frobenius norm ์ด ๋ชจ๋ ์์์..
-
Inception Net (2014.09)AI\ML\DL/๋ ผ๋ฌธ ๋ฆฌ๋ทฐ 2023. 9. 17. 00:07
* * * Inception Net ์ Google์์ ๋ฐํํ ๋คํธ์ํฌ๋ก VGG Net๊ณผ ๊ฐ์ ํด์ ๋์จ ๋ชจ๋ธ๋ก, ILSVRC 2014 ๋ํ์์ 1์๋ฅผ ์ฐจ์งํ ๋ชจ๋ธ์ด๋ค. GoogLeNet์ด๋ผ๊ณ ๋ ๋ถ๋ฆฐ๋ค. Inception Net์ Lin et al. ์ Network in Network ์ด๋ผ๋ ๋ ผ๋ฌธ๊ณผ "we need to go deeper" ์ด๋ผ๋ ์ ๋ช ํ ์ธํฐ๋ท ๋ฐ์ผ๋ก๋ถํฐ ์๊ฐ์ ๋ฐ์ ์ด๋ฆ์ ์ง์๋ค๊ณ ํ๋ค. ์ค์ ๋ก ๋ ผ๋ฌธ์์ ์๋์ internet meme์ ์ฒซ ๋ฒ์งธ๋ก ์ธ์ฉํ๋ค. Inception Module Inception Module์ Inception Net ๋ด๋ถ์์ ์ด 9๋ฒ์ด๋ ๋ฐ๋ณตํ๋ ๋ชจ๋์ด๋ค. VGGNet ๋ฅผ ์๊ฐํด๋ณด๋ฉด 3x3 conv๋ฅผ ๋ ๋ฒ ํด์ 5x5 conv ์ ๊ฐ์ receptive ..