𝄢 𝄢

✣ 에지 검출(edge detection)은 컴퓨터 비전이 초창기부터 중요하게 다루어온 연구 주제다. 에지는 물체 경계에 있는 점이다. 에지를 완벽하게 검출해 물체의 경계를 폐곡선으로 따낼 수 있다면 분할 문제가 저절로 풀린다. 반대로 영역 분할 알고리즘이 완벽해 물체를 독립된 영역으로 분할하면 에지 검출 문제가 저절로 풀린다. 반대로 영역 분할 알고리즘이 완벽해 물체를 독립된 영역으로 분할하면 에지 검출 문제가 저절로 풀린다. 따라서 둘은 쌍대 문제다. 하지만 둘은 완전히 다른 방향으로 문제 해결을 모색한다. 에지 검출은 특성이 크게 다른 화소에 집중하는 반면 영역 분할은 비슷한 화소를 묶는 방식을 선호한다. ﹡ 1.1. 에지 검출 에지 검출 알고리즘은 물체 내부는 명암이 서서히 변하고 물체 경계는 명..

﹡ 이미지 다중분류 문제에서 CNN을 사용하면 convolution layer 와 ReLU, Batchnorm2d, MaxPool2d를 반복하다가 마지막에는 fully connected layer를 통과해서 softmax를 얻어 분류를 해주어야 한다. 예를 들어 CIFAR10 데이터셋으로 10가지를 분류하는 네트워크를 만든다고 하자. 통상적인 네트웍에서는 CNN 레이어를 통과해서 다양한 특징맵을 뽑아내고 풀링을 해서 사이즈를 반으로 줄인다. (Maxpooling을 한다고 해서 채널수가 줄지는 않는다. 채널별로 각각 풀링해주는 거니까) 충분히 특징맵을 얻었다면 nn.Linear( )를 활용해서 최종적인 출력 노드를 10개로 줄여줘야 할 것이다. 이때 nn.Linear(?, 10)의 ? 부분에 어떤것을 써야..

일반적으로 이미지 데이터는 너비, 높이, 채널 순서로 표현되는 RGB 포맷을 사용한다.예를 들어, 32x32 크기의 컬러 이미지의 경우 (32,32,3) 으로 표현되며, 각 차원은 각각 (행, 열, 채널) 을 나타낸다. 이미지를 (행,열,채) 형식으로 읽고 처리하는 라이브러리는 다음과 같다.NumpyOpenCVMatplotlib (이미지 처리는 아니지만 데이터 시각화 할 때) 이를 확인해보기 위해 numpy 로 랜덤한 정수를 생성하여 3채널 (RGB) 이미지를 생성하는 코드를 작성해 보았다. 생성한 이미지 데이터의 shape을 확인하면 (행,열,채널) 순서로 출력되는 것을 확인할 수 있다. import numpy as npimport matplotlib.pyplot as plt# 가상의 이미지 데이터 생..

Ordinal Regression is a learning task for predicting a label (or rank) or the object, where the set of labels has a linear order, e.g., the set of integers. '순환 회귀'는 레이블의 세트가 선형적 순서를 가질때 (예를들면 정수의 집합) 객체의 레이블 또는 랭크를 예측하는 학습 방법이다. Ordinal Regression는 다음과 같은 방법으로 연구되어 왔다. - SVM - Gaussian processes - Perceptron learning Frank 와 Hall 은 ordinal binary decomposition 를 제안했다. : 이진 분류기를 구성하여 객체의 랭크가 k보다..

DataLoader DataLoader 는 데이터셋을 미니 배치 단위로 분할하여 학습프로세스에 제공해주는 역할을 한다. 데이터로더 (DataLoader) 객체는 학습에 사용될 데이터 전체를 보관했다가 모델 학습을 할 때 배치 크기만큼 데이터를 꺼내서 사용한다. 이때 주의할 것은 데이터를 미리 잘라 놓는 것이 아니라 내부적으로 반복자 (iterator)에 포함된 인덱스 (index)를 이용하여 배치 크기만큼 데이터를 반환한다는 것이다. DataLoader 사용 예시 아래의 코드는 각각 5개의 샘플을 가진 데이터 (data; example data) 와 레이블 (labels) 텐서로 dataset을 만든 후에 dataloader를 만들어서 배치 크기만큼 데이터를 비복원추출하여 프린트하는 간단한 코드이다. 이..

Fully connected layer nn.Linear(입력노드 개수, 출력노드 개수) 위의 문서를 보면, nn.Linear() 에서 입력 벡터 $x$ 와 가중치 벡터 $w$ 를 곱해줄 때, 가중치 $w$에 transpose를 취해줘서 곱해준다. 그 이유는 무엇일까? mlp 에서 노드는 채널을 의미한다. nn.Linear 는 입력으로 1D data가 들어오길 기대하는데, 데이터를 여러 개 통과시킬 때 특정 채널 수를 가진 데이터 n개를 (개수n $\times$ 채널) 형태로 통과시켜야 한다. weight 또한 (개수x채널) 형태로 표현해주자. 일단 weight의 채널은 앞에 있는 노드의 채널이랑 맞춰야 해서 가중치의 채널은 입력 노드의 채널수로 정해진 상태이다. 예를 들어 nn.Linear(3,2) 으..

1) requires_grad 텐서 객체의 attribute 로, 그래디언트의 계산 여부를 결정한다. requires_grad 속성을 True 로 설정하여 텐서에 대한 그래디언트 계산을 활성화할 수 있다. requres_grad 속성이 False 로 설정된 텐서에 대해서는 그래디언트를 계산하지 않는다. 이를 통해 불필요한 계산을 줄여 연산 속도를 향상시킬 수 있다. 2) 역전파 계산 x=torch.tensor([1.], requires_grad=True) y=x**2 y.retain_grad() z=3*y z.backward() print(x.grad) print(y.grad) x -> x**2 -> 3x**2 순으로 진행되므로 x 에 대해서 3x**2 를 chain rule을 통해 편미분하면 결과는 6..

랜덤 함수 1. torch.randn: 랜덤한 숫자들을 평균이 0, 분산이 1이되도록 normal distribution으로 반환 2. torch.rand: 0부터 1사이 랜덤한 숫자들을 uniform distribution 으로 반환 3. torch.randint(1,5,size=(12,)): 1부터 5미만 12개 정수 모두 원하는 행렬 사이즈로 랜덤한 값들을 생성할 수 있는 함수이다. print(A[A[:,0]