𝄢 𝄢

파이썬 3 에서는 bytes, str 두가지 타입으로 문자 시퀀스를 나타낸다. bytes 인스턴스는 raw 8비트 값을 저장한다. str 인스턴스는 유니코드 문자를 저장한다. 파이썬 2에서는 str 과 unicode 두 가지 타입으로 문자 시퀀스를 나타낸다. 파이썬 3 와는 다르게 str 인스턴스는 raw 8비트 값을 저장한다. unicode 인스턴스는 유니코드 문자를 저장한다. 유니코드 문자를 바이너리 데이터(0과 1, 8비트값) 로 표현하는 방법은 많다. 가장 일반적인 인코딩은 UTF-8이다. 중요한 건 파이썬 3의 str 과 파이썬 2의 unicode 는 연관된 바이너리 인코딩이 없다는 점이다. 유니코드 문자를 바이너리 데이터로 변환하려면 encode 메서드를 사용해야 한다. 반대로 bytes를 u..

Ordinal Regression is a learning task for predicting a label (or rank) or the object, where the set of labels has a linear order, e.g., the set of integers. '순환 회귀'는 레이블의 세트가 선형적 순서를 가질때 (예를들면 정수의 집합) 객체의 레이블 또는 랭크를 예측하는 학습 방법이다. Ordinal Regression는 다음과 같은 방법으로 연구되어 왔다. - SVM - Gaussian processes - Perceptron learning Frank 와 Hall 은 ordinal binary decomposition 를 제안했다. : 이진 분류기를 구성하여 객체의 랭크가 k보다..

split 함수는 문자열을 이쁘게 나눠서 리스트로 만들 때 사용하는 함수이다. 1. split 함수 문자열.split() 문자열.split('구분자') 문자열.split('구분자', 분할횟수) 문자열.split(sep='구분자', maxsplit=분할횟수) 이런식의 모양들이 있다. 제일 마지막 것이 제일 정확하다. 문자열.split() 함수는 문자열을 일정한 규칙으로 잘라서 리스트로 만들어 주는 함수이다. 좀더 정확하게 말하자면 문자열.split(sep, maxsplit) 함수는 문자열을 maxsplit 횟수만큼 sep 의 구분자를 기준으로 문자열을 구분하여 잘라서 리스트로 만들어 준다. - sep 파라미터 해당 파라미터의 기본값은 none이며, 이때 기본값으로 띄어쓰기나 엔터를 구분자로 하여 문자열을 ..

﹡ 1. map 함수 설명과 사용법 1-1) 파이썬 맵 함수 map(function, iterable) map 함수의 모양은 위와 같다. 첫 번째 매개변수로는 함수가 오고, 두 번째 매개변수로는 반복가능한 자료형(리스트, 튜플 등)이 온다. map 함수의 반환 값은 map 객체이기 때문에 해당 반환값의 자료형을 list 또는 tuple로 형 변환시켜 주어야 한다. 함수의 동작은 두 번째 인자로 들어온 반복 가능한 자료형 (리스트나 튜플)을 첫 번째 인자로 들어온 함수에 하나씩 집어넣어서 함수를 수행하는 함수이다. map(적용시킬 함수, 적용할 값들) 이런식이다. 예를 들어 첫번째 인자가 값에 +1을 더해주는 함수라고 하고 두번째 인자에 [1,2,3,4,5] 라는 리스트를 집어넣으면 함수의 모양은 아래와 ..

DataLoader DataLoader 는 데이터셋을 미니 배치 단위로 분할하여 학습프로세스에 제공해주는 역할을 한다. 데이터로더 (DataLoader) 객체는 학습에 사용될 데이터 전체를 보관했다가 모델 학습을 할 때 배치 크기만큼 데이터를 꺼내서 사용한다. 이때 주의할 것은 데이터를 미리 잘라 놓는 것이 아니라 내부적으로 반복자 (iterator)에 포함된 인덱스 (index)를 이용하여 배치 크기만큼 데이터를 반환한다는 것이다. DataLoader 사용 예시 아래의 코드는 각각 5개의 샘플을 가진 데이터 (data; example data) 와 레이블 (labels) 텐서로 dataset을 만든 후에 dataloader를 만들어서 배치 크기만큼 데이터를 비복원추출하여 프린트하는 간단한 코드이다. 이..

Fully connected layer nn.Linear(입력노드 개수, 출력노드 개수) 위의 문서를 보면, nn.Linear() 에서 입력 벡터 $x$ 와 가중치 벡터 $w$ 를 곱해줄 때, 가중치 $w$에 transpose를 취해줘서 곱해준다. 그 이유는 무엇일까? mlp 에서 노드는 채널을 의미한다. nn.Linear 는 입력으로 1D data가 들어오길 기대하는데, 데이터를 여러 개 통과시킬 때 특정 채널 수를 가진 데이터 n개를 (개수n $\times$ 채널) 형태로 통과시켜야 한다. weight 또한 (개수x채널) 형태로 표현해주자. 일단 weight의 채널은 앞에 있는 노드의 채널이랑 맞춰야 해서 가중치의 채널은 입력 노드의 채널수로 정해진 상태이다. 예를 들어 nn.Linear(3,2) 으..

1) requires_grad 텐서 객체의 attribute 로, 그래디언트의 계산 여부를 결정한다. requires_grad 속성을 True 로 설정하여 텐서에 대한 그래디언트 계산을 활성화할 수 있다. requres_grad 속성이 False 로 설정된 텐서에 대해서는 그래디언트를 계산하지 않는다. 이를 통해 불필요한 계산을 줄여 연산 속도를 향상시킬 수 있다. 2) 역전파 계산 x=torch.tensor([1.], requires_grad=True) y=x**2 y.retain_grad() z=3*y z.backward() print(x.grad) print(y.grad) x -> x**2 -> 3x**2 순으로 진행되므로 x 에 대해서 3x**2 를 chain rule을 통해 편미분하면 결과는 6..

랜덤 함수 1. torch.randn: 랜덤한 숫자들을 평균이 0, 분산이 1이되도록 normal distribution으로 반환 2. torch.rand: 0부터 1사이 랜덤한 숫자들을 uniform distribution 으로 반환 3. torch.randint(1,5,size=(12,)): 1부터 5미만 12개 정수 모두 원하는 행렬 사이즈로 랜덤한 값들을 생성할 수 있는 함수이다. print(A[A[:,0]