https://huffon.github.io/2020/07/05/tokenizers/ HuggingFace 내 토크나이저 종류 살펴보기 - Programador | Huffon Blog Huggingface Transformers가 버전 3에 접어들며, 문서화에도 더 많은 신경을 쓰고 있습니다. 그리고 이러한 문서화의 일환으로 라이브러리 내에 사용된 토크나이저들의 종류에 대해 간단히 설명을 해주 huffon.github.io 토크나이저, Tokenizer 종류

머신러닝/딥러닝 모델을 학습할 때 전체 데이터셋을 모델에 한번에 입력하기에는 크기가 너무 큼 → 데이터를 여러 개의 작은 데이터 묶음(batch)으로 나눠서 모델에 입력 Epoch Epoch : 전체 데이터에 대해서 순전파와 역전파가 끝난 상태; One Epoch is when an ENTIRE dataset is passed forward and backward through the neural network only ONCE 에포크가 50이면, 전체 데이터 단위로는 총 50번 학습함 Batch size Batch size : 몇 개의 데이터 단위로 매개변수를 업데이트 하는지를 의미; Total number of training examples present in a single batch 배치 크기(..

http://www.iemoji.com/ 😍iEmoji.com - 👀Lookup, ✨Convert, and Get Emoji! 🔥 Sorry, You were logged out! Save your data and login again if you like. Thank you. www.iemoji.com 설정 필요: Jekyll에 Emoji 추가 (Jemoji) https://inpa.tistory.com/entry/MarkDown-%F0%9F%93%9A-Emoji-%EC%9D%B4%EB%AA%A8%ED%8B%B0%EC%BD%98-%EC%82%AC%EC%9A%A9%ED%95%98%EA%B8%B0 [MarkDown] 📚 Emoji 이모티콘 사용하는 방법 마크다운 Emoji 이모티콘 마크다운을 이용해 이모티..

파이토치의 구성요소 torch: 메인 네임스페이스, 텐서 등의 다양한 수학 함수가 포함 torch.autograd: 자동 미분 기능을 제공하는 라이브러리 torch.nn: 신경망 구축을 위한 데이터 구조나 레이어 등의 라이브러리 torch.multiprocessing: 병렬처리 기능을 제공하는 라이브러리 torch.optim: SGD를 중심으로 한 파라미터 최적화 알고리즘 제공 torch.utils: 데이터 조작 등 유틸리티 기능 제공 torch.onnx: ONNX(Open Neural Network Exchange), 서로 다른 프레임워크 간의 모델을 공유할 때 사용 텐서 (Tensors) 데이터 표현을 위한 기본 구조로 텐서(tensor)를 사용 텐서는 데이터를 담기위한 컨테이너(container)로..

정보통신, 컴퓨터, 딥러닝 계열의 논문에서 가끔씩 등장하는 단어 agnostic, task-agnostic 사전을 찾아보면 "불가지론자" "독단적 의견에 사로잡히지[얽매이지] 않는" Agnostic : 다양한 시스템 간에 상호 운용이 가능하도록 일반화된 것; Agnostic, in an information technology(IT) context, refers to something that is generalized so that it is interoperable among various systems. The term can refer not only to software and hardware, but also to business processes or practices. 참조 https://..

다음과 같은 데이터에서 평균을 구해보자 부서 A B C D 인원 수 3 40 2 5 평균 점수 60 40 80 70 $$ Macro\_Average = \frac{60+40+80+70}{4} = 62.5 $$ $$ Micro\_Average = \frac{(3 \times 60) + (40 \times 40) + (2 \times 80) + (5 \times 70)}{50} = 45.8 $$ 매크로 평균과 마이크로 평균의 차이가 꽤나 크다! 이는 매크로 평균이 B부서에 인원이 몰려있다는 정보를 반영하지 못했기 때문이다.