본문 바로가기

분류 전체보기

우분투 Read-only 문제 해결 우분투를 사용하다가 파일이 Read-only 일 때, 컴퓨터를 끄고 켜면 아래와 같은 화면이 나타난다. 이때 1번째 줄 Ubuntu를 선택하여 실행하면 검은색 바탕에 다음과 같은 화면이 나타난다. 이때 fsck /dev/sda1를 쳐주면 복구할 수 있다. 더보기
Python Decorator(데코레이터) @의 의미 출처 : https://bluese05.tistory.com/30 python으로 작성된 코드들을 보다 보면 @로 시작하는 구문들을 볼 수 있습니다. @decorator_ def function(): print("what is decorator?") Decorator를 한마디로 얘기하자면, 대상 함수를 Wrapping 하고, Wrapping 된 함수의 앞뒤에 추가적으로 꾸며질 구문들을 정의해서 손쉽게 재사용 가능하게 해주는 것입니다. Decorator는 감싸고 있는 함수를 호출하기 전이나 후에 추가로 코드를 실행하는 기능을 갖췄습니다. 이 기능으로 입력 인수와 반환 값을 접근하거나 수정할 수 있습니다. 이 기능은 시맨틱 강조, 디버깅, 함수 등록을 비롯해 여러 상황에 유용합니다. Decorator는 어떤.. 더보기
BERT Pre-trained Model BERT 사전 학습 모델 (Pre-trained model) pytorch-transformers를 설치합니다. !pip install pytorch-transformers 다음을 입력하여 BERT 사전 학습 모델을 설치하여줍니다. import torch from pytorch_transformers import BertTokenizer, BertForSequenceClassification, BertConfig device = torch.device("cuda") tokenizer = BertTokenizer.from_pretrained('bert-base-multilingual-cased') model = BertForSequenceClassification.from_pretrained('bert-b.. 더보기
Transfer Learning(전이 학습) 오늘날 딥러닝 분야에서 주요하게 연구되는 주제가 있습니다. 바로 Transfer Learning(전이 학습)입니다. Transfer Learning(전이 학습) 이란? (학습 데이터가 부족한 분야의 모델 구축을 위해 데이터가 풍부한 분야에서 훈련된 모델을 재사용하는 학습 기법) 이는 특정한 Task( Classification, Detection, Segmentation 등)에 대하여 학습된 딥러닝 모델을, 다른 Task로 Transfer(전이)하여 해당 모델으 사후적으로 학습하는 개념을 포괄합니다. 특정 분야에서 학습된 신경망의 일부 능력을 유사하거나 전혀 새로운 분야에서 사용되는 신경망의 학습에 이용하는 것을 의미합니다. 따라서 기존의 만들어진 모델을 사용하여 새로운 모델을 만들시 학습을 빠르게 하여.. 더보기
Markov Process Markov Process(MP) Markov Process의 Wikipedia 정의는 확률론에서 마르코프연쇄는 메모리를 갖지 않는 이산 시간 확률 과정입니다. 확률 과정 : 시간이 진행 함에 따라 상태가 확률적으로 변화는 과정 임의의 값(random value)이 이산적인(discrete)한 시간(time interval)마다 값을 생성해내는 것을 의미합니다. 이때 시간(time interval)이 이산적(discrete)이고 현재의 상태(state)가 이전 상태(state)에만 영향을 받는 확률 과정입니다. Markov Property(= Memoryless Property) Markov property는 어떤 시간에 특정 상태(state)에 도달하든 그 이전에 어떤 상태(state)를 지나왔든 다음.. 더보기
PyTorch-Basic (tensor 선언/연산, model parameters/epoch/loss) 0. torch version check import torch print("Output : ", torch.__version__) 1. torch.tensor 선언하기 (torch.zeros/torch.ones) torch.tensor Data type Homepage : https://pytorch.org/docs/stable/tensors.html torch.Tensor — PyTorch master documentation Shortcuts pytorch.org import torch x = torch.tensor([1,2,3,4,5,6]) print(x) x = torch.zeros((5,6)) print(x) x = torch.ones((5,6), dtype = torch.int8) print.. 더보기
BART: Denoising Sequence-to-Sequence Pre-training for Natural Language Generation, Translation, and Comprehension 바트 모델(Bart model) 논문 : https://arxiv.org/pdf/1910.13461.pdf github pytorch/fairseq/BART : https://github.com/pytorch/fairseq/tree/master/examples/bart github pytorch/fairseq : https://github.com/pytorch/fairseq pytorch/fairseq Facebook AI Research Sequence-to-Sequence Toolkit written in Python. - pytorch/fairseq github.com Facebook AI Research 0. 소개 먼저 Github에는 이렇게 나와있습니다. BART는 프리 트레이닝 목표로 노이즈 제거 기능을 갖춘 시퀀스-시퀀스 .. 더보기
우분투 Visual Studio Code Server설정하기 우분투 코드 서버 설정 0. build-essential 설치 build-essential 은 소스코드 빌드 시 필요한 기본적인 패키지들을 다운로드 합니다. 설치 후에는 gcc, g++, make, perl 등과 각종 라이브러리들이 설치됩니다. $ sudo apt-get install -y build-essential 1. Visual studio Code 설치 https://code.visualstudio.com/ Visual Studio Code - Code Editing. Redefined Visual Studio Code is a code editor redefined and optimized for building and debugging modern web and cloud applications. Visual St.. 더보기

티스토리툴바