개발/NLP

[NLP] 파이토치와 구글 코랩으로 배우는 BERT 입문 1장

용어 정리 인공지능>머신러닝>딥러닝 신경망 : 단순한 기능만 가진 뉴런이 층을 이루어, 층 사이에서 연결이 수행되는 것을 통해 형태가 만들어진다. 딥러닝 : 많을 층을 가진 깊은 신경망을 사용해 학습한다. 층의 수가 많아질수록 표현련은 향상하지만, 학습은 어려워진다. 역전파(back-propagation) : 신경망에서 한 층씩 거슬러 올라가도록 오차를 전파시켜 기울기를 계산 및 그 기울기에 기반해 매개변수를 갱신한다. 자연어 처리 개념 자연어 처리 : 컴퓨터가 사람의 자연어를 이해하는 것을 목적으로 한다. DeepL : 일상언어의 미묘한 뉘앙스까지 번역할 수 있다. 형태소 분석 : 자연어를 형태소로 분할하는 것 word2vec 단어를 벡터화(=텍스트를 숫자화하기)하고, 유사도가 높은 단어를 찾거나, 단..