BERT

Bidirectional Encoder Representations from Transformers

자연어 처리 언어 모델

구분

규칙/지식 기반 접근법

Symbolic Approach

• [Now] [Weather] [What]
• 무식한 방법이지만 현대 챗봇, 인공진공 스피커 등에서 가장 많이 적용되는 방법

확률/통계 기반 접근법 =

Statistical Approach

• TF-IDF

딥러닝 적용법

• 기존 접근법에 딥러닝 학습 적용